تقرير يكشف أسرار الشركات: خطورة تسريب الذكاء الاصطناعي التوليدي!

النقاط الرئيسية

مخاطر استخدام الذكاء الاصطناعي التوليدي

تشير المعلومات المقدمة من قبل المستخدمين إلى أن بياناته يمكن أن تقع في الأيدي الخطأ. وفقًا لتقرير حديث، فإن **8.5%** من مطالبات استخدام أدوات الذكاء الاصطناعي التوليدي مثل **ChatGPT** و**Copilot** تحتوي على معلومات حساسة، مثل بيانات الفواتير والمصادقة.

تقرير « هارمونيك »

أوضح التقرير أن الزيادة السريعة في استخدام الذكاء الاصطناعي التوليدي يأتي مع **مخاطر أمنية** خطيرة. لا يزال العديد من المستخدمين والمنظمات يتجاهلون هذه المخاطر.

المخاطر المرتبطة بالخصوصية

بحسب **آنا كولارد**، نائب الرئيس الأول لاستراتيجية المحتوى في **KnowBe4 Africa**، فإن **تسرب البيانات غير المقصود** هو إحدى المخاطر الأساسية. حيث الكثير من الناس لا يدركون كمية المعلومات الحساسة التي يدلون بها.

• عدم فهم قيمة المعلومات الشخصية.
• مشاركة بيانات أصحاب العمل دون علم.
• التفاعل مع أدوات غير مأمونة.

التوجهات السلبية

أشارت كولارد إلى أن الناس يميلون للكشف عن أكثر مما قد يفعلون في بيئة عمل تقليدية، حيث يمكنهم مشاركة **اهتماماتهم** وأوضاعهم **العمل**.

التأثيرات المحتملة

هذه البيانات يمكن أن تُجمع في **ملفات تعريف** يستخدمها مجرمو الإنترنت، مما يزيد من احتمالية **التصيد الاحتيالي** وسرقة **الهويات**.

أهمية التدريب والخصوصية

ذكرت كولارد أنه يجب تدريب الموظفين على **السلوك الصحيح** في استخدام هذه الأدوات. يتضمن ذلك تحديد المعلومات المسموح بها. وتوصي بتقييد الوصول إلى أدوات الذكاء الاصطناعي غير المراقبة.

التوجه لتصميم الخصوصية

تجب على المنظمات تبني نهج **الخصوصية في التصميم** عند اعتماد الذكاء الاصطناعي، باستخدام منصات ذات ضوابط بيانات صارمة.

الامتثال واللوائح

ينبغي أن تتماشى برامج **الامتثال الداخلية** مع القوانين والمعايير الأخلاقية. توصي كولارد الشركات باعتماد **ISO/IEC 42001** كنظام إدارة للذكاء الاصطناعي.

أسئلة شائعة

ما هي المخاطر الرئيسية عند استخدام الذكاء الاصطناعي؟

تسرب البيانات الحساسة وزيادة احتمالية الهجمات الإجرامية.

كيف يمكن حماية البيانات عند استخدام هذه الأدوات؟

يجب تدريب الموظفين على الاستخدام الآمن وتقييد الوصول.

ما هي أهمية الخصوصية في الذكاء الاصطناعي؟

تساهم في حماية البيانات الحساسة وتجنب التسريبات.

ما الذي يجب على الشركات القيام به حيال ذلك؟

يجب على الشركات وضع سياسات واضحة وتدريب الموظفين بانتظام.