مخاطر أمن الذكاء الاصطناعي: منظور مسؤول معلومات المعلومات

ملاحظة: إذا كانت منظمتك تعمل على تحديد هذه المخاطر كجزء من تطوير سياسات الذكاء الاصطناعي، فلا تتردد في الاستفادة من أي أو كل هذا النص.

الذكاء الاصطناعي (الذكاء الاصطناعي) هي تقنية تتطور بسرعة ولديها القدرة على إحداث ثورة في العديد من الصناعات. ومع ذلك، كما هو الحال مع أي تقنية جديدة، هناك أيضا مخاطر أمنية مرتبطة باستخدامها.

سياسة أمنية مؤسسية لاستخدام الذكاء الاصطناعي ضرورية لحماية بيانات الشركة وسمعتها. يجب أن تغطي هذه السياسات كلا من الذكاء الاصطناعي التقليدي وكذلك الذكاء الاصطناعي التوليدي الناشئ. الذكاء الاصطناعي التوليدي هو تقنية قوية يمكن استخدامها لإنشاء مجموعة واسعة من المحتوى، بما في ذلك النصوص والصور والفيديوهات.

من منظور مسؤول أمن المعلومات العلمية، هناك 10 مخاطر أساسية يجب أخذها في الاعتبار عند تطوير سياسات أمن الشركات لاستخدام أنظمة الذكاء الاصطناعي.

1.الاستخدام غير المنضبط: الاستخدام غير المقيد وغير المنظم لأي تقنية داخل المنظمة يشكل عادة مخاطرا غير مقبول. عادة، يتم التحكم بدقة في تركيب واستخدام التطبيقات الجديدة، وكذلك عملية الانضمام والتعاقد مع موردين/موردين جدد. علاوة على ذلك، كلما كان التطبيق أو الأداة أو الخدمة أكثر قوة وتأثيرا، زادت المخاطر وأكثر صرامة القيود. الذكاء الاصطناعي التقليدي بالإضافة إلى أدوات الذكاء الاصطناعي التوليدي الناشئة هي من أكثر الأنظمة تأثيرا التي من المرجح أن تستفيد منها أي مؤسسة خلال السنوات القادمة، وقد تمثل بعضا من أعظم المزايا التنافسية للمنظمة. ومع ذلك، فإن الاستخدام غير المقيد وغير المنظم لهذه التقنية داخل الأعمال من قبل الموظفين يحمل أيضا مخاطر بنتائج كارثية.

2.أمن البيانات والامتثال التنظيمي: غالبا ما تتطلب أنظمة الذكاء الاصطناعي الوصول إلى بيانات حساسة، مثل المعلومات الشخصية أو الملكية الفكرية. يجب حماية هذه البيانات في جميع الأوقات لمنع الوصول غير المصرح به أو الكشف أو التعديل. العديد من اللوائح، مثل اللائحة العامة لحماية البيانات (لائحة البيانات العامة لحماية البيانات)، تلزم الشركات باتخاذ خطوات لحماية أمن البيانات الشخصية. لذلك، فإن الوصول إلى البيانات بالذكاء الاصطناعي، وتقنية نقل البيانات، وتخزين البيانات (بيانات التدريب وقاعدة المعرفة) يجب النظر في ذلك وضمه ضمن نطاق جميع متطلبات تصنيف وحماية البيانات الحالية.

3.موثوقية المخرجات والاعتماد المفرط على الذكاء الاصطناعي: هناك خطر واضح من أن تصبح الشركات تعتمد بشكل مفرط على أنظمة الذكاء الاصطناعي، مما يهمش الحكم البشري والحدس. قد يؤدي ذلك إلى قرارات سيئة إذا تم التعامل مع مخرجات نظام الذكاء الاصطناعي على أنها معصومة. ثلاثة أسباب رئيسية تجعل قرارات الأعمال لا تعتمد بشكل مفرط على الذكاء الاصطناعي هي قابلية التفسير، والحكم، والتصنيع.

oقابلية التفسير: قد ينتج الذكاء الاصطناعي التوليدي نتائج غير "قابلة للتفسير". تقديم التوصيات أو اتخاذ إجراءات بناء على نتائج غير مفسرة يحمل خطر خطأ. ويزداد هذا الأمر سوءا أثناء أي دعوى قضائية محتملة حيث قد لا تتمكن المنظمة من تقديم مبرر منطقي لمثل هذه التوصيات أو الإجراءات.

oالحكم: لا يمكن للذكاء الاصطناعي التوليدي إصدار أحكام بناء على خبرة واقعية أو معلومات جديدة. تقوم هذه الأنظمة ببساطة بتخمين إحصائي أفضل لما يلي في تسلسل من النص لمحاكاة استجابة "شبيهة بالبشر". لا يوجد وعي محفوظ يمكن التعلم من التجربة في مجموعة معقدة من الأنظمة غير المترابطة، لكنها مترابطة.

oالتصنيع: قد ينتج الذكاء الاصطناعي التوليدي نتائج تحتوي على معلومات مصطنعة. يعرف هذا باسم "هلوسة" الذكاء الاصطناعي ويمكن أن ينتج عن تحفيز النظام للحصول على معلومات غير موجودة أو خارج نطاق بيانات التدريب. قد ينتج الذكاء الاصطناعي التوليدي أيضا نتائج معيبة منطقيا، أو غير صحيحة رياضيا، أو تحتوي على معلومات مضللة. إذا تم اتخاذ إجراءات بناء على مثل هذه المعلومات الخاطئة، فقد تؤدي تلك الإجراءات إلى أضرار كبيرة للمنظمة أو للعميل.

4.تصنيف المخرجات وأنظمة التحكم: في الحالات التي يتم فيها تدريب أنظمة الذكاء الاصطناعي التوليدي أو لديها وصول إلى بيانات حساسة، قد يحتوي مخرجات هذه الأنظمة على بيانات مصنفة خارج نطاق "عام"، وتتطلب وسم البيانات وضوابط حماية محددة. لذا قد تنتج هذه الأنظمة نتائج تكشف معلومات سرية أو حساسة عن المنظمة أو عملائها أو الأفراد. علاوة على ذلك، وبسبب طبيعة الذكاء الاصطناعي التوليدي، فإن هذه التعرضات لا يمكن التنبؤ بها. نقص القدرة على التنبؤ بتوقيت إنشاء بيانات حساسة، والتعرف التلقائي على هذه البيانات ووضع علامات عليها عند توليدها، واحتواء وتطبيق الضوابط المناسبة تلقائيا عند التوليد، يمثل خطرا كبيرا محتملا.

5.الهجمات الإلكترونية: يمكن أن تستهدف أنظمة الذكاء الاصطناعي هجمات إلكترونية، مثل البرمجيات الخبيثة أو هجمات حجب الخدمة. نظرا لسرعة التطوير، وحقيقة أن العديد من الأدوات تصدر بنسخ "تجريبية" أو "بحثية"، فمن غير المرجح أن تحقق نضج اختبار الثغرات والاختراق المتوقع في البرمجيات المؤسسية التقليدية. علاوة على ذلك، لا توجد بيانات تاريخية كافية لتقدير درجة وأهمية الثغرات المحتملة المجهولة لهذه الفئة من الأدوات أو البيئات التي تقع فيها.

6.إمكانات الإخراج الضارة: قد ينتج الذكاء الاصطناعي التوليدي محتوى (نصوص، صور، فيديو) أي ضار، مسيء، صريح جنسيا، مضلل، أو يدعو إلى سلوك غير مرغوب فيه. تشمل المخاطر المرتبطة بمثل هذا المحتوى: سلامة الموظفين، الاحتفاظ بهم، التقاضي القانوني، الغرامات التنظيمية، التقاضي ضد العملاء، والضرر الذي يلحق بسمعة الشركة.

7.انحياز الإخراج: غالبا ما يمكن لأنظمة الذكاء الاصطناعي إعادة إنتاج أو حتى تضخيم التحيزات الموجودة في البيانات التي تدربت عليها. وقد يؤدي ذلك إلى نتائج غير عادلة أو غير أخلاقية، مثل التمييز في التوظيف أو الإقراض أو مواقف خدمة العملاء. وقد يؤدي ذلك إلى الإضرار بسمعة المنظمة.

8.غموض الملكية وحقوق النشر: هناك جدل قانوني مستمر حول ملكية مخرجات الذكاء الاصطناعي التوليدي عندما يكون هذا الإنتاج مشتقا من أعمال قائمة. علاوة على ذلك، لوحظ بالفعل أن الأنظمة المدربة على الوصول المجمعة من الإنترنت لديها القدرة على التعرض لمواد حقوق نشر تم قرصنتها ونشرها بشكل غير قانوني علنا. إن عدم وضوح مخرجات الذكاء الاصطناعي التي يولدها، وقانون حقوق النشر بشأن التعرض غير المقصود، يخلق مخاطر تجارية غير بسيطة.

9.التدريب والتوعية: بدون تدريب إلزامي خاص باستخدام أدوات الذكاء الاصطناعي التقليدية والتوليدية، من المرجح أن "يجرب" الموظفون هذه الأدوات بطرق تعرض المنظمة للخطر. لاحظ أن هذا ليس بسبب نية خبيثة من الموظفين، بل ببساطة بسبب حداثة التكنولوجيا وقلة الوعي بالمخاطر المحتملة. على سبيل المثال، بما أن العديد من الناس قد يقبلون دون تردد أن الناتج من نظام الذكاء الاصطناعي دقيق وكامل، فقد يستخدمون هذا الناتج لاتخاذ قرارات تجارية مؤثرة.

10.معدل التغيير السريع: يتطور الذكاء الاصطناعي التوليدي بسرعة وقائمة ما يمكنه وما لا يمكنه فعله من المرجح أن تتغير شهريا أو بشكل أكثر تكرارا. قد تفاجأ التنظيم بقدرات جديدة أو متغيرة دون سابق إنذار، وتأثيرات هذه التغييرات غير متوقعة. وهذا يعني أن مخاطر جديدة وغير متوقعة قد تظهر دون أي تحذير أو بدون تحذير.

#airisk