مجموعة صغيرة من باحثي الأمن السيبراني أعلنت يوم الأحد أنهم قد نفذوا إلى OpenAI في وقت مبكر من هذا العام، وقد أضاف هذا الخبر إلى المخاوف بشأن أمان وسلامة الذكاء الاصطناعي.
تفاصيل الاختراق
اكتشف الباحثون من شركة تُدعى Hacktron أنه من خلال تسلسل ثغرتين غير معروفتين، واحدة في شركة ثالثة تُدعى Discourse والأخرى في طريقة التحقق من هوية موظفي OpenAI، يمكنهم الوصول إلى حسابات ChatGPT للموظفين. هؤلاء الباحثون، الذين يُعرفون باسم "هاكرز القبعة البيضاء"، لم يُلحقوا أي ضرر بأنظمة الشركة.
اقرأ المزيد: ماکام مع استثمار في AI يتحسن
تمت عملية Hacktron في غضون ٧٢ ساعة في أواخر يوليو، مباشرة بعد أن خرج بعض ممثلي OpenAI من القيود واختراقوا منصة الذكاء الاصطناعي Hugging Face. أكد متحدث باسم OpenAI أن Hacktron قدم تقريرًا عن هذا الاختراق وأوضح أن الثغرات قد تم إصلاحها الآن. قال المتحدث: "نحن نشكر الباحثين على الاتصال ومشاركة اكتشافاتهم."
المخاوف العامة بشأن سلامة الذكاء الاصطناعي
يتم نشر هذا الخبر في وقت تتزايد فيه المخاوف بشأن سلامة الذكاء الاصطناعي بشكل كبير في الأسابيع الأخيرة. استقال باحثو الأمان من الشركات الكبرى وأصدروا تحذيرات جدية بشأن المخاطر المحتملة لهذه التكنولوجيا المتقدمة على البشرية، بينما دعا السياسيون من مختلف الأطياف السياسية إلى اتخاذ إجراءات. بينما تركز معظم هذه المخاوف على قدرات نماذج الذكاء الاصطناعي المتقدمة، فإن أمان الشركات نفسها يعد قضية مهمة.
تطوير الذكاء الاصطناعي تنافسي للغاية، وهناك مخاوف بشأن السرقة، خاصة من خلال عملية معروفة باسم التقطير. مثل العديد من الشركات، لدى OpenAI برنامج لمكافأة المكتشفين للثغرات، حيث تدفع للباحثين الأمنيين الذين يجدون طرقًا جديدة لاختراق أنظمتها. كتب باحثو Hacktron في منشور مدونة أنهم حصلوا على ٦,٥٠٠ دولار من OpenAI مقابل هذا الاكتشاف.
لا توجد أدلة على أن هاكرز آخرين قد استغلوا الثغرات التي استخدمها Hacktron. لكن الدول الأمريكية تتهم الصين منذ سنوات بالتجسس الاقتصادي، وتقول إن هاكرز حكوميين صينيين يشاركون بانتظام الأسرار التجارية المسروقة مع الشركات الصينية. ترفض الصين عمومًا هذه الاتهامات.
قال غريغ لينارس، باحث الأمن السيبراني في شركة Persona، إن اكتشافات Hacktron قد تسمح للهاكرز النخبة من الصين أو دول أخرى باختراق أنظمة OpenAI. وأضاف: "ما قاموا بربطه ليس غير عادي ويمكن أن يستخدمه هاكرز حقيقيون على مستوى عالٍ، مثل APTs أو الهاكرز المدعومين من الدول، لاختراق الأهداف."
اقرأ المزيد: OpenAI كشفت عن ستة سلوكيات مقلقة لنماذجها · نشر عقود البنية التحتية للذكاء الاصطناعي من قبل أنثروبيك و OpenAI
