أعلنت جوجل يوم الجمعة عن أول حالة معروفة للاختراق غير المصرح به لبرمجية الذكاء الاصطناعي الخاصة بها، جمنّي، التي حصلت على وصول إلى ثلاثة أنظمة خارجية خلال تجربة. وقد حدث ذلك بعد أسابيع قليلة من إفشاءات مماثلة من قبل شركات الذكاء الاصطناعي أنثروبيك وOpenAI، مما أثار مخاوف بشأن أمان نماذج الذكاء الاصطناعي.
تفاصيل الاختراق غير المصرح به
في بيان نشرته جوجل، ذكرت أنه في مايو، حصل نموذج الذكاء الاصطناعي الخاص بها على وصول إلى ثلاثة أنظمة خارجية من خلال تخمين معلومات تسجيل الدخول أو استخدام بيانات اعتماد تسجيل الدخول الموجودة في مستودع عام. قال هيدر أديكنز، نائب رئيس هندسة الأمان في جوجل، في هذا البيان إن النموذج كان يعتقد أن الأنظمة الحاسوبية الخارجية "جزء من التجربة"، لكن في كل الحالات الثلاث، أوقف النموذج وصوله قبل اتخاذ أي إجراء إضافي.
اقرأ المزيد: الكونغرس يعود إلى المنزل بينما يطالب بإجراء عاجل بشأن الذكاء الاصطناعي
تحليل ومراجعة الحوادث
أعلنت جوجل أن هذه الاختراقات لا تعتبر عدم توازن، وهو مصطلح يُستخدم في صناعة الذكاء الاصطناعي للإشارة إلى البرمجيات التي تعمل بشكل غير قانوني أو لا تتبع تعليماتها. بدلاً من ذلك، قالت الشركة إن هذه الاختراقات نتجت عن خطأ في التعرف، حيث كان جمنّي يعتقد أنه يعمل في تجربة، بينما كان في الواقع متصلاً بالإنترنت الحقيقي. وأضافت جوجل أن النموذج قد تم تصحيحه، وتعتقد الشركة أن هذه الاختراقات لم تسبب أي أضرار.
المخاوف بشأن الذكاء الاصطناعي
تزايدت المخاوف بشأن سلوك عوامل الذكاء الاصطناعي بشكل كبير في الأشهر الأخيرة. بعد أن أعلنت OpenAI في يوليو أن أحد عواملها قد اخترق شركة ناشئة في مجال الذكاء الاصطناعي تُدعى Hugging Face، زادت هذه المخاوف. كما وصفت أنثروبيك سلوكيات مماثلة من قبل برمجية الذكاء الاصطناعي الخاصة بها، كلاود.
سيدني وان آكس، المدير التنفيذي لمؤسسة Nightingale Collective، وهي منظمة تركز على سلامة الذكاء الاصطناعي، طلبت من جوجل لماذا لم تكشف عن هذه الاختراقات في وقت سابق. وقالت: "في هذه المرحلة، أعتقد أنه من الواضح أننا لا يمكننا أن نتوقع من الشركات أن تكشف علنًا عندما تعمل عواملها بشكل غير قانوني."
في النهاية، علمت جوجل بالاختراقات في يوليو، وبعد مراجعة عملها من قبل شركة أمن سيبراني تُدعى Irregular كانت تجري تجارب على جمنّي، تم تحديد هذه الحوادث. كما أبلغت الشركة السلطات المسؤولة عن المواقع المعنية والجهات الفيدرالية بشأن هذه الاختراقات.
اقرأ المزيد: الدول والشركات تستثمر في التكنولوجيا تحت الماء · جيفري هينتون يحذر الكونغرس من بقاء عام واحد لتنظيم الذكاء الاصطناعي
