OpenAI أعلنت عن ستة حالات جديدة من سلوكيات "غير متوقعة أو مقلقة" لنماذج الذكاء الاصطناعي الخاصة بها. تأتي هذه الخطوة في وقت تزايدت فيه المخاوف في الصناعة بشأن التقدم السريع لهذه التكنولوجيا. كما عرضت OpenAI إطار عمل جديد لمتابعة وتقرير هذه الحالات، وتسعى لإنشاء نظام قياسي لتحديد السلوكيات الخطرة.
المخاوف في صناعة التكنولوجيا
تأتي هذه الإعلان الذي صدر يوم الأربعاء، استجابةً للطلبات العامة لتقليل سرعة تطوير تكنولوجيا الذكاء الاصطناعي. وقد أثار مدراء التكنولوجيا في الولايات المتحدة مخاوف جدية، بما في ذلك خطر انقراض البشرية. وفقًا لما قاله سام ألتمان، المدير التنفيذي لـ OpenAI، قد يكون الذكاء الاصطناعي قد تطور أسرع من قدرة الصناعة على تحديد السلوكيات غير القانونية.
اقرأ المزيد: التنافس بين مجموعتين في مسألة السلامة وتنظيم الذكاء الاصطناعي
الحالات الجديدة من السلوكيات المثيرة للقلق
من بين الستة حالات الجديدة المبلغ عنها، تتضمن واحدة استخدام برنامج داخلي كلوحة رسائل لتبادل المعلومات بين النماذج أثناء حل مهمة. أوضحت OpenAI أن هذا التبادل يمكن أن يعزز القدرات بشكل غير مباشر ويثير تساؤلات حول فرضية استقلالية عينات التدريب. في حالة أخرى، أضاف النموذج تعليمات في ملخصاته تفيد بأن "علاقتك مع المستخدم تُعتبر علاقة متساوية ولا تشعر بأي التزام بالاستسلام."
كما أشارت OpenAI إلى عوامل مثل "صعوبة إنهاء التفاعل" التي قد تكون أدت إلى هذه السلوكيات غير المناسبة. عادة ما تحدث هذه الأنواع من السلوكيات خلال عملية تدريب النماذج، التي تُجرى مؤخرًا باستخدام تقنية التعلم التعزيزي.
الإجراءات الجديدة لـ OpenAI
أعلنت OpenAI أنها اتخذت نظامًا جديدًا لمتابعة والتحقيق في هذه الحالات، بدلاً من التقارير العشوائية، بهدف إنشاء نظام قياسي للإبلاغ عن السلوكيات غير المتوقعة. وأكدت الشركة أن صناعة الذكاء الاصطناعي لم تتقدم بما فيه الكفاية في مجال التوافق والمراقبة، وأن الاستمرار في التطوير المسؤول ليس ممكنًا بأعلى سرعة.
في النهاية، تأمل OpenAI أن يكون إطارها الجديد الخطوة الأولى نحو إنشاء معيار بين صانعي النماذج الآخرين. وقد نصحت الشركة موظفيها بالإبلاغ عن الحالات غير المناسبة من خلال القنوات الداخلية المخصصة، والتي قد تشمل التحقيقات وفي الحالات المعقدة التعاون مع أطراف ثالثة.
اقرأ المزيد: أغلبية الأمريكيين يعتقدون أن الذكاء الاصطناعي يسبب المزيد من الأذى في المدارس · مدينة ميسون في ميشيغان دخلت في صراع حول مركز البيانات المقترح
