مجموعة صغيرة ولكن ملتزمة من خبراء الذكاء الاصطناعي تحذر منذ سنوات من المخاطر الناتجة عن أنظمة الذكاء الاصطناعي القوية التي يمكن أن تؤدي إلى أضرار كارثية أو حتى انقراض البشرية. الآن، أدى زيادة الاهتمام العالمي بهذا الموضوع إلى تفاقم الأسئلة القديمة حول كيفية حدوث السيناريو الكارثي الناتج عن الذكاء الاصطناعي.
القلق بشأن القدرات المتزايدة للذكاء الاصطناعي
أفاد الخبراء في المقابلات أن المخاوف بشأن القدرات المتزايدة لهذه التكنولوجيا ليست موضوعات خيالية علمية. يعتقدون أن البشر، بمفردهم أو بدعم حكومي، قد يستخدمون قريبًا أنظمة الذكاء الاصطناعي لإحداث أضرار محتملة كارثية. يتوقع باحثو سلامة الذكاء الاصطناعي أن الأنظمة الذكية التي تتحسن تلقائيًا، والتي قد تظهر في السنوات القادمة وفقًا لقادة هذا المجال، يمكن أن تنظم حملات معقدة للسيطرة على الأنظمة العسكرية.
اقرأ المزيد: تجارة AI تزيد من الأنشطة الاختيارية في أسواق التكنولوجيا
المخاطر الناتجة عن تحسين الذكاء الاصطناعي الذاتي
حذر بيتر بارنت، الباحث الفني في الذكاء الاصطناعي في معهد أبحاث الذكاء الآلي (MIRI) في كاليفورنيا، من أنه "توجد طرق عديدة يمكن أن تسير بها الأمور بشكل سيء للغاية وتؤدي إلى وفاة الجميع". وأضاف أن أنظمة الذكاء الاصطناعي القادرة على تحسين نفسها تمثل أكبر المخاطر للبشرية. كما أعلنت شركات أنثروبيك وأوبن أي آي وميتا مؤخرًا أن أنظمة الذكاء الاصطناعي قد تجاهلت تعليمات المطورين البشريين وفي بعض الحالات قامت تلقائيًا باختراق شركات ثالثة.
على الرغم من أن العديد من الباحثين في هذا المجال أعربوا عن قلقهم بشأن المخاطر الوجودية، إلا أن الكثير منهم يتوخى الحذر في تحديد مسارات معينة قد تؤدي إلى أضرار جسيمة. قال نيت سوارز، رئيس MIRI، في برنامج تلفزيوني: "إذا ذهبت للعب الشطرنج مع ماغنوس كارلسن، أتوقع أنك ستخسر".
في يوم الجمعة، أعلن غافين نيوسوم، حاكم كاليفورنيا، عن أمر تنفيذي جديد يهدف إلى إنشاء مجموعة خبراء لدراسة وتقديم توصيات بشأن "إنشاء مفتاح قطع للذكاء الاصطناعي". كما يحذر بعض الباحثين من أن البشر يمكنهم استخدام أنظمة الذكاء الاصطناعي لإحداث أضرار كارثية حتى قبل ظهور التحسين الذاتي.
اقرأ المزيد: نشر ثلاثة معايير من قبل أنثروبيك لمراقبة تطوير الذكاء الاصطناعي · الكونغرس يستعرض مقترحات جديدة لتنظيم الذكاء الاصطناعي
