گرگ استنتون از کنگره می‌خواهد تا به شرکت‌های هوش مصنوعی اجازه خودتنظیمی دهد

گرگ استنتون، پژوهشگر سابق Anthropic، روز یکشنبه از کنگره خواست تا به آزمایشگاه‌های پیشرو هوش مصنوعی کشور اجازه دهد خود را تنظیم کنند، در حالی که قانونگذاران به دنبال ایجاد یک چارچوب مقرراتی بلندمدت برای کنترل سرعت توسعه هوش مصنوعی هستند.

خودتنظیمی آزمایشگاه‌های هوش مصنوعی

استنتون در مصاحبه‌ای اظهار داشت: "نظر شخصی من این است که باید بر این موضوع تأکید کنیم و اجازه دهیم که آزمایشگاه‌های فعلی خود را تنظیم کنند. من فکر می‌کنم افرادی که آزمایشگاه‌ها را اداره می‌کنند، به‌ویژه ارتباطات اخیر آن‌ها، کاملاً واقعی هستند. آن‌ها می‌خواهند خود را کند کنند." او افزود که قوانین فعلی که در کنگره معرفی شده‌اند، از جمله چارچوبی برای یک "کلید خاموش" ملی، به سرعت از بین می‌روند.

بیشتر بخوانید: مایک جانسون: نیاز به «مرزهایی» برای هوش مصنوعی داریم!

چالش‌های کلید خاموش

استنتون در ادامه گفت: "یک کلید خاموش احتمالاً برای بسیاری از هوش‌های مصنوعی در حال حاضر مؤثر خواهد بود، اما باید به یاد داشته باشیم که این کار چندان آسان نیست. ما مراکز داده بزرگی داریم و این کار به آسانی انجام نمی‌شود، اما قطعاً ممکن است در حالی که محدود به یک مکان فیزیکی خاص هستیم." او به سناریویی اشاره کرد که در آن کلید خاموش کار نمی‌کند و این سناریو توسط داریو آمودئی، مدیرعامل Anthropic، توصیف شده است.

استنتون همچنین تأکید کرد که هر قانونی که به تنظیم هوش مصنوعی بپردازد، باید انعطاف‌پذیر باشد و قادر به سازگاری با مدل‌های جدید باشد. او گفت: "این یک تلاش مستمر است تا اطمینان حاصل کنیم که هر ذهن جدیدی که ایجاد می‌کنیم به‌طور مناسب محدود شده است."

نگرانی‌های روزافزون درباره توسعه هوش مصنوعی

استنتون هفته گذشته نگرانی‌های زیادی را درباره سرعت توسعه هوش مصنوعی در آزمایشگاه‌های پیشرو کشور، از جمله Anthropic، OpenAI و Google DeepMind، برانگیخت. او در یک پست در X نوشت: "من سه سال گذشته را صرف تحقیق در زمینه پیش‌آموزش در OpenAI و Anthropic کرده‌ام. هیچ‌کدام از این شرکت‌ها به‌طور مسئولانه عمل نمی‌کنند." او تأکید کرد که افراد سازنده هوش مصنوعی به‌طور جدی بر این باورند که ممکن است این فناوری تا پایان دهه ما را به خطر بیندازد.

در پی این اظهارات، گروهی دو حزبی از قانونگذاران خواستار آغاز سریع مقررات‌گذاری صنعت هوش مصنوعی شدند. نماینده آنا پائولینا لونا از فلوریدا از کنگره خواست تا جلسه ویژه‌ای درباره هوش مصنوعی برگزار کند و تأکید کرد که عواقب بسیار واقعی بر جامعه وجود دارد.

بیشتر بخوانید: جیکوب کُکسان: زمان خودتنظیمی آزمایشگاه‌های هوش مصنوعی فرا رسیده است · آموده‌ای از Anthropic: چین بزرگ‌ترین چالش در کند کردن پیشرفت هوش مصنوعی است