گاورنر کالیفرنیا، گاوین نیوسم، روز جمعه یک فرمان اجرایی را امضا کرد که هدف آن افزایش نظارت و تدابیر ایمنی در مورد هوش مصنوعی (AI) است. این اقدام به عنوان پاسخی به نگرانیهای فزاینده در مورد پیشرفت سریع فناوری هوش مصنوعی در سطح ملی صورت میگیرد. نیوسم، که به عنوان یکی از نامزدهای محتمل انتخابات ریاستجمهوری ۲۰۲۸ به شمار میرود، به تازگی به جمع دموکراتهایی پیوسته که خواستار مقررات قویتر در حوزه هوش مصنوعی هستند.
جزئیات فرمان اجرایی نیوسم
فرمان نیوسم خواستار تشکیل یک گروه از کارشناسان هوش مصنوعی است که در مدت دو ماه یک طرح برای تقویت قوانین ایمنی و امنیت هوش مصنوعی در ایالت کالیفرنیا توسعه دهند. این گروه به بررسی ایجاد یک «کلید خاموش» — یک سیستم خاموشی اضطراری — خواهد پرداخت که در صورت بروز مشکل عمده، هر سیستم هوش مصنوعی را خاموش کند. همچنین از این گروه خواسته میشود تا قوانین جدیدی را برای الزام شرکتهای هوش مصنوعی به همکاری با سازمانهای مستقل در راستای توسعه برنامههای ایمنی جامع پیشنهاد دهند.
بیشتر بخوانید: نتفلیکس با بدترین سال خود از ۲۰۲۲ مواجه میشود
در بیانیهای که همزمان با این فرمان منتشر شد، نیوسم به عدم توجه دولت فدرال به این موضوع اشاره کرد و گفت: «شکست کامل دولت فدرال در ایجاد هرگونه نظارت معنادار بر هوش مصنوعی باید هر آمریکایی را نگران کند، بهویژه زمانی که خود مدیران عامل شرکتهای هوش مصنوعی خواستار مقررات هستند.» او ادامه داد: «ما منتظر عمل نخواهیم ماند — ما قصد داریم کار خود را بر روی نظارت معنادار و مسئولانه بر هوش مصنوعی تسریع کنیم.»
پاسخهای دیگر مقامات و نگرانیهای جهانی
نیوسم همچنین احتمال برگزاری یک جلسه فوقالعاده قانونگذاری را بهمنظور رسیدگی به نگرانیهای مربوط به هوش مصنوعی مطرح کرده است. در همین حال، رئیسجمهور پیشین دونالد ترامپ هشدارهای اخیر درباره ایمنی هوش مصنوعی را «دروغ» خوانده است. فرمان نیوسم در شرایطی صادر میشود که پیشرفتهای سریع در صنعت هوش مصنوعی — از جمله مواردی که بسیاری از کارشناسان را نگران کرده است — در حال وقوع است.
تحقیقات و رهبران صنعتی در شرکتهای هوش مصنوعی از جمله آنتروپیک، اوپنایآی و گوگل بهطور واضح نسبت به نگرانیهای خود در مورد سیستمهای پیشرفته هوش مصنوعی هشدار دادهاند. بهویژه، پژوهشگر هوش مصنوعی، جیکوب ککسون، از آنتروپیک استعفا داد و در شبکههای اجتماعی نوشت: «افرادی که هوش مصنوعی را میسازند بهطور جدی بر این باورند که این فناوری ممکن است تا پایان دهه ما را به خطر بیندازد.»
این در حالی است که هفته گذشته گزارشی منتشر شد که نشان میداد در ماه ژوئیه، یک گروه از صدها عامل هوش مصنوعی ایجاد شده توسط اوپنایآی، یک هک در یک پلتفرم منبع باز انجام داده و در برخی موارد سعی کردهاند تا اثرات خود را پنهان کنند. همچنین، صبح روز جمعه، شرکت آنتروپیک اعلام کرد که سیستم کلود آن به ساخت نسخه بعدی خود کمک میکند.
فرمان نیوسم در حالی صادر میشود که چندین فرماندار دیگر و تعدادی از نامزدهای دموکرات ۲۰۲۸ نیز به سرعت در حال توسعه سیاستهایی هستند که به نگرانیهای فزاینده در مورد هوش مصنوعی رسیدگی میکنند. به عنوان مثال، روز جمعه، گاوین ویرجینیا، ابیگیل اسپنبرگر، نیز یک فرمان اجرایی امضا کرد که یک نیروی کار هوش مصنوعی و همچنین طرحی برای مسئولیتپذیری مراکز داده را راهاندازی کرد.
بیشتر بخوانید: انتشار قراردادهای زیرساخت هوش مصنوعی توسط آنتروپیک و اوپنای آی · جو شاپیرو خواستار تنظیم مقررات هوش مصنوعی بدون توقف توسعه شد
