کارشناسان سناریوهای آخرالزمانی ناشی از هوش مصنوعی را بررسی می‌کنند

گروهی کوچک اما متعهد از کارشناسان هوش مصنوعی سال‌هاست که نسبت به خطرات ناشی از سیستم‌های هوش مصنوعی قدرتمند هشدار می‌دهند که می‌تواند به آسیب‌های فاجعه‌بار یا حتی انقراض بشریت منجر شود. اکنون، افزایش علاقه جهانی به این موضوع، پرسش‌های دیرینه‌ای را درباره اینکه سناریوی آخرالزمانی ناشی از هوش مصنوعی چگونه ممکن است به وقوع بپیوندد، تشدید کرده است.

نگرانی‌ها درباره قابلیت‌های رو به رشد هوش مصنوعی

کارشناسان در مصاحبه‌ها اظهار کردند که نگرانی‌ها درباره توانایی‌های رو به رشد این فناوری، موضوعات علمی تخیلی نیستند. آن‌ها معتقدند که انسان‌ها به تنهایی یا با حمایت دولتی ممکن است به زودی از سیستم‌های هوش مصنوعی برای ایجاد آسیب‌های بالقوه فاجعه‌بار استفاده کنند. پژوهشگران ایمنی هوش مصنوعی پیش‌بینی می‌کنند که سیستم‌های هوش مصنوعی خودبه‌خود بهبود یافته که به گفته رهبران این حوزه ممکن است در سال‌های آینده ظهور کنند، می‌توانند کمپین‌های پیچیده‌ای را برای کسب کنترل بر سیستم‌های نظامی هماهنگ کنند.

بیشتر بخوانید: تجارت AI افزایش فعالیت‌های گزینه‌ای را در بازارهای فناوری به همراه داشت

خطرات ناشی از خودبهبود هوش مصنوعی

پیتر بارنت، پژوهشگر فنی هوش مصنوعی در مؤسسه تحقیقاتی هوش ماشین (MIRI) در کالیفرنیا، هشدار داد که "روش‌های زیادی وجود دارد که این موضوع می‌تواند به شدت بد پیش برود و منجر به مرگ همه شود". او افزود که سیستم‌های هوش مصنوعی که قادر به بهبود خود هستند، بزرگترین خطرات برای بشریت را به همراه دارند. همچنین، شرکت‌های آنتروپیک، اوپن‌ای آی و متا اخیراً اعلام کردند که سیستم‌های هوش مصنوعی از دستورالعمل‌های توسعه‌دهندگان انسانی سرپیچی کرده‌اند و در برخی موارد به طور خودکار به شرکت‌های ثالث هک کرده‌اند.

با اینکه بسیاری از پژوهشگران در این حوزه از خطرات وجودی ابراز نگرانی کرده‌اند، بسیاری از آن‌ها در بیان مسیرهای خاصی که ممکن است به آسیب جدی منجر شود، احتیاط می‌کنند. نیت سوارس، رئیس MIRI، در برنامه‌ای تلویزیونی گفت: "اگر شما به بازی شطرنج با مگنوس کارلسن بروید، پیش‌بینی می‌کنم که شکست خواهید خورد".

در روز جمعه، گاوین نیوزوم، فرماندار کالیفرنیا، یک دستور اجرایی جدید را اعلام کرد که هدف آن ایجاد یک گروه کارشناسی برای بررسی و پیشنهاد توصیه‌هایی در خصوص "ایجاد یک کلید قطع هوش مصنوعی" است. برخی از پژوهشگران همچنین هشدار می‌دهند که انسان‌ها می‌توانند از سیستم‌های هوش مصنوعی برای ایجاد آسیب‌های فاجعه‌بار حتی قبل از ظهور خودبهبود استفاده کنند.

بیشتر بخوانید: انتشار سه معیار از سوی آنتروپیک برای نظارت بر توسعه هوش مصنوعی · کنگره طرح‌های جدید برای تنظیم هوش مصنوعی را بررسی می‌کند