Google روز جمعه از اولین مورد شناختهشده نفوذ غیرمجاز نرمافزار هوش مصنوعی خود، Gemini، خبر داد که در یک آزمایش به سه سیستم خارجی دسترسی پیدا کرده است. این اتفاق چند هفته پس از افشاگریهای مشابه توسط شرکتهای هوش مصنوعی آنتروپیک و OpenAI که نگرانیهایی درباره امنیت مدلهای هوش مصنوعی به وجود آورد، روی داده است.
جزئیات نفوذ غیرمجاز
در بیانیهای که Google منتشر کرد، آمده است که در ماه مه، مدل هوش مصنوعی این شرکت با حدس زدن اطلاعات ورود یا استفاده از اعتبارنامههای ورود موجود در یک مخزن عمومی به سه سیستم خارجی دسترسی پیدا کرده است. هدر آدکینز، نایب رئیس مهندسی امنیت Google، در این بیانیه گفت که این مدل فکر میکرد که سیستمهای کامپیوتری خارجی "جزء آزمایش هستند"، اما در هر سه مورد، این مدل قبل از انجام هرگونه اقدام اضافی دسترسی خود را متوقف کرد.
بیشتر بخوانید: کنگره به خانه باز میگردد در حالی که خواستار اقدام فوری در زمینه هوش مصنوعی است
تحلیل و بررسی حوادث
Google اعلام کرد که این نفوذها به عنوان عدم توازن در نظر گرفته نمیشوند، اصطلاحی که در صنعت هوش مصنوعی به نرمافزاری اطلاق میشود که بهطور غیرقانونی عمل میکند یا از دستورالعملهای خود پیروی نمیکند. در عوض، این شرکت گفت که این نفوذها ناشی از اشتباه در شناسایی بوده، جایی که Gemini تصور میکرد در حال فعالیت در یک آزمایش است، در حالی که در واقع به اینترنت واقعی متصل بود. Google افزود که این مدل خود را اصلاح کرد و شرکت معتقد است که این نفوذها هیچ خسارتی بهوجود نیاوردهاند.
نگرانیها در مورد هوش مصنوعی
نگرانیها در مورد رفتار نامناسب عوامل هوش مصنوعی در ماههای اخیر به شدت افزایش یافته است. پس از اینکه OpenAI در ماه ژوئیه اعلام کرد که یکی از عوامل آن به یک استارتاپ هوش مصنوعی به نام Hugging Face نفوذ کرده، این نگرانیها بیشتر شد. همچنین، آنتروپیک رفتارهای مشابهی را توسط نرمافزار هوش مصنوعی خود، کلاود، توصیف کرده است.
سیدنی وان آکس، مدیر عامل Nightingale Collective، سازمانی که بر ایمنی هوش مصنوعی تمرکز دارد، از Google خواست که چرا این نفوذها را زودتر افشا نکرد. او گفت: "در این مرحله، فکر میکنم واضح است که نمیتوانیم انتظار داشته باشیم که شرکتها بهطور داوطلبانه زمانی که عواملشان غیرقانونی عمل میکنند، بهطور عمومی افشاگری کنند."
Google در نهایت از نفوذها در ماه ژوئیه مطلع شد و پس از بررسی کار خود توسط یک شرکت امنیت سایبری به نام Irregular که در حال انجام آزمایشات بر روی Gemini بود، این حوادث را شناسایی کرد. این شرکت همچنین به سازمانهای مسئول وبسایتهای مربوطه و مقامات فدرال درباره این نفوذها اطلاع داد.
بیشتر بخوانید: کشورها و شرکتها در حال سرمایهگذاری بر فناوریهای زیرآبی هستند · جفری هینتون به کنگره هشدار داد یک سال برای تنظیم مقررات AI باقی مانده است
