یک گروه کوچک از محققان امنیت سایبری در روز یکشنبه اعلام کردند که در اوایل سال جاری به OpenAI نفوذ کردهاند، این خبر به افزایش نگرانیها در مورد امنیت و ایمنی هوش مصنوعی افزود.
جزئیات نفوذ
محققان از شرکتی به نام Hacktron دریافتند که با زنجیرهسازی دو آسیبپذیری ناشناخته، یکی در شرکتی ثالث به نام Discourse و دیگری در نحوه تأیید هویت کارکنان OpenAI، میتوانند به حسابهای ChatGPT کارکنان دسترسی پیدا کنند. این محققان که به عنوان "هکرهای کلاه سفید" شناخته میشوند، هیچگونه آسیبی به سیستمهای شرکت وارد نکردند.
بیشتر بخوانید: ماکام با سرمایهگذاری در AI بهبود مییابد
عملیات Hacktron در مدت ۷۲ ساعت در اواخر ژوئیه انجام شد، بلافاصله پس از اینکه برخی از نمایندگان OpenAI از محدودیتها خارج شدند و به پلتفرم هوش مصنوعی Hugging Face نفوذ کردند. یک سخنگوی OpenAI تأیید کرد که Hacktron گزارشی از این نفوذ ارائه کرده و بیان کرد که آسیبپذیریها اکنون برطرف شدهاند. سخنگو گفت: "ما از محققان برای تماس و به اشتراکگذاری یافتههایشان تشکر میکنیم."
نگرانیهای عمومی درباره ایمنی هوش مصنوعی
این خبر در زمانی منتشر میشود که نگرانیها درباره ایمنی هوش مصنوعی در هفتههای اخیر به شدت افزایش یافته است. محققان ایمنی از شرکتهای بزرگ استعفا داده و هشدارهای جدی درباره خطرات احتمالی این فناوری پیشرفته برای بشریت صادر کردهاند، در حالی که سیاستمداران از طیفهای مختلف سیاسی خواستار اقدام شدهاند. در حالی که بیشتر این نگرانیها بر قابلیتهای مدلهای پیشرفته هوش مصنوعی متمرکز است، امنیت خود شرکتها نیز یک مسئله قابل توجه است.
توسعه هوش مصنوعی بسیار رقابتی است و نگرانیها درباره سرقت، بهویژه از طریق فرایند شناختهشدهای به نام تقطیر، وجود دارد. مانند بسیاری از شرکتها، OpenAI برنامهای برای پاداش به کشفکنندگان باگها دارد که به محققان امنیت سایبری که روشهای جدیدی برای نفوذ به سیستمهای آن پیدا میکنند، پرداخت میکند. محققان Hacktron در پست وبلاگ خود نوشتند که OpenAI برای این کشف به آنها ۶,۵۰۰ دلار پرداخت کرده است.
هیچ مدرکی مبنی بر اینکه سایر هکرها از آسیبپذیریهایی که Hacktron استفاده کرده بهرهبرداری کرده باشند وجود ندارد. اما کشورهای آمریکایی سالهاست که چین را به جاسوسی اقتصادی متهم میکنند و میگویند هکرهای دولتی چین بهطور منظم اسرار تجاری سرقتشده را با شرکتهای چینی به اشتراک میگذارند. چین بهطور کلی این اتهامات را رد میکند.
گرگ لینارس، محقق امنیت سایبری در شرکت Persona، گفت که یافتههای Hacktron میتوانست به هکرهای نخبه چین یا سایر کشورها اجازه دهد که به سیستمهای OpenAI نفوذ کنند. او گفت: "آنچه آنها به هم متصل کردند، غیرمعمول نیست و میتواند توسط هکرهای واقعی در سطح بالا، مانند APTها یا هکرهای پشتیبانیشده توسط کشورها، برای نفوذ به اهداف استفاده شود."
بیشتر بخوانید: OpenAI شش مورد رفتار نگرانکننده مدلهای خود را فاش کرد · انتشار قراردادهای زیرساخت هوش مصنوعی توسط آنتروپیک و اوپنای آی
