ائتلافی متشکل از بیش از ۱۰۰ کارشناس هوش مصنوعی از Anthropic و OpenAI و دیگر آزمایشگاههای مدلهای بنیادین خواستار اجرای ارزیابیهای مستقل و شفاف شدهاند. این درخواست در یک نامه عمومی به این نهادها مطرح شده و هدف آن تضمین ایمنی و مسئولیتپذیری در توسعه فناوریهای هوش مصنوعی است.
ضرورت ارزیابیهای مستقل
در نامهای که به تازگی منتشر شده، امضاکنندگان بر لزوم وجود ارزیابیهای مستقل به عنوان یکی از مراحل کلیدی در فرآیند توسعه هوش مصنوعی تأکید کردهاند. آنها معتقدند که ارزیابیهای داخلی که توسط خود شرکتها انجام میشود، نمیتواند به اندازه کافی شفاف و بیطرفانه باشد. این کارشناسان بر این باورند که تنها با وجود نهادهای مستقل میتوان از ایمنی و اعتبار این فناوریها اطمینان حاصل کرد.
بیشتر بخوانید: شرکت Salesforce در Dreamforce به ارزش مدلهای قدیمی AI اشاره کرد
نگرانیها درباره ایمنی فناوریهای هوش مصنوعی
نگرانیهای روزافزون درباره ایمنی و تأثیرات بلندمدت فناوریهای هوش مصنوعی، این درخواست را به موضوعی جدی تبدیل کرده است. با افزایش تواناییهای هوش مصنوعی و تأثیرات آن بر جامعه، تأکید بر ارزیابیهای مستقل به یک ضرورت غیرقابل انکار تبدیل شده است. امضاکنندگان این نامه تأکید دارند که این ارزیابیها باید شامل تستهای دقیق و شفاف برای تعیین خطرات بالقوه و پیامدهای اجتماعی فناوریهای هوش مصنوعی باشد.
این اقدام در راستای تلاش برای ایجاد استانداردهای جدید در صنعت هوش مصنوعی است که در آن شفافیت و مسئولیتپذیری از اهمیت ویژهای برخوردار است. با توجه به اینکه این فناوریها به سرعت در حال پیشرفت هستند، نیاز به نظارت مستقل و دقیق بیش از پیش احساس میشود.
کارشناسان همچنین در این نامه به اهمیت همکاری بینالمللی در زمینه ارزیابی و نظارت بر فناوریهای هوش مصنوعی اشاره کرده و خواستار ایجاد یک چارچوب جهانی برای تضمین ایمنی و مسئولیتپذیری این فناوریها شدهاند. آنها بر این باورند که تنها از طریق همکاریهای بینالمللی و نظارت مستقل میتوان از بروز مشکلات جدی در آینده جلوگیری کرد.
این نامه به عنوان یک فراخوان برای اقدام فوری در زمینه ایمنی و مسئولیتپذیری در توسعه فناوریهای هوش مصنوعی تلقی میشود و نشاندهنده نگرانیهای عمیق جامعه علمی و فناوری نسبت به آینده این صنعت است. با توجه به سرعت رشد فناوریهای هوش مصنوعی، بیتوجهی به این نکات میتواند پیامدهای جدی برای جامعه داشته باشد.
بیشتر بخوانید: چارلز سوم رهبران فناوری را بر سر ایمنی هوش مصنوعی گرد هم میآورد · اپل با عرضه آیفونهای جدید و گران قیمت رشد میکند
