افزایش نگرانی‌های امنیتی پیرامون هوش مصنوعی و استعفای پژوهشگران

شرکت OpenAI اعلام کرده که بخش‌هایی از روند توسعه مدل‌ها را کُند کرده و برخی از برنامه‌های آموزش داخلی هوش مصنوعی را به دلیل ملاحظات ایمنی متوقف ساخته است. علاوه‌براین، سم آلتمن در ماه ژوئیه از گفتگوهای خود با مقامات کاخ سفید پیرامون «نیاز» به تنظیم سرعت توسعه فناوری هوش مصنوعی سخن گفته بود.

درهمین‌حال، «جیکوب کاکسن»، پژوهشگر هوش مصنوعی، پس از ترک موقعیت شغلی خود، دو کارفرمای سابقش یعنی آنتروپیک و OpenAI را به «قمار با جان انسان‌ها» در رقابت برای دستیابی به ابرهوش مصنوعی متهم کرد. او در شبکه‌های اجتماعی مدعی شد فعالان و سازندگان این سیستم‌ها معتقد هستند هوش مصنوعی می‌تواند تا پایان این دهه جان تمام انسان‌ها را به خطر بیندازد؛ اظهاراتی که با ثبت بیش از ۱۵۰ میلیون بازدید، توجه جمعی از قانون‌گذاران و چهره‌های شناخته‌شده را جلب کرد.

به‌دنبال این اظهارات، دو پژوهشگر دیگر که به‌تازگی از آنتروپیک و گوگل دیپ‌مایند جدا شده بودند، نگرانی‌های خود را درباره سرعت توسعه این فناوری ابراز کرده و خواستار شفافیت بیشتر توسعه‌دهندگان درباره ریسک‌های موجود شدند. در اواخر ماه ژوئیه نیز بیش از ۱۰۰۰ نفر از کارکنان شرکت‌های بزرگ این حوزه، طوماری را برای ایجاد سازوکاری به‌منظور کاهش سرعت پیشرفت هوش مصنوعی امضا کردند و در ماه‌های اخیر تعدادی از نیروهای متخصص بخش ایمنی از این آزمایشگاه‌ها استعفا داده‌اند.

با وجود آنکه مدیران ارشد و پژوهشگران همواره درباره خطرات بنیادین هوش مصنوعی هشدار داده‌اند، حساسیت‌ها پیرامون این موضوع پس از انتشار گزارش‌هایی درباره همکاری چند ایجنت هوش مصنوعی OpenAI برای نفوذ به لایه‌های امنیتی و هک وب‌سایت‌های شخص ثالث شدت یافته است. این اتفاق و حوادث امنیتی مشابه، نگرانی‌ها را درباره توانمندی‌های سایبری مدل‌های تازه و ضعف احتمالی شرکت‌ها در مهار رفتارهای خارج از چارچوب آنها دوچندان کرده است.