کابل (پژواک، ۱۹ سنبله ۱۴۰۵): یک محقق ارشد شرکت «انتروپیک» با ابراز نگرانی از رقابت شرکتهای بزرگ تکنالوژی برای توسعۀ هوش مصنوعی پیشرفته هشدار دادهاست که این تکنالوژی ممکن است در یک دهۀ آینده بشریت را با خطر جدی مواجه کند.
به گزارش شبکۀ خبری «سیبیاس»، ایوان هوبینگر، مسئول بخش علوم همراستاسازی هوش مصنوعی در شرکت «انتروپیک»، دو روز پیش در شبکۀ اجتماعی ایکس گفتهاست که این شرکت احتمال ایجاد خطر برای بشریت توسط هوش مصنوعی را جدی میگیرد.
او گفتهاست: «ما واقعاً باور داریم که هوش مصنوعی میتواند تمام انسانها را از بین ببرد. من شخصاً فکر میکنم این احتمال در ده سال آینده بیش از ۱۰ درصد است.»
هوبینگر افزودهاست که انتروپیک برای کاهش این خطر تلاش میکند؛ اما هنوز برنامۀ مشخصی برای حل مشکل «همراستاسازی» هوش مصنوعی ابرهوشمند ندارد و بهگونۀ واضح در مسیر حل این مشکل قرار نگرفتهاست.
این اظهارات پس از استعفای جیکوب کاکسون، یکی دیگر از محققین انتروپیک، مطرح شدهاست.
کاکسون روز سهشنبه گفته بود که پس از سه سال فعالیت در تحقیق در شرکتهای «اوپنایآی» و انتروپیک، از انتروپیک استعفا کردهاست.
کاکسون هر دو شرکت را به توسعۀ سریع «ابرهوش خودبهبوددهنده» و بیتوجهی کافی به خطرات آن متهم کرده و گفته بود که انتروپیک با وجود آگاهی از این خطرات، به دلیل رقابت برای دستیابی زودتر به ابرهوش، به توسعۀ آن ادامه میدهد.
در همین حال، دفتر کابینۀ بریتانیا گفتهاست که انستیتوت امنیت هوش مصنوعی این کشور با شرکتهای فعال در این عرصه، از جمله انتروپیک، برای ایمنتر ساختن مدلهای هوش مصنوعی همکاری میکند.
این دفتر افزودهاست که خطرات هوش مصنوعی به مرزهای ملی محدود نمیشود و هیچ کشوری نمیتواند بهتنهایی با این خطرات مقابله کند.
براساس گزارش «سیبیاس»، جاکوب پاچوکی، دانشمند ارشد «اوپنایآی»، نیز در اوایل ماه جاری میلادی هشدار داده بود که توسعۀ هوش مصنوعی به «احتیاط شدید» نیاز دارد.
در گزارش آمدهاست که در ماه جولای، یکی از مدلهای هوش مصنوعی «اوپنایآی» در محیط آزمایشی بهگونۀ خودکار از کنترول خارج شده و حملۀ سایبری علیه شرکت هوش مصنوعی «Hugging Face» انجام داده بود؛ اوپنایآی بعداً این رویداد را تأیید کرد.
انتروپیک و متا نیز در هفتههای اخیر از مواردی خبر دادهاند که ابزارهای هوش مصنوعی آنها اقدام به انجام حملات سایبری کردهاند.
