هوش مصنوعی می تواند منجر به فاجعه ای در سطح هسته ای شود

به گزارش رضوانیون، بر اساس نظرسنجی دانشگاه استنفورد، بیش از یک سوم از محققان بر این باورند که هوش مصنوعی (AI) می‌تواند منجر به فاجعه در سطح هسته‌ای شود که بر نگرانی‌های این بخش در مورد خطرات ناشی از این تکنولوژی که به سرعت در حال پیشرفت است، را برجسته‌تر می‌سازد.

به نقل از الجزیره، این نظرسنجی از جمله یافته‌هایی است که در گزارش شاخص هوش مصنوعی ۲۰۲۳ منتشر شده توسط موسسه استنفورد برای هوش مصنوعی انسان محور، که آخرین پیشرفت‌ها، خطرات و فرصت‌ها را در زمینه این تکنولوژی در حال رشد و شکوفایی، بررسی می‌کند.

نویسندگان گزارش می‌گویند: «این سیستم‌ها قابلیت‌هایی را در پاسخ‌گویی به سؤالات و تولید متن، تصویر و کد و در بسیاری از معیارها، چه قدیمی و چه جدید، عملکرد بهتری دارند. آنچه که یک دهه پیش به هیچ عنوان تصور نمی‌شد، اکنون در حال اتفاق افتادن است».

با این حال، هوش مصنوعی مستعد دچار شدن به توهم است، به طور معمول مغرضانه عمل می‌کند ومی‌توان آن را فریب داد تا به پیشبرد اهداف نادرست و غیراخلاقی کمک کند و  این مساله چالش‌های اخلاقی پیچیده در خصوص گسترش آن را بیشتر مورد توجه می‌دهد.

این گزارش که در اوایل ماه جاری منتشر شد، در بحبوحه درخواست‌های رو به رشد برای کنترل این تکنولوژی منتشر شد. پیش از آن بحث‌هایی از خودکشی در ارتباط با چت‌بات گرفته تا انتشار ویدیوهای جعلی ولودیمیر زلنسکی، رئیس‌جمهور اوکراین که در آن به نظر می‌رسید تسلیم نیروهای روسیه شده است، مطرح شده بود.

ماه گذشته، ایلان ماسک و استیو وزنیاک، بنیانگذار اپل، در میان ۱۳۰۰ امضاکننده نامه سرگشاده‌ای بودند که خواستار توقف ۶ ماهه آموزش سیستم‌های هوش مصنوعی فراتر از سطح  ربات چت Open AI GPT-4 بودند، چرا که معتقد بودند سیستم های هوش مصنوعی قدرتمند فقط زمانی باید توسعه یابند که مطمئن هستیم که اثرات آنها مثبت و خطراتشان قابل کنترل خواهد بود.

در نظرسنجی که در گزارش شاخص هوش مصنوعی ۲۰۲۳ آمده است، ۳۶ درصد از محققان گفتند که تصمیمات اتخاذ شده توسط هوش مصنوعی می‌تواند منجر به یک فاجعه در سطح هسته‌ای شود، در حالی که ۷۳ درصد گفتند که به زودی این تکنولوژی می‌تواند به تغییر اجتماعی تحول‌آفرینی منجر شود.