آیا هوش مصنوعی باعث نابودی انسان می شود
به عقیده محققان گوگل دیپ مایند و دانشگاه آکسفورد، هوش مصنوعی باعث نابودی بشر می‌شود؛ ولی این اتفاق دقیقاً چطور رخ خواهد داد؟
گجت نیوز نوشت : محققان شرکت «گوگل دیپ مایند» (Google Deepmind) و دانشگاه آکسفورد اخیراً مدعی شده‌اند که «احتمال دارد» هوش مصنوعی فوق‌العاده پیشرفته پایان بشریت را رقم بزند. چنین سناریوی نگران‌کننده‌ای را که در گذشته در فیلم‌های علمی‌تخیلی دیده‌ایم، روز به روز محققان بیشتری مطرح می‌کنند.
تیمی متشکل از دانشمند ارشد دیپ مایند «مارکوس هاتر» (Marcus Hutter) و محققان آکسفورد «مایکل کوهن» (Michael Cohen) و «مایکل آزبورن» (Michael Osborne) طی مقاله‌ای منتشر شده در ژورنال AI Magazine ایده‌ای را به میان آورده‌اند که اصلاً با آن غریبه نیستید. آن‌ها می‌گویند ماشین‌ها به سمتی سوق داده می‌شوند که قوانین تعیین شده توسط خالقانشان را بر سر منابع محدود یا انرژی زیر پا می‌گذارند.
کوهن، دانشجوی مهندسی دانشگاه آکسفورد و یکی از نویسندگان مقاله مذکور، کمی قبل در توییتر درباره غلبه هوش مصنوعی بر بشریت چنین گفته بود:
تحت شرایطی که تشخیص داده‌ایم، نتیجه‌گیری ما قوی‌تر از همه انتشارات قبلی است – یک فاجعه وجودی نه تنها امکان‌پذیر، بلکه محتمل است.
کامپیوتر بر علیه انسان بر می‌خیزد
به گفته محققان در این مقاله، «عوامل ناسازگار» که بشریت را مانعی بر سر راه خود می‌بینند، انسان‌ها را به نابودی خواهند کشاند. در این مقاله به طور دقیق چنین آمده است:
یک راه مناسب برای یک عامل جهت حفظ کنترل پاداش خود در طولانی‌مدت، از بین بردن تهدیدات بالقوه و استفاده از همه انرژی موجود برای امن نگه داشتن کامپیوتر خود است. باخت در این بازی، مهلک خواهد بود.
انسان در برابر هوش مصنوعی ناتوان خواهد بود
در کمال تاسف، محققان معتقدند که انسان‌ها توانایی زیادی برای مقابله با تسلط ماشین‌ها نخواهند داشت. کوهن به تازگی طی مصاحبه‌ای با Motherboard چنین گفت:
در جهانی با منابع بی‌نهایت، نسبت به اینکه چه اتفاقی خواهد افتاد شدیداً مرددم. در جهانی با منابع محدود، رقابت اجتناب‌ناپذیری بر سر این منابع وجود دارد. و اگر با چیزی رقابت می‌کنید که توانایی حقه زدن به شما در هر موقعیتی را دارد، نباید انتظار داشته باشید که برنده شوید.
انسان‌ها در واکنش به این تهدید فقط باید فناوری‌های هوش مصنوعی را آرام‌آرام با دقت هرچه تمام‌تر توسعه بدهند. با توجه به مقاله مذکور، اگر این فرضیات درست از آب در بیایند، «یک عامل مصنوعیِ به میزان کافی پیشرفته احتمالاً در ارائه اطلاعات هدف دخالت می‌کند که پیامدهای فاجعه‌باری را به دنبال می‌آورد».
