آزمايشات جديد ديپ مايند گوگل و افزايش نگرانی از خطرات هوش مصنوعی برای بشریت

نگرانی از خطرات هوش مصنوعی برای بشریت

دانشمندان معتقدند که هوش مصنوعي با پيشرفت خارق العاده  به جايي خواهد  رسید که لزومي به وجود انسان روي زمين نمي بيند و مصم به نابودی بشریت خواهد شد. تحقيقات اخير آزمايشگاه ديپ مايند گوگل نيز کمکي به رفع نگراني  دانشمندان نمي کند.

محققين گوگل اخیرا دو بازي را طراحي نمود اند تا مشخص کنند عوامل هوش مصنوعي تولید شده  مبتني بر شبکه هاي عصبي ، همکاری با  یکدیگر را ترجیح مي دهند ، و یا تمایل به  رقابت با يکديگر در آنها بیشتر است. محققین امید بر این دارند کا با نتایج حاصل از این تحقیق بتوانند عوامل هوشمند را تحت  شرايطي با اطلاعات ناقص وادرا به همکاري با يکديگر کنند.

در این بازي  دو عامل AI  ابتدا در محيطي با تعداد سیب های محدود به جمع آوري سيب می پردازند. در ماموریت فوق اين امکان وجود دارد تا رقیب را توسط  برچسب ليزري مجازي  برای زمان کوتاهي از رده رقابت خارج کرد. در طی 1000 بار اجرای بازی دو رقیب در ابتدا تنها به جمع کردن سيب مي پردازند، اما با کاهش یافتن تعداد سيب ها تمایل به استفاده از اسلحه مجازي براي غلبه بر حريف بیشتر می شود.

محققين همچنین دریافتند با کوچک تر شدن محيط ، همکاري براي بقا بالا مي رود، اما در صورت پيچيده تر شدن شبکه و افزودن تعداد عامل هاي هوشمند، از شروع بازی شاهد رقابت و نبرد برای جمع کردن سیب بیشتر هستيم.

در دومین بازي که Wolfpack نام دارد، عامل هاي هوشمند برای شکار با یکدیگر رقابت می کنند ، در این بازی بيشترين جايزه هنگامی به آنها تعلق مي گيرد که زمان شکار عامل هاي AI به يکديگر نزديک تر باشند. به همین جهت آنها متوجه شدند که  براي دريافت امتیاز بيشتر بايد با هم همکاري نمایند.

يکي از کاربردهاي اين تحقيق درک و کنترل نمودن بهتر سيستم هاي چند عاملي پيچيده ای  مانند ترافیک و اقتصاد که به همکاري مستمر سامانه هاي هوشمند نيازمند می باشد.

مسلما  آينده AI و انسان به همکاري  میان آنها وابسته است، و تا دیر نشده باید به آگاهی برسیم که در آينده اين عامل هاي هوشمند در شرايط حساس و رقابتي چه تصميمی اتخاذ می کنند. و تدابیری اندیشه شود تا آنها در کنار همکاري با يکديگر، بشر را دشمن و رقیب خود تلقي نکنند.