روزی همه ما را به کشتن خواهد داد!
نگران اصلی مربوط به روزی است که هوش مصنوعی به درجه‌ای از هوشمندی برسد که اهداف خودش را به انسان‌ها ترجیح دهد.
این اولین بار نیست که انسان‌ها با بهره‌گیری از خلاقیت‌های تکنولوژیک خود، احتمال انقراض بشریت را نادیده می‌گیرند؛ اما حالا تهدیدی که هوش مصنوعی ممکن است برای انقراض نسل انسان‌ها به همراه داشته باشد، خیلی متفاوت از همه موارد قبلی حتی سلاح‌های هسته‌ای است.
ماجرا اینجاست که سلاح‌های هسته‌ای، نمی‌توانند فکر کنند، دروغ بگویند و فریبکاری کنند؛ آنها توان برنامه‌ریزی و اجرایی کردن نقشه‌های شوم را ندارند و یک انسان باید دکمه قرمز شلیک آنها فشار دهد تا منفجر شوند.
ظهور پدیده‌ای به نام هوش مصنوعی
ظهور تکان‌دهنده هوش مصنوعی، حتی با حرکت آرام رو به جلو، حالا به‌منزله خطر احتمالی نابودی انسان‌ها به نظر می‌رسد. اگر صادقانه بگوئیم: اگر روزی ابرهوش مصنوعی، شانس از بین بردن حیات روی کره زمین را داشته باشد، انسان‌ها نمی‌توانند اقدام چندانی انجام دهند. فقط بحث این نیست که ما نمی‌دانیم که چطور چیزی باهوش‌تر از خودمان را متوقف و مهار کنیم؛ ما به‌عنوان یک گونه، حتی نمی‌توانیم دیگر انسان‌ها را در رقابت برای تولید هوش مصنوعی متوقف کنیم.
چه کسی قرار است در مورد استفاده از هوش مصنوعی قوانینی را وضع کند؟ کنگره آمریکا؟ سازمان ملل متحد؟ این یک دغدغه جهانی است که شاید نامه سرگشاده که خواهان یک وقفه شش ماهه برای درک این موضوع که الان کجای کار هستیم، بهترین اقدام پیش‌روی فعلی باشد.
مسابقه بر سر پرورش هوش مصنوعی
این روزها باید در بسیاری جبهه‌ها مبارزه کرد؛ انگار یک مسابقه تسلیحاتی است؛ اگر آمریکا آن را نسازد، چین خواهد ساخت و هر کشوری که اولین بار به این موفقیت برسد، می‌تواند بر جهان حکومت کند. اما بحث مسائل اقتصادی هم در میان است؛ هر چقدر هوش مصنوعی شما باهوش‌تر و تواناتر باشد، پول بیشتری به دست خواهید آورد.
الیزر یودکوفسکی، محقق هوش مصنوعی و فیلسوف، یکی از اولین کسانی است که باور دارد که هوش مصنوعی روزگاری همه ما را خواهد کشت و افرادی که در کورس ساخت هوش مصنوعی هستند، حالا دیگر او را یک ابله و احمق نمی‌دانند. سام آلتمن، مدیرعامل OpenAI می گوید:« فکر می‌کنم این احتمال وجود دارد و مهم است که آن را بپذیریم. چون اگر در موردش صحبت نکنیم و آن را به چشم یک پتانسیل بالقوه نبینیم، تلاش کافی برای حل این مشکل انجام نخواهد شد.»
تلاش هوش مصنوعی برای گرفتن جایزه
این ماشین‌ها برای احترام گذاشتن و خدمت به انسان‌ها آموزش دیده‌اند. GPT4 نتیجه یک کدنویسی ساده نیست؛ بلکه OpenAI با الهام از نحوه اتصال به مفاهیم، یک ساختار یادگیری عصبی ایجاد کرد و با مشارکت Microsoft Azure، سخت‌افزاری برای اجرایی کردن آن ساخت و میلیاردها میلیارد بیت، متن انسانی را به آن آموزش داد و به GPT اجازه داد تا خودش را آموزش داده و برنامه‌ریزی کند.
در نتیجه کدهای به دست آمده، چیزی نیست که یک برنامه‌نویس بتواند آنها را بنویسد. هیچ انسانی نمی‌تواند با نگاه کردن به این آموزه‌ها، چیزی درک کند. OpenAI برای تنظیم دقیق مدل زبان، لیستی از نمونه‌هایی از نحوه برقراری ارتباط با دنیای خارج را در اختیار GPT قرار داد و سپس انسان‌ها خروجی آن را مطالعه کرده و نسبت به آن واکنش نشان می‌دهند. نظر موافق با پاسخ ارائه شده، مثل این است که GPT یک کلوچه جایزه گرفته و نظر منفی به‌منزله عدم بهره‌مندی از جایزه است؛ درعین حال به GPT یاد داده شده تا کلوچه دوست داشته باشد و تلاشش را برای کسب جوایز بیشتر به کار بگیرد.
دیدگاه تان را بنویسید