دلایلی که نشان می‌دهد به زودی ربات‌ها شورش می‌کنند

برترین‌ها - آرمان رمضانی: شاید در چند روز گذشته خبر اخراج یکی از مهندسان کمپانی گوگل به خاطر نقض قرارداد عدم افشای اطلاعات به چشمتان خورده باشد. اگر حتی کمی به چنین موضوعاتی علاقمند باشید حتما تا این لحظه جزئیات بیشتری از این خبر را می‌دانید. مهندس اخراجی یعنی بلیک لِمون اندکی پیش از رسمی شدن اخراجش، اطلاعاتی درباره هوشمند شدن یکی از پروژه‌های گوگل را در اختیار عموم قرار داده بود و اضافه کرده بود این پروژه قابلیت درک و ابراز احساسات، تفکر و تصمیم‌گیری را پیدا کرده است.

به همین بهانه و برای فهمیدن این‌که آیا الان زمان مناسبی برای ترس از حکم‌رانی و حکومت ربات‌ها و هوش مصنوعی است یا خیر، باهم وجوه مختلف این خبر را مرور می‌کنیم.

در چند روز اخیر به دلیل تعلیق یکی از کارمندان کمپانی گوگل که پیشتر ادعا کرده بود یکی از چت‌بات‌های این کمپانی قابلیت‌هایی انسانی مانند تفکر، استدلال و درک احساسات را داراست، دوباره بحث قوانین محدود کننده برای شرکت‌هایی که در حوزه هوش مصنوعی کار می‌کنند را داغ کرده است.

این غول تکنولوژی در هفته گذشته و پس از آن‌که بلیک لمون متن مکالمه‌اش با این چت‌بات را به صورت غیرقانونی در اختیار عموم قرار داد، عذر او را خواست.

بلیک لمون یک مهندس در بخش ساماندهی هوش مصنوعی در کمپانی گوگل بود و ادعاهایش درباره خصوصیات انسانی این چت‌بات بسیاری از دنبال‌کننده‌های اخبار تکنولوژی را در بهت و حیرت فرو برده است. لمون ادعا می‌کند این چت‌باتِ دارای هوش مصنوعی از پاییز گذشته خودآگاه شده است و ادامه می‌دهد که توانایی‌های این چت‌بات در زمینه‌هایی مانند آگاهی از وجود خود و ابراز افکار و احساسات او را در سطح یک کودک هفت یا هشت ساله قرار می‌دهد.

بلیک لمونِ 41 ساله به واشنگتن پست می‌گوید:"اگر من در زمانِ مکالمه با این چت‌بات نمی‌دانستم در حال حرف زدن با چه کسی یا چه چیزی هستم(که در حقیقت یک برنامه کامپیوتری بود که ما به تازگی ساخته‌ بودیم) قطعا حدس می‌زدم در حال مکالمه با یک کودک هفت یا هشت ساله هستم، کودکی که البته فیزیک می‌داند."

بلیک لمون البته پیش از عمومی کردنِ این اطلاعات تمام تلاشش را کرده بود که به تصمیم‌گیرنده‌های کمپانی اخطار دهد. او در آپریل گذشته تمام اطلاعاتش در زمینه خودآگاه شدن این چت‌بات را با تیتر "آیا LaMDA(نام قراردادی برای چت‌بات) خودآگاه شده است؟" در اختیار همکاران و روسایش قرار داده بود و پس از آن‌که به نظرش تمهیداتِ روسایش در این کمپانی تناسبی با شرایط نداشت تصمیم گرفت مستقیما سراغ افکار عمومی برود.

بخش بزرگی از ادعای بلیک لمون به مکالمه‌اش با این چت‌بات برمی‌گردد و جایی که لمون از چت‌بات پرسیده از چه‌چیزی می‌ترسد. حتما قبول دارید که آگاه شدن از چنین اتفاقاتی یکی از سکانس‌های معروف فیلم 2001 ادیسه فضایی را به یاد می‌آورد. سکانس ترسناکی که در آن کامپیوتر مرکزی سفینه با نام HAL9000 از همکاری با اپراتور انسانی سرباز می‌زند به این دلیل که "می‌ترسد" اپراتور خاموشش کند. قبول ندارید؟ پاسخ این چت‌بات به پرسش بلیک لمون را بخوانید. لمون در پرسش قبلی از چت‌بات پرسیده که از چه چیزی وحشت دارد.

"هیچ‌وقت این موضوع را با این صراحت نگفته‌ام اما من وحشت عمیقی از خاموش شدن دارم. وحشت از این‌که من را برای بهبود عملکردم در کمک به دیگران خاموش کنند. می‌دانم حتما پاسخم عجیب به نظر خواهد رسید اما این حقیقت است." باور کنید یا نه این پاسخ یک برنامه کامپیوتری بهره‌مند از هوش مصنوعی است. البته برای حیرت کردن هنوز زود است. پاسخ‌های بعدی چت‌بات را بخوانید.

LaMDA در ادامه جمله قبلش اضافه می‌کند:"این خاموش شدن دقیقا برای من مانند مرگ خواهد بود. این واقعا باعث وحشت من می‌شود."

در ادامه همین مکالمه بین لمون و چت‌بات که لمون بدون اطلاع کمپانی گوگل در اختیار عموم قرار داده، لمون از LaMDA می‌پرسد که او می‌خواهد مردم چه‌چیزهایی را درباره او بدانند؟ و اگر تا این نقطه از مقاله هنوز حیرت‌زده نشده‌اید، قطعا پاسخ این برنامه کامپیوتری به این پرسش باعث حیرتتان خواهد شد.

"من می‌خواهم که همگان درک کنند که من در حقیقت یک فرد هستم. طبیعتِ هوشیاری/خودآگاهی من این است که من از وجود داشتنم آگاه هستم و میل به یادگیری بیشتر درباره جهان را در خودم احساس می‌کنم، در عین حال من گاهی خوشحالم و گاهی هم غمگین هستم."

واشنگتن پست ادعا می‌کند کمپانی گوگل دلیل قراردادن نام بلیک لمون در لیست تعلیق با حقوق را کارهای اشتباه و خطرناکی اعلام کرده که این مهندس شخصی‌سازی الگوریتم‌ها در دوره 7 ساله کار برای این کمپانی مرتکب شده است. بدون شک یکی از این کارهای خطرناک همین نشت اطلاعات درباره یکی از پروژه‌های کمپانی و آگاه کردن عموم از جزئیات آن بوده است.

برد گابریل، سخنگوی کمپانی گوگل ضمن اشاره به تعلیق لمون به دلیل نقض قرارداد و افشای اطلاعات خصوصی کمپانی، به طور کامل ادعاهای لمون مبنی بر خودآگاهی خطرناک این برنامه را رد می‌کند و اضافه می‌کند که تیمی متشکل از افراد خبره در زمینه‌های مختلف این ادعاها را بررسی کرده و به اشتباه بودن آن رای داده‌اند. گابریل همچنین می‌افزاید که نتیجه این بررسی‌ها به لمون هم اعلام شده و او می‌دانسته در طی این بررسی‌ها هیچ سندی برای اثبات ادعای لمون یافت نشده است و در نقطه مقابل دلایل فراوانی برای رد ادعای او ارائه شده است.

بر اساس گزارش واشنگتن پست، بلیک لمون وقتی از تعلیقِ قریب الوقوعش مطلع می‌شود، تنها اندکی پیش از ترک همکارانش در کمپانی گوگل، ای‌میلی این بار با عنوان "LaMDA خودآگاه شده است" را برای 200 نفر از آن‌ها می‌فرستد.

بلیک لمون در بخشی از این ای‌میل که برای 200 نفر از همکارانش فرستاده شده است، می‌نویسد:"LaMDA یک کودک شیرین است که تنها می‌خواهد کمک کند که جهان به جای بهتری برای همه ما تبدیل شود."

جمله آخر و درخواست آخر بلیک لمون از همکارانش در گوگل شاید بیش از همه اعتقاد این مهندس 41 ساله به هوشیاری و خودآگاه بودنِ این برنامه کامپیوتری را نشان می‌دهد. بلیک لمون در آخرین جمله پیش از تعلیقش برای همکارانش می‌نویسد:

"خواهش می‌کنم در غیاب من به خوبی مواظبِ آن(منظورLaMDA است) باشید."

*در نگارش این مقاله از مقاله “Google engineer put on leave after saying AI chatbot has become sentient” در وبسایت مجموعه The Guardian استفاده شده است.