هراس از هوش مصنوعی؛ آری یا نه؟

ماهنامه دانشمند - فرانک آذری: پدربزرگ و مادربزرگ تان را تصور کنید، چه ها که از سر نگذرانده اند و چه چیزها که برای اولین بار ندیده اند. شاید عمرشان به مسافرت با اسب و درشکه قد ندهد، اگرچه آن هم خاطره چندان دوری نیست. می گویند زمانی اتوبوس های دو طبقه، شگفتی همگان را بر می انگیختند، امروز نجواهایی از ظهور ماشین های پرنده بی راننده می شنویم. همین چند دهه پیش وجود یک تلویزیون سیاه و سفید در خانه، تجمل بزرگی برای یک خانواده متوسط محسوب می شد. افراد زیادی اولین بازی را که از تلویزیون تماشا کرده اند، به یاد می آورند. امروز عینک های سه بعدی به بازارآمده اند که می توانند شما را به اعجاب آورترین مکان ها ببرند. فکر می کنید شما در زندگی چه چیزهای عجیبی ببینید؟

فکر می کنید نسل جدید موجودات سوپرهوشمند در راهند؟ تصورتان از آنها چگونه است؟ کسانی شبیه دیوید دوست داشتنی فیلم هوش مصنوعی استیون اسپیلبرگ یا کسانی شبیه ترمیناتور؟ شما کدام شان را ترجیح می دهید؟ دنیای خود را با آنها چگونه می بینید؟ می توانید مجسم کنید این موجودات فوق هوشمند تازه از راه رسیده، جانشین انسان شوند و کنترل زمین را در دست بگیرند؟

تصور کنید یکی از گونه های خیرخواه آنها بتواند با سرعت باورنکردنی کد ژنتیکی انسان را تحلیل کند و راز جوانی جاودانه را که انسان همواره به دنبال آن بوده است، کشف کند. آینده چه چیزی برای ما در آستین پنهان کرده است؟ آیا انسان با این پدیده های دیجیتالی به سمت جاودانگی پیش می رود یا برعکس جنگ و ویرانگری در پیش است؟

وحشت از آینده

آنچه خیلی ها را به وحشت انداخته این است که شاید این ماشین های هوشمند آنقدرها هم خیرخواه نباشند. نیک باسترم که انستیتوی «آینده بشر» را در سال ۲۰۰۵ در دانشگاه آکسفورد بنیان گذاشته و اداره می کند، این سناریو را در کتاب خود به نام «ابرهوش» توصیف می کند. این کتاب مهمی است که به میزان قابل توجهی به بحث درباره آینده هوش مصنوعی دامن زده و توجه متخصصان زیادی را به این موضوع جلب کرده است.

سناریوی او بدین گونه است. ماشینی را تصور کنید که آن را «حداکثر کننده گیره کاغذ» می نامیم. این ماشین به گونه ای برنامه ریزی شده که حداکثر میزان ممکن گیره کاغذ را تولید کند. حال تصور کنید که این ماشین به نحوی غیرقابل تصور هوشمند شود چنان که برای هدفی که برای آن خلق شده، تصمیم بگیرد خودش تعداد بیشتری ماشین تولید کننده گیره کاغذ تولید کند تا جایی که بتواند اساسا همه چیز را به گیره کاغذ تبدیل کند، همه چیز...

شما ممکن است بگویید جای نگرانی نیست. می توان آن را به گونه ای برنامه ریزی کرد که دقیقا یک میلیون گیره کاغذ تولید کند و تمام. توجه کنید که از صفر تا صد مراحل تولید به عهده خود این ربات است و قرار نیست انسان هیچ نقشی در این میان داشته باشد. چگونه می شود اگر این تولید کننده فوق هوشمند، بعد از اتمام کارهایش تصمیم بگیرد کیفیت تولیداتش را شخصا کنترل کند؟ فرض کنید دچار شک شود که آیا درست شمرده است؟ برای این که بتواند از نتیجه کارش اطمینان حاصل کند، باید هوشمندتر شود.

این ماشین های تولید کننده فوق هوشمند برای این که بتوانند جواب شبهات و تردیدهایی را که در مرحله تولید پیش می آیند بدهند، باید هوشمندتر و هوشمندتر شوند. ولی هر سوال جدید، سوال های دیجیتالی بیشتری را بر می انگیزند. باسترم به وجود این حداکثر کننده گیره های کاغذ باور ندارد. این صرفا یک آزمایش فکری است. آزمایشی که طراحی شده برای این که نشان دهد چطور حتی یک سیستم با دقت طراحی شده هم می تواند از مسیر پیش بینی شده خارج شود. او باور دارد که سیستم های فوق هوشمند به زودی می توانند اطراف ما را فرا گیرند و در عین حال که این امر را موضوع فوق العاده مهمی در مسیر پیشرفت نوع انسان می داند، فکر می کند این گونه جدید، خیلی زود ممکن است به این نتیجه برسد که به انسان هایی که دور و برشان می پلکند، نیازی ندارند یا این که تصمیم بگیرند چند کار دیگر انجام دهند که به نابودی جهان بینجامد. شما چه فکر می کنید؟ آیا آینده بشر را در دستان این موجودات فوق باهوش عجیب می بینید؟

آینده دور از دسترس

اگر طرح این موضوع به نظرتان مضحک می آید، شما در این احساس تنها نیستید. برای مثال راندی بروک از منتقدان پیشگام در حوزه رباتیک می گوید کسانی که از هوش مصنوعی می ترسند، در درک مفهوم هوشمند شدن کامپیوترها دچار اشتباه شده اند. از نگاه منتقدانی چون او سیستم های ابرهوشمند فرضی که باسترم توصیف می کند به آینده بسیار دور تعلق دارند یا شاید حتی بتوانیم بگوییم وجودشان غیرمحتمل است.

ولی سرعت پیشرفت از زمان پدربزرگ و مادربزرگ تان را تا زمان خودتان در نظر بیاورید. وقتی امروز از آینده دور حرف می زنیم، دقیقا از چه زمانی حرف می زنیم؟ چقدر دور؟ باید بگویم همان طور که به احتمال خیلی زیاد خودتان می دانید، دانشمندان و اندیشمندان بسیاری با نظر باسترم موافقند و درباره هم زیستی انسان و موجودات ابرهوشمند ابراز نگرانی می کنند؛ چرا؟

قدرت فرانسانی ماشین

این سوال که «آیا یک ماشین می تواند فکر کند؟»، از همان ابتدا بر علوم کامپیوتر سایه انداخت. الن تورینگ در سال ۱۹۵۰ این ایده را مطرح کرد که به یک ماشین می توان مانند یک کودک آموزش داد. جان مک کارتی، مبدع زبان برنامه نویسی LISP برای اولین بار اصطلاح «هوش مصنوعی» را پیشنهاد داد اما به نظر شما از چه زمانی این ایده که کامپیوترها در نهایت توانایی حرف زدن خواهند یافت و بنابراین دست به کارهای شیطانی خواهند زد، در فرهنگ عمومی جاری شد؟

شاید بتوانیم بگوییم از همان ابتدا که پژوهشگران هوش مصنوعی استفاده از کامپیوترها برای کارهایی مثل بازشناسی تصاویر، ترجمه بین زبانی و شناسایی دستورالعمل ها در زبان های مختلف را شروع کردند. از همان ابتدا که کامپیوترها کارهای بسیار پیچیده را در زمانی بسیار کمتر از انسان و با دقت بسیار بیشتر انجام دادند. از ادیسه فضایی ۲۰۰۱ گرفته تا فیلم های ترمیناتور، ماتریکس، من ربات و فیلم های بسیار دیگر، ایده قدرت های فراانسانی ماشین ها همچنان قدرت خود را حفظ کرده است. ماشین هایی که جایی فراتر از اراده و توانایی انسان ایستاده اند و تصمیم نهایی درباره جهان همواره در ید قدرت آنهاست.

دوران جدید زیبا

موضوع ماشین هوشمند در دهه ۱۹۸۰ و ۱۹۹۰ در داستان نویسندگان علمی تخیلی مانند ورنر استفان وینجی و محققانی همچون هانس موراوک و ری کورتزوایل شکل تازه ای گرفت. این افراد نوید دوران تازه ای را می دادند؛ دوران ماشین های معنوی. در حالی که تورینگ موضوع هوش شبه انسان را مطرح کرده بود، وینجی، موراوک و کورتزوایل فکر بزرگ تری در ذهن داشتند. وقتی قرار باشد یک کامپیوتر به طور مستقل راهی به سوی اهدافش باز کند به احتمال بسیار زیاد توان خودآزمایی و در نتیجه اصلاح نرم افزاری خود را هم خواهد داشت.

این کامپیوتر می تواند خود را هوشمندتر از پیش کند. چنین کامپیوتری قادر به بازآفرینی سخت افزاری خود نیز خواهد بود. چیزی شبیه ماشین حداکثر کننده گیره کاغذ در آزمایش فکری باسترم. در نگاه کورتزوایل اما این پدیده یک دوران جدید را آغاز می کند. چنین ماشین هایی بینش و صبر کافی برای حل مسائل پیچیده ای چون تکنولوژی نانو و کیهان نوردی را خواهند داشت. این ماشین ها، وضعیت زندگی انسان ها را بهبود خواهند بخشید و اجازه می دهند هوشیاری بشر یک نمود دیجیتال فناپذیر بیابد. هوش در پهنای کهکشان ها گسترده خواهد شد.

هشدار هاوکینگ

درست در مقابل این نگاه خوشبینانه، استفان هاوکینگ هشدار داده است از آنجایی که انسان از مسابقه دادن با یک هوش مصنوعی پیشرفته ناتوان خواهد بود، این می تواند پایان گونه انسان باشد. ایلان ماسک پس از خواندن کتاب «ابرهوش» در حساب توییتری خود نوشت امیدوارم ما صرفا جاده صاف کن های ژنتیکی ابرهوشمندهای دیجیتال نباشیم ولی متاسفانه احتمالش روز به روز بیشتر می شود.

ایلان ماسک سپس مبلغ ۱۰ میلیون دلار به موسسه «آینده زندگی» اختصاص داد. گفته می شود این موسسه در راستای کاهش خطرات پیش روی انسان فعالیت می کند. مشکلاتی که «می توانند» با پیشرفت هوش مصنوعی در مقابل انسان ها و زمین رخ نمایند.