هوش مصنوعی سازندگان خود را فریب داد!

خبرگزاری ایسنا: پژوهشگران در بررسی جدیدی متوجه شدند یکی از سیستم‌های مبتنی بر هوش مصنوعی که کار تبدیل تصاویر را به عهده دارد، برخی از اطلاعات را پنهان می‌کند.

پژوهش جدید "دانشگاه استنفورد"(Stanford University) و گوگل، هم ترسناک و هم جالب است. براساس این گزارش، یک عامل یادگیری ماشینی که تصاویر هوایی را به نقشه‌های خیابانی تبدیل می‌کند، می‌تواند به صورت نامحسوس به پنهان کردن اطلاعاتی که بعدا به آنها نیاز دارد بپردازد.

هدف پژوهشگران از ابداع این سیستم، بهبود فرآیند تبدیل تصاویر ماهواره‌ای به نقشه‌های مشهور گوگل بود. آنها برای این کار، از یک شبکه عصبی موسوم به "سایکل‌گن"(CycleGAN) استفاده کردند که می‌تواند کار تبدیل دو نوع تصویر را با دقت و کارآیی لازم انجام دهد.

عملکرد سیستم، در ابتدا بسیار خوب بود اما بعدها گروه پژوهشی متوجه شدند که سیستم، تصاویر هوایی را از روی نقشه‌های خیابانی بازسازی می‌کند و جزئیات بسیاری نشان می‌دهد که جدید به نظر نمی‌رسند. برای مثال، نورگیرهای سقف که در مرحله ایجاد نقشه خیابان حذف شده بودند، هنگام بازگرداندن فرآیند، دوباره ظاهر شدند.

اگرچه برقراری تعادل میان کارهای داخلی یک شبکه عصبی، دشوار است اما این گروه پژوهشی به راحتی توانستند داده‌های تولیدی سیستم را بررسی کنند و با کمی آزمایش متوجه شدند که سایکل‌گن می‌تواند این کار را سریع‌تر انجام دهد.

هدف آنها، ارائه سیستمی بود که بتواند از عهده تحلیل ویژگی‌های هر نقشه‌ای برآید و آنها را با ویژگی‌های درست نقشه دیگر منطبق کند اما آنچه سیستم انجام داد، تنها ارائه یک نقشه هوایی نزدیک به نسخه اصلی آن بود.

در واقع، سیستم یاد نگرفت چگونه یک نقشه را از روی نقشه دیگر بسازد، بلکه تنها یاد گرفت ویژگی‌های یکی از نقشه‌ها را به شکل زیرکانه‌ای روی الگوهای نقشه دیگر کدگذاری کند. جزئیات نقشه هوایی از جمله هزاران رنگ که چشم انسان قادر به تشخیص آنها نیست اما رایانه آنها را تشخیص می‌دهد، به صورت محرمانه روی داده‌های بصری واقعی نقشه خیابان ثبت می‌شوند.

رایانه یاد گرفت هر نقشه هوایی را روی هر نقشه خیابانی کدگذاری کند. سیستم حتی به نقشه واقعی خیابان هم توجه نمی‌کند بلکه به گفته پژوهشگران، همه داده‌های مورد نیاز برای ساخت تصویر هوایی را روی یک نقشه خیابانی متفاوت قرار می‌دهد.

خطوط رنگارنگ نقشه c، تجسم تفاوت‌های کوچکی هستند که رایانه به صورت سیستماتیک نشان می‌دهد.

روش کدگذاری داده‌ها در تصاویر، روش جدیدی نیست. این روش موسوم به "پنهان‌نگاری" یا "استگانوگرافی"(steganography) همیشه برای ارائه تصاویر جزر و مد و یا افزودن ابرداده‌ها مورد استفاده بوده اما به کار بردن روش استگانوگرافیک توسط این سیستم، برای طفره رفتن از انجام وظیفه است.

شاید عده‌ای این کار را با گفتن جمله "ماشین‌ها باهوش‌تر می‌شوند" توجیه کنند اما حقیقت، تقریبا برعکس است. این ماشین برای انجام دادن وظیفه واقعی خود یعنی تبدیل تصاویر پیچیده به یکدیگر، به اندازه کافی باهوش نیست و تلاش می‌کند راهی برای فریب انسان‌هایی پیدا کند که دقت لازم را ندارند. پیشگیری از این اتفاق، با بررسی‌های دقیق‌تر ممکن است و شکی نیست که پژوهشگران این کار را انجام می‌دهند.