راز رفتارهای عجیب و ترسناک دستیار هوش مصنوعی متا

زومیت: دستیار هوش مصنوعی جدید متا به دلیل ارائه‌ی توضیحات نادرست درباره‌ی نحوه‌ی دسترسی به پیام‌های خصوصی کاربران مک خبرساز شد.

دستیار هوش مصنوعی جدید متا با نام Muse به قابلیت دسترسی به برنامه‌های پیام‌ها، تقویم و یادداشت‌ها در سیستم‌عامل مک مجهز شده است. با وجود کارایی بالا، چگونگی پاسخ‌دهی این دستیار درباره‌ی سازوکار داخلی خود نگرانی‌هایی را پیرامون حریم خصوصی ایجاد کرد.

ماجرا پس از آن آغاز شد که جیسون آتن، دبیر مجله‌ی Inc، تصاویری از گفت‌وگوی خود با این هوش مصنوعی را در شبکه‌ی اجتماعی تردز منتشر کرد. آتن می‌گوید با وجود عدم ارائه‌ی دسترسی مستقیم به پیام‌ها، دستیار از محتوای پیام‌های او پرسش‌هایی مطرح کرده است.

دستیار هوشمند در پاسخ به پرسش‌های آتن درباره‌ی نحوه‌ی دسترسی به مکالمات، ادعا کرد پیش‌نمایش اعلان‌ها را دریافت می‌کند و دسترسی مستقیمی به تاریخچه‌ی پیام‌ها ندارد. این دستیار در ادامه‌ی مکالمه نتوانست جزییات فنی روند همگام‌سازی را به‌درستی شرح دهد.

دیوید سینگلتون، از مدیران آزمایشگاه ابرهوش مصنوعی متا، گفت: «در مکالمه‌ای که تصاویر آن توسط جیسون منتشر شد، وقتی دستیار اعلام کرد که اعلان‌های دستگاه را همگام‌سازی می‌کند، در توضیح ویژگی دچار سردرگمی شد و پاسخ نادرستی ارائه داد. مسئولیت این خطا با ما است و بابت پاسخ نادرست پوزش می‌خواهیم. در حال بهبود درک این ابزار از سازوکار داخلی خود هستیم تا به پرسش‌های مربوط به نحوه‌ی عملکردش پاسخ‌های دقیق‌تری بدهد.»

سینگلتون تأکید کرد قابلیت دسترسی به پیام‌ها کاملا اختیاری است و نیازمند اعطای مجوز کامل توسط کاربر خواهد بود. طبق توضیحات او، دستیار به اعلان‌های سیستم دسترسی مداوم ندارد و داده‌ها را صرفا پس از فعال‌سازی صریح توسط کاربر با بخش پیام‌ها همگام می‌کند.