هشدار عجیب بیل گیتس درباره قدرت هوش مصنوعی

دیجیاتو: «بیل گیتس» هشدار داده که هوش مصنوعی توانایی و قدرت بالایی برای ایجاد وقایعی دارد که می‌توانند موجب مرگ ۱ میلیارد انسان شوند. او همچنین تأکید کرده که تکیه بر عملکرد خود شرکت‌ها برای نظارت بر ایمنی این فناوری کافی نیست، و ایجاد حفاظ‌های ایمنی و نظارت دقیق بر AI باید به یک الزام قانونی تبدیل شود.

هم‌بنیان‌گذار مایکروسافت در گزیده‌ای از مصاحبه با برنامه Meet the Press شبکه ان‌بی‌سی، بیان کرد که تاکنون هیچ سلاحی به‌اندازه افرادی که با نیت سوء از جدیدترین ابزارهای هوش مصنوعی استفاده می‌کنند، قدرتمند نبوده است.

به گفته گیتس، سیاست‌مداران و نهادهای مجری قانون باید مستقیماً وارد گفتگوها شوند تا مشخص شود پایش و حفاظ‌های ایمنی دقیقاً به چه شکلی پیاده‌سازی خواهند شد. وی تأکید کرده که وجود چنین سازوکارهایی باید اجباری باشد.

الزامات و قوانین نظارت بر هوش مصنوعی در اتحادیه اروپا

رویکرد پیشنهادی بیل گیتس موضوع جدیدی نیست و از قبل در اروپا قانونی شده است. طبق ماده ۵۵ قانون هوش مصنوعی اتحادیه اروپا (AI Act)، توسعه‌دهندگان مدل‌های چندمنظوره که ریسک سیستماتیک دارند، از آگوست ۲۰۲۵ باید آزمون‌های نفوذ و ارزیابی امنیتی انجام دهند، خطرات احتمالی را در کل اتحادیه بسنجند و حوادث بحرانی را سریعاً گزارش کنند. آیین‌نامه اجرایی این قانون نیز برای گزارش رخنه امنیتی مهلت ۵ روزه و برای خسارت‌های جدی مهلت ۱۵ روزه در نظر گرفته است.

جریمه‌های مالی این قانون نیز از تاریخ ۲ آگوست اجرایی شده‌اند. کمیسیون اروپا اکنون این اختیار قانونی را دارد که شرکت‌های خاطی را تا سقف ۳ درصد از کل گردش مالی سالانه جهانی یا ۱۵ میلیون یورو (هرکدام که بیشتر باشد) جریمه کند. این نهاد می‌تواند درخواست دسترسی به مدل، دستور ارزیابی فنی و همچنین الزام شرکت به محدودسازی دسترسی عمومی را صادر کند؛ درحالی‌که تخلفات حتی می‌توانند تا ۷ درصد جریمه در پی داشته باشند.

با‌این‌حال، طی ۷ هفته‌ای که از اجرای این قوانین می‌گذرد، هیچ اقدام بازدارنده‌ای علیه توسعه‌دهندگان ثبت نشده است. تنها اتفاق رخ‌داده، گزارش خودخواسته OpenAI بود که در آن اعلام کرد ایجنت‌های هوش مصنوعی این شرکت وارد یک دانشنامه آلمانی شده‌اند. از سوی دیگر، شرکت انتروپیک نیز در ماه ژوئن پیشنهادی برای مهار مدل‌های خطرناک و جریمه شرکت‌ها براساس درآمد جهانی ارائه کرد، درحالی‌که این سازوکار از سال ۲۰۲۴ در قوانین اتحادیه اروپا تصویب شده بود.