گوگل تصاویر ساخته‌شده با هوش مصنوعی را تشخیص می‌دهد

زومیت: اپلیکیشن جمنای اکنون می‌تواند تصاویری که با ابزار‌های هوش مصنوعی گوگل تولید شده‌اند را تشخیص بدهد.

براساس اعلام گوگل، کاربران اپلیکیشن جمنای از امروز می‌توانند تصاویری که توسط هوش مصنوعی این شرکت تولید یا ویرایش شده‌اند، را تشخیص بدهند. برای آگاهی از چنین محتوا‌هایی فقط باید از عبارت ?Is this AI-generated (آیا با هوش مصنوعی تولید شده است؟) استفاده کنید.

گوگل می‌گوید ویژگی جدید جمنای فعلاً به تشخیص تصاویر محدود می‌شود و تأیید اصالت صدا و ویدیو هم به‌زودی اضافه خواهد شد. مانتین‌ویویی‌ها اعلام کردند که قابلیت تشخیص تصاویر جعلی را به بخش‌های بیشتری مانند سرویس جست‌وجوی خود گسترش خواهند داد.

گوگل می‌خواهد در آینده تشخیص محتواهای تولید‌شده با هوش مصنوعی را به سطح استاندارد صنعتی C2PA (ائتلاف منشأ و اصالت محتوا) گسترش بدهد. جمنای درحال حاضر برای تشخیص تصاویر هوش مصنوعی از SynthID، واترمارک اختصاصی گوگل، استفاده می‌کند و نمی‌تواند تصاویری که با سایر ابزار‌های هوش مصنوعی ساخته شده‌اند را شناسایی کند.

در صورت گسترش قابلیت جدید جمنای به سطح C2PA، تشخیص تصاویر و ویدیو‌های تولیدشده با سایر ابزار‌های هوش مصنوعی مانند Sora هم ممکن خواهد شد.

گوگل می‌گوید تصاویری که با مدل نانو بنانا پرو ساخته می‌شوند متادیتای C2PA دارند. کاربران جمنای درحال حاضر باید با سوال پرسیدن تصاویر ساخته‌شده با هوش مصنوعی را تشخیص بدهند و هنوز خبری از تشخیص خودکار نیست.