فناوری «چهره شناس» آمازون تعصب جنسیتی دارد

خبرآنلاین: محصول «چهره شناس» آمازون، که به اداره‌های پلیس آمریکا داده‌شده، بر اساس تحقیق جدید اسیر پیش‌داوری درباره زنان رنگین‌پوست است.

«جوی بولاموینی» از ام‌آی‌تی و «دبورا راجی» از دانشگاه تورنتو روی این موضوع تحقیق کردند که محصول Rekognition با چه دقتی قادر به تشخیص جنسیت است.

بر این اساس سیستم مذکور روی تشخیص صورت مردان مشکلی ندارد اما وقتی موضوع روی چهره زنان با پوست تیره می‌رسد، اوضاع متفاوت می‌شود. طبق آزمایش انجام‌شده توسط این دو محقق ۳۱ درصد خطا هنگام تشخیص روی زنان رنگین‌پوست با سیستم Rekognition روی داد.

سال گذشته نیز این دو محقق روی سیستم چهره شناس آی‌بی‌ام و مایکروسافت، به نتایج مشابه در مورد زنان رنگین‌پوست رسیدند و دو کمپانی سیستم خود را آپدیت کردند تا میزان خطا کاهش یابد.

محققان می‌گوید سیستم آمازون مستعد خطا بوده و برای سوءاستفاده احتمالی مهیا است.

آمازون به‌هرحال این مطالعه را رد کرده و نتایج آن را نادرست خوانده است. «مت وود» مدیر عمومی هوش مصنوعی آمازون می‌گوید محققان به اشتباه از سیستم Rekognition برای «آنالیز چهره» که مخالف «چهره شناس» است، استفاده کرده اند و بنابراین نتایج تحقیق نمی تواند درست باشد.

در تجزیه و تحلیل چهره سیستم کامپیوتری در تلاش است تا ویژگی های عمومی از یک تصویر را لحاظ کند (مثلا کاربر با عینک است، سبیل دارد یا زن باشد) اما محصول Rekognition متفاوت بوده و تلاش خود را روی تطبیق عکس با یک چهره خاص از میان میلیون ها عکس متمرکز کرده است.

پس بنابراین به گفته وود آنالیز چهره با تشخیص چهره دو چیز متفاوت از هم هستند و استفاده از آنالیز چهره برای مقیاس و معیار قرار دادن صحت «چهره شناسی» کاملاً غلط است و الگوریتم‌ها همخوانی ندارند.