تلاش برای تولید محصولات هوش‌مصنوعی بی‌طرف

خبرگزاری فارس: آی بی ام اعلام کرده باید سیستم های هوش مصنوعی ابداع شود که در طراحی الگوریتم های خود بی طرف باشند و بتوانند فعالیت های خود را بدون غرض ورزی انجام دهند.

با توجه به خودکار بودن فرایند تصمیم گیری توسط محصولات هوش مصنوعی این نگرانی وجود دارد که آنها بر مبنای داده های متعصبانه یا غرض ورزانه ای که دریافت می کنند، تصمیم بگیرند که پیامدهای این نوع تصمیمات در جوامع انسانی فاجعه بار خواهد بود.

اما الگوریتم هوش مصنوعی جدیدی که آی بی ام بر روی آن کار می کند، با استفاده از داده های بی طرفانه تصمیم گیری می کند. ای بی ام کیت هوش مصنوعی جدیدی به نام Fairness ۳۶۰ را هم ابداع کرده که در آینده و پس از تکمیل به همین منظور در دسترس همگان قرار می گیرد.

وظیفه اصلی این کیت کنترل میزان بی طرفی الگوریتم های مورد استفاده هوش مصنوعی است. همچنین این کیت می تواند فرایند کنترلی خود را در گذر زمان بهبود ببخشد و در نهایت در صورت شناسایی الگوریتم های غیربی طرف آنها را اصلاح کند. آی بی ام زمانی را برای عرضه عمومی این کیت اعلام نکرده است.