Штучний інтелект змінив расу азійки на фото для LinkedIn

Азійська студентка Массачусетського технологічного інституту попросила штучний інтелект зробити її портрет для профілю в LinkedIn — і була шокована результатом. Розповідаємо деталі цієї історії.

У чому помилився ШІ

Як пише Business Insider, 24-річна американська студентка азійського походження Рона Ванг, яка вивчає математику та інформатику, експериментувала із сервісом штучного інтелекту Playground AI. 

Вона попросила генератор зображень зі ШІ створити їй професійний знімок — портрет для профілю в соціальній мережі LinkedIn. Результатом дівчина поділилась у твіттері й написала: «Я намагалася отримати фотографію для профілю LinkedIn за допомогою штучного інтелекту, і ось що із цього вийшло». 

На зображенні, яке створив ШІ, Рона схожа на європейку, зі світлішою шкірою та блакитними очима.

«Результат мене спершу потішив. Однак я рада, що це стало каталізатором ширшої дискусії про упередженість штучного інтелекту й про те, хто включений чи ні в цю нову хвилю технологій», — написала дівчина. 

Водночас вона висловила хвилювання щодо того, якими могли б бути наслідки такої помилки сервісу в серйознішій ситуації, наприклад, якби компанія за допомогою ШІ обирала найбільш «професійного» кандидата на роботу серед білих людей».

За словами студентки, це точно проблема, і вона сподівається, що люди, які створюють таке програмне забезпечення, знають про ці упередження штучного інтелекту та думають про способи їх пом’якшення.

Із чим пов’язані такі помилки

Засновник сервісу Playground AI Сухейл Доші відповів на публікацію студентки так: «Моделі ШІ не настільки піддаються навчанню (інструктуванню), тому обиратимуть щось узагальнене, користуючись підказками. На жаль, вони недостатньо розумні». Він додав, що компанія сподівається усунути цю проблему.

Нещодавнє дослідження показало, що генератори зображень зі ШІ на кшталт DALL-E2 мають проблеми з гендерними та расовими упередженнями. На 97% зображень, які інструмент видав на запит створити зображення керівних посад, як-от директор або гендиректор, були білі чоловіки. За словами дослідників, причиною є те, що інструмент ШІ був навчений на упереджених даних, які могли посилити стереотипи.