Алгоритм Twitter, який надає перевагу білим жіночим обличчям при обрізанні зображень, також розрізняє вік і вагу моделі на фото і вибирає молодих і худорлявих дівчат. Крім того, штучному інтелекту більше подобається текст, написаний на латиниці.
Про це пише Wired.
Конкурс з перевірки програми ШІ на предмет неналежного поводження показав, що алгоритм, який визначає найважливіші області зображення, також розрізняє вік і вагу.
Аспірант кафедри комп'ютерної безпеки в EPFL у Швейцарії, показав, як алгоритм обрізки зображень Twitter вибирає більш худих і молодих людей.
"По суті, чим тонше, молодше і жіночніше зображення, тим більше йому буде віддаватися перевага", - говорить Патрік Холл, головний науковий співробітник BNH, компанії, яка займається консалтингом в області ШІ.
Також було виявлено, що алгоритм проявляє упередженість стосовно людей з білим волоссям і віддає перевагу латинському тексту перед арабським.
Припускається, що попередження, виявлені учасниками, відображають упередження людей, які надали дані для навчання моделі.
Члени журі незвичайного конкурсу вважають, що викорінення гендерної та расової упередженості в алгоритмах соцмережі принесе користь суспільству.
Раніше ми писали, що в Новій Зеландії створили цифрову версію Альберта Ейнштейна з синтетичним голосом вченого за допомогою штучного інтелекту та архівних аудіозаписів.
