Алгоритм Twitter, который предпочитает белые женские лица при обрезке изображений, также различает возраст и вес модели на фото и выбирает молодых и худощавых девушек. Кроме того искусственному интеллекту больше нравится текст, написанный на латинице.
Об этом пишет Wired.
Конкурс по проверке программы ИИ на предмет ненадлежащего поведения показал, что алгоритм, определяющий самые важные области изображения, также различает возраст и вес.
Аспирант кафедры компьютерной безопасности в EPFL в Швейцарии, показал, как алгоритм обрезки изображений Twitter выбирает более худых и молодых людей.
“По сути, чем тоньше, моложе и женственнее изображение, тем больше ему будет отдаваться предпочтение”, - говорит Патрик Холл, главный научный сотрудник BNH, компании, которая занимается консалтингом в области ИИ.
Также было обнаружено, что алгоритм проявляет предвзятость по отношению к людям с белыми волосами и отдает предпочтение латинскому тексту перед арабским.
Предполагается, что предупреждения, обнаруженные участниками, отражают предубеждения людей, предоставивших данные для обучения модели.
Члены жюри необычного конкурса считают, что искоренение гендерной и расовой предвзятости в алгоритмах соцсети принесет пользу обществу.
Ранее мы писали, что в Новой Зеландии создали цифровую версию Альберта Эйнштейна с синтетическим голосом ученого с помощью искусственного интеллекта и архивных аудиозаписей.
