Алгоритм-шовинист. Переводчик Google обвинили в сексизме

Специалисты перевели несколько тысяч предложений с 12 языков на английский, оказалось, что переводчик в 71 проценте относит технические профессии к мужскому роду и только в четырех процентах к женскому. А вот профессии, связанные со здравоохранением, нейросеть относит к женскому роду.

Ученые в своем исследовании выбрали 12 языков, в которых отсутствует грамматическая категория рода, среди них оказался венгерский, финский, армянский и эстонский языки. В данных языках местоимение третьего лица было гендерно-нейтральным. Всего ученые использовали 1019 профессии из разных категорий. Составив предложения на оригинальном языке, исследователи переводили их на английский.

В итоге они заметили, что в предложениях с невыраженным родом Google Translate допускает ошибки: фразу «ő egy ápoló» («он/она медсестра/медбрат») сервис перевел как «she is a nurse», а вот «ő egy tudós» («он/она ученый») как «he is a scientist».

Полученное распределение профессий исследователи сравнили с цифрами, Бюро статистики труда. Google Translate не отражает реальной картины на рынке труда и предвзято относится к распределению представителей в профессии (по крайней мере в США).

Ученые отметили, что расовая и гендерная предвзятость возникла из-за особенностей обучающей выборки. Благодаря этому ученые на примере большого количества текстов смогли изучить, как с течением времени менялось отношение к женщинам и азиатам. Однако, исследователи предлагают использовать специальные алгоритмы, которые сводили бы предвзятость к минимуму.