Сервис Google Cloud Vision API отказался от гендерного разделения. Это в первую очередь произошло потому, что искусственный интеллект не всегда успешно может судить о половой принадлежности человека, исходя из его внешности.

Кроме того, подобное разделение может дискриминировать отдельных людей по гендерным, расовым и возрастным признакам. Также, по словам исследователей, данные о гендерной идентичности сегодня редко используются в работах.

Фото / Business Insider

Искусственный интеллект Google Cloud Vision API генерирует текстовые описания происходящего на изображениях. Инструмент может обнаруживать лица, логотипы брендов, различные предметы и нежелательный контент. Обновленный сервис уже протестировали: теперь API, вместо того чтобы пометить персону на фотографии как «мужчина» или «женщина», добавляет тег «человек».

«Искусственный интеллект может показаться беспристрастным, но многие алгоритмы показали свою предвзятость по отношению к полу, возрасту или расе. Недавнее исследование, проведенное Национальным институтом стандартов и технологий, показало, насколько предвзятым может быть алгоритм. Это правильный шаг со стороны Google», — пишет Business Insider.

Фото превью / Lauren Edvalson / unsplash.com