Теперь он закрыт

В 2014 году Amazon презентовал амбициозный проект: компания доверила подбор кадров искусственному интеллекту, который собирал резюме кандидатов по открытым базам. Однако совершенная машина оказалась не такой уж и совершенной. Еще в 2015-м выяснилось, что искуственный интеллект оказался сексистом. То есть при подборе персонала проект Amazon чаще выбирал джентльменов, ориентируясь на «типично мужские глаголы». Смешно, но машина отбраковывала резюме, содержавшие слово «женский» даже в таких выражениях, как «капитан женского шахматного клуба».

Оценивая соискателя, программа присваивала ему рейтинг от одной до пяти звезд – совсем как покупатели на Amazon. Разработчицам не повезло и тут: искусственный интеллект заранее понижал рейтинг выпускниц двух колледжей, но каких именно – неизвестно. Сегодня, нам на радость, в Amazon приняли решение закрыть нерадивую программу. Верное решение – если учесть актуальную феминистскую повестку.

Разработкой программы занималась команда разработчиков из Эдинбурга. Как выяснилось, гендерная дискриминация не была частью кода. Искусственный интеллект самосовершенствовался и в процессе обучения использовал те резюме, которые соискатели присылали раньше сами. Сложившийся механизм поиска лишь отображал существующие в обществе гендерные стереотипы: программированием и точными науками чаще ведают мужчины, а гуманитарными дисциплинами – женщины. Так что сами разработчики не виноваты. Для того чтобы побороть дискриминацию, переписать нужно не только компьютерный код.


Комментарии


Новости партнеров