Беспилотные машины оказались «расистами»

Как выяснилось, системы распознавания пешеходов испытывают трудности с идентификацией чернокожих людей.

Алгоритмы, используемые системами автономного вождения, испытывают трудности с распознаванием чернокожих, что грозит серьезными происшествиями с участием беспилотных автомобилей. Их проблемы схожи с теми, что ранее неоднократно фиксировались у систем распознавания лиц. Об этом пишет портал popmech.ru.

Cпециалисты из Джорджии (США) исследовали восемь моделей искусственного интеллекта, каждая из которых обучалась по стандартному набору данных. Системы позволяют беспилотным автомобилям распознавать дорожные знаки, пешеходов и другие объекты уличной сети. Их протестировали с использованием изображений пешеходов, разделенных по шкале Фитцпатрика, которая используется для классификации цвета кожи человека. Шкала делит людей на шесть типов, где I — самый светлый цвет кожи, VI — самый темный.

Согласно результатам, модели демонстрировали «одинаково худшие характеристики», когда сталкивались с пешеходами трех самых темных оттенков кожи. В среднем точность моделей снизилась на 5% при рассмотрении группы, содержащей изображения пешеходов с более темным оттенком кожи. Стоит отметить, что алгоритм опирается только на те данные, которые присутствуют в имеющемся наборе изображений и фотографий, а потому не реагирует на те объекты, которых в выборке нет.

И это является проблемой, потому что в подобных базах светлокожих людей, как правило, значительно больше, чем чернокожих. Ученые разработали рекомендации, необходимые для предотвращения подобных казусов: нужно включать больше изображений темнокожих пешеходов в наборы данных, на которых тренируется искусственный интеллект, и тем самым повышать точность показателей определения этих изображений системами распознавания.