Исследователи Королевского колледжа Лондона пришли к выводу, что системы беспилотного вождения для автомобилей подвержены предвзятости, особенно в отношении детей и темнокожих людей.
Команда рассмотрела восемь систем обнаружения пешеходов с искусственным интеллектом, используемых для исследований в области автономного вождения. Они прогнали через программное обеспечение более 8000 изображений и обнаружили, что ИИ идентифицирует взрослых пешеходов почти на 20% лучше, чем детей.
Кроме этого, рассматриваемые системы на 7,5% хуже распознают темнокожих людей, особенно при слабом освещении, что делает технологию менее безопасной в темное время суток.
В исследовании не проверялось программное обеспечение, которое уже используют производители робомобилей вроде Waymo и Cruise. Однако результаты еще раз подтверждают растущие опасения по поводу безопасности технологии.
По мнению исследователей, основной причиной проблем ИИ с распознаванием детей и темнокожих людей является предвзятость данных, используемых для обучения алгоритмов. Как правило, в датасетах чаще представлены взрослые и светлокожие люди.
Представитель Waymo заявил, что в исследовании представлены не все инструменты, которые используются в автомобилях компании. Помимо изображений с камер ИИ получает данные с датчиков вроде лидаров и радаров, которые улучшают точность обнаружения объектов.
Также Waymo обучает систему распознавать поведение людей и следит за тем, чтобы наборы данных были репрезентативными.
Алгоритмы часто отражают предубеждения, присутствующие в наборах данных и в сознании людей, которые их создают. Одним из распространенных примеров является программа распознавания лиц, которая постоянно демонстрирует меньшую точность при распознавании лиц женщин, темнокожих и азиатов.
Однако эти опасения не остановили энтузиазма в отношении подобных технологий ИИ. Распознавание лиц уже не раз становилось причиной несправедливого ареста темнокожих людей
Источник: Gizmodo
