Исследование американских ученых показало, что предрассудки не являются человеческой прерогативой. Механизм их возникновения достаточно прост, и они могут запросто появиться у группы машин с искусственным интеллектом.

Предубеждение по сути – это мнение или стереотип о какой-либо личности или группе, распространяющийся среди группы индивидов путем социального взаимодействия. Как и люди, автономные машины могут проявлять предубеждения, после чего взаимно обучать друг друга им путем копирования информации.

Исследование опубликовано в журнале Scientific Reports. В основе – компьютерные симуляции того, как специально «заряженные» на предвзятость виртуальные агенты могут формировать группы и взаимодействовать друг с другом. В процессе симуляции каждый индивид принимает решение, помочь ли кому-то из своей группы или из другой, в зависимости от репутации того индивида, а также собственной стратегии, включающей в себя их уровни предубеждений по отношению к посторонним.

«С проведением этих симуляций тысячи и тысячи раз подряд мы начали понимать, как развивается предубеждение и какие нужны условия для его культивации или предотвращения, — говорит Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета. — Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных населениях, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять».

«Вполне правдоподобно, что автономные машины, способные идентифицировать себя с дискриминацией и копировать других, в будущем могут быть восприимчивыми к феноменам предубеждения, которые мы видим в обществе, — продолжает профессор Уитакер. — Многие ИИ-разработки, которые мы наблюдаем сегодня, включают в себя автономность и самоуправление, то есть на поведение приборов также влияют те, кто их окружает. Из недавних примеров можно вспомнить транспорт и интернет вещей. Наше исследование предоставляет теоретическое понимание того, где симулированные агенты периодически обращаются к другим для получения каких-то ресурсов».

Давно известны случаи, когда алгоритмы проявляли расизм или сексизм. Базой для этого становились изученные ими публичные записи и другие данные, выложенные людьми в открытом доступе.

Источник: Naked Science