Новое исследование подчеркивает разницу между тем, как «видит» искусственный интеллект, и как он идентифицирует объект, на который он смотрит.

У компьютеров, как у людей, идентификация объекта, который они «видят», строится на уже имеющихся знаниях – о ранее виденных подобных объектах. И в настоящее время компьютеры уже действительно хорошо в этом разбираются – распознают лица, разбирают почерки, трактуют результаты ЭКГ и даже пишут сочинения по картинкам. Но это вовсе не означает, что компьютер «видит» все точно так же, как человек. И для хакера, желающего взломать автоматизированную систему, эта разница восприятия может стать лазейкой.

Команда ученых-компьютерщиков из Вайомингского и Корнелльского университетов обнаружила, что существует целый класс изображений, которые кажутся компьютеру осмысленными, но для человека выглядят как помехи на экране. Компьютер же не только распознает в помехах изображение, но и сделает это с высокой долей уверенности.
«По сути это оптические иллюзии для искусственного интеллекта» - говорит соавтор Джефф Клун (Jeff Clune). «… но они не обманут человека, потому что зрение человека устроено иначе».
Клун и его команда разработали алгоритм создания таких иллюзорных изображений. В основе технологии, говорит Клун, тот факт, что компьютер воспринимает визуальную информацию иначе чем человек. «Нейронные сети – поклонники искусства кубизма. Если они распознают на изображении глаз, нос, и рот, они называют его лицом. Но их не особенно волнует, как они расположены. Рот может быть выше глаз и слева от носа».

Подробнее об этом исследовании с примерами изображений – на сайте The Atlantic