Машинные умы часто представляются этакими черными ящиками, процессы принятия решений которых неисповедимы. Но ученые, работающие с машинным интеллектом, срывают покровы тайны: они открывают чёрный ящик и заглядывают внутрь. Например, они обнаружили, что при просмотре фотографий люди и машины рассматривают их по-разному.
Исследователи из компании Facebook и Политехнического университета Виргинии (Virginia Tech) протестировали и людей, и машин. Суть тестов была в том, чтобы ответить на простые вопросы по фотографиям - эту задачу может выполнить и искусственный интеллект. Но интересовали их вовсе не ответы на вопросы. Их целью было составление карт внимания человеческого и искусственного интеллекта, чтобы пролить немного света на различия между ними.
«Карты внимания дают редкую возможность сравнить человеческий интеллект с искусственным», - комментирует Лоуренс Зитник (Lawrence Zitnick) из центра исследования искусственного интеллекта Facebook - «Сравнение двух типов карт могло бы помочь понять смотрят ли компьютеры в нужном направлении».
Зитник и его коллеги попросили работников Amazon Mechanical Turk ответить на простые вопросы: «Что делает человек на этом изображении?» или «Сколько кошек лежит на кровати?» Каждая картинка была размыта, и работник должен был кликать, чтобы увеличить её чёткость. Карта этих кликов показывает, на какую часть картинки люди обращали внимание.
Затем исследователи задавали те же вопросы двум нейронным сетям, которые основаны на искусственном интеллекте, обученным интерпретировать изображения. Они так же учитывали, на какие части картинки кликали машины.
Учёные обнаружили, что карты внимания двух людей совпали на 0,63 по шкале, в которой 1 означает полное совпадение, а 0 − его полное отсутствие. Карты внимания человека и машины совпали на 0,26. Несмотря на это, нейронные сети довольно хорошо понимают, что изображено на картинке. Как именно они понимают, что изображено, невзирая на то, что «смотрят» совсем по-другому – пока остается загадкой.
«Области, на которые смотрит машина, отличаются от областей, на которые смотрит человек, потому мы не понимаем на чём основываются их решения», − говорит Дхрув Батра (Dhruv Batra) из Политехнического университета Виргинии.
Эта разница между людьми и машинами может быть полезным источником вдохновения для исследователей, стремящихся настроить нейронные сети. «Можем ли мы сделать их более человекоподобными, и приведёт ли это к более высокой точности?» — спрашивает Батра.
По мнению Юргена Шмидхубера (Juergen Schmidhuber), директора Института исследований искусственного интеллекта Далле Молле в Манно, Швейцария, результаты представляют интерес, хотя он полагает, что исследователям не обязательно спешить создавать системы, в точности имитирующие людей.
«Суть избирательного внимания в том, чтобы активно заполнять пробелы в знаниях внимательного наблюдателя», — говорит Шмидхубер. — «Что интересует одну систему, может быть скучно для другой, уже знакомой с этим». Люди имеют более обширный опыт и больше знаний, чем у нейронных сетей, и поэтому лучше фокусируются на том, что имеет значение.
Источник: New Scientist