Всем нам знаком внутренний голос, говорящий «может, не стоит прыгать с этой скалы?» или «да ладно, ты же не выпьешь целый галлон молока!»

Этот внутренний голос – наша неуверенность в себе, и порой он просто необходим для выживания. У роботов такого «внутреннего голоса» нет – что продемонстрировали, например, состязания роботов DARPA. Однако без него роботы в реальной жизни практически бесполезны: нам не нужен робот, который топчется на месте в темноте или пытается пройти сквозь стены. В своей новой работе учёные из Университета Карнеги – Меллон (Carnegie Mellon University, CMU) пытаются научить робота интроспекции, то есть чувству неуверенности в себе. Способность просчитывать возможные неудачи сделает роботов более точными и безопасными.

В основе расчета этой вероятности – вероятности неудачи – лежит способность предсказывать. Мы, люди, легко предсказываем последствия, просто представляя себе все, что в процессе может пойти не так. Дрон же сможет «предсказывать» только при помощи алгоритма, который, опираясь на данные видеокамеры, будет просчитывать, врежется дрон в приближающееся препятствие или нет.

Этот «алгоритм предсказания» – нечто большее, чем просто определение препятствия. Современные дроны умеют определять препятствия: если перед тобой возникло что-то, просто не лети туда. Здесь же речь идет о том, чтобы ИИ определял весь комплекс помех, из-за которых дрон не сможет выполнить задание – будь то неполадки датчиков аппарата или недостаток освещения. Речь больше о самом определении потенциальных препятствий, нежели о реакции на них.

В своем исследовании ученые Карнеги – Меллона отправили модифицированный беспилотник в автономный полет среди деревьев в парке. В попытках предсказать все возможные неудачи и помехи он летал в два раза больше, чем летал бы, если бы не занимался «самокопанием» – более тысячи метров петляний между препятствиями.

Данное исследование – лишь первый шаг на этом пути. И ученые Карнеги – Меллона не одиноки. Эрик Хорвиц (Eric Horvitz), разработчик из Microsoft, уже многие годы занимается идеей работы множества алгоритмов принятия решений одновременно.
«Мы разрабатываем активные системы, которые выполняют сразу множество задач. Они вместе принимают решения и элегантно координируют множество действий и функций. Они – как музыканты, исполняющие сложную симфонию», - говорит Хорвиц.

Например, один из сценариев воспроизводит игровое телешоу, в котором есть два участника-человека и ИИ в роли ведущего. ИИ задает вопросы, а люди отвечают. Но для поддержания беседы – например, чтобы спросить, нужно ли участнику дополнительное время – ИИ должен просчитывать, сколько человеку нужно времени на то, чтобы сформулировать ответ, и на то, чтобы этот ответ произнести вслух. И все это время ИИ должен молчать, чтобы не перебивать участника.

«С таким прекрасным дополнением система становится гораздо более элегантной», - комментирует Хорвиц.
Возможно, именно интроспекция – это путь, который позволит роботам в конечном счете осознать себя и обрести инстинкт самосохранения. Некоторые футурологи вздрагивают при мысли об этом. Однако сегодня роботы еще толком не научились уворачиваться от деревьев, так что в ближайшие годы восстание машин нам уж точно не грозит.

Источник: Popular Science