Шелест листьев, скрип ветви ­ эти безобидные звуки могут стать последними в жизни мыши, если они означают, что подкрадывается кот. Но как отличить, кот это или ветер? Роберт Гютиг (Robert Guetig), сотрудник Института экспериментальной медицины Общества Макса Планка в Геттингене (Planck Institute of Experimental Medicine in Goettingen) воспроизвел алгоритм, по которому мозг, опираясь на данные органов чувств, предугадывает события. При помощи компьютерного моделирования он разработал и протестировал процедуру обучения, благодаря которой модель нейронов может научиться различать множество различных раздражителей, ориентируясь на частоту повторения сигналов. Модель нейронов реагирует правильн даже при наличии временной задержки между сигналом к действию и действием. Эта процедура не только раскрывает принцип, позволяющий живым существам выживать, но и помогает разрешить ряд технологических трудностей в обучении. Одна из возможных отраслей для применения данного алгоритма это разработка и улучшение программ по распознаванию речи.

В животном мире опасностям часто предшествуют различные сигналы: нетипичные и резкие звуки, запахи или движения. Если мышь выживет после нападения кота, то станет более опытной, в следующий раз она сможет заранее предугадать похожую атаку. Однако мышиные органы чувств постоянно получают множество сигналов. Как же именно мышь распознает те, которые свидетельствуют о приближении кота? Это и есть главная задача для маленького мышиного мозга: расшифровать сигналы правильно и распознать событие до того, как оно произойдет. Предыдущие исследования не давали ответа на вопрос, как именно это происходит, однако Роберту удалось решить эту задачу. Он запрограммировал нейронную сеть, которая реагирует на сигналы таким же образом, как кластер биологических клеток. Эта сеть может научиться выделять среди сигналов те, которые предсказывают последующее событие.

Все дело в частоте

Система обучается путем укрепления или ослабления определённых синапсов в модели нейронов. В основе компьютерной модели лежит синаптический принцип обучения, в соответствии с которым нейроны ослабляют или усиливают свой отклик на простой обучающий сигнал. Этот способ обучения создатель назвал «агрегированием меток» (“aggregate-label” learning procedure), его суть в том, что связи между клетками устанавливаются таким образом, чтобы отклик был пропорционален количеству одинаковых событий. Таким образом, если обучающий сигнал моделирует что-то регулярно возникающее в жизни мыши, нейроны научаются правильно реагировать на этот раздражитель как на предсказывающий последующие события.

Так же «самообучающиеся сети Гютига» работают и с новыми для них сигналами, которые не прорабатывались «в режиме обучения». Они интерпретируют среднюю активность нейронов внутри сети так же, как обучающие сигналы в процессе «учебы». Каждый отдельный нейрон научается реагировать на повторяющийся сигнал так же, как на него реагируют все остальные нейроны сети.

Принцип этого «самообучения» в корне отличен от теории Хэбба (Hebbian theory), которая часто применяется в искусственных нейронных сетях. В сетях Хэбба обучение происходит за счёт укрепления контактов между нейронами, которые принимают сигнал от раздражителя в одно и то же время или с небольшими временными промежутками. «Для самообучения агрегированием меток одновременность или близость по времени не нужны. Решающим является количество повторений сигнала», - комментирует Гютиг. А это значит, что такие сети могут связывать между собой сенсорные ключи разных типов: зрительные, обонятельные и слуховые, даже когда между ними существуют задержки.

Эта новая разработка не только раскрывает один из не до конца понятных биологических процессов, но и предлагает новый путь машинного обучения - и в особенности новый путь для разработки программ по распознаванию речи: «Материал для обучения программ, распознающих речь, можно существенно упростить. Принцип «агрегирования меток» не требует тщательно размеченных корпусов текстов или сложных алгоритмов сегментации речи. Достаточно сопроводить речь субтитрами, как, например, в новостных передачах», - говорит Гютиг.

Источник: ScienceDaily