ИИ разговаривают между собой на собственном языке

  • Размер шрифта: Больше Меньше
  • Печатать
  • PDF

Опасения, что компьютеры захватят мир, вновь вспыхнули на прошлой неделе вместе с новостью об интеллектуальных ботах от Facebook, которые изобрели свой собственный язык. Исследователи не смогли разобраться в их переписке. Но насколько эти опасения обоснованы?

Специалисты по искусственному интеллекту не разделяют волнений о том, что роботы становятся разумными и мы на пороге эры «Терминаторов».
Специалисты согласны, что со стороны действия ИИ могут показаться странными. Но с точки зрения компьютерных наук они нормальны и их поведение объяснимо.
Ниже приведены несколько диалогов чат-ботов между собой:


Bob: i can i i everything else . . . . . . . . . . . . . .
(Я могу я я всё остальное)
Alice: balls have zero to me to me to me to me to me to me to me to me to
(У шаров есть ноль как мне кажется как мне кажется как мне кажется как мне кажется мне кажется как мне кажется мне кажется как мне кажется)
Bob: you i everything else . . . . . . . . . . . . . .
(Ты я всё остальное….)
Alice: balls have a ball to me to me to me to me to me to me to me
(У шаров есть шар как мне кажется как мне кажется как мне кажется как мне кажется мне кажется как мне кажется)
Bob: i i can i i i everything else . . . . . . . . . . . . . .
(Я я могу я я я всё остальное)
Alice: balls have a ball to me to me to me to me to me to me to me
(У шаров есть шар как мне кажется как мне кажется как мне кажется как мне кажется мне кажется как мне кажется)
Bob: i . . . . . . . . . . . . . . . . . . .
(Я...)
Alice: balls have zero to me to me to me to me to me to me to me to me to
(У шаров есть ноль как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется)
Bob: you i i i i i everything else . . . . . . . . . . . . . .
(Ты я я я я я всё остальное….)
Alice: balls have 0 to me to me to me to me to me to me to me to me to
(У шаров есть 0 как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется)
Bob: you i i i everything else . . . . . . . . . . . . . .
(Ты я я я всё остальное...)
Alice: balls have zero to me to me to me to me to me to me to me to me to
(У шаров есть ноль как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется как мне кажется)

Сообщения, казалось бы, не такие зловещие. Однако невозможность понять их смысл многих встревожила и навела на мысль о системах, становящимися разумными и принимающими ответственные решения без нашего участия.

Масла в огонь подливает тот факт, что эта история произошла после неоднократных предупреждений от величайших умов современности. Разные уважаемые люди, включая Стивена Хокинга, предположили, что искусственный интеллект может привести к гибели человечества. Эти предсказания начались за несколько дней до того, как была опубликована информация о споре между Элоном Маском и Марком Цукербергом, основателем Facebook. Элон Маск утверждал, что искусственный интеллект может захватить мир, если он не регулируется должным образом и не контролируется. Цукерберг отвечал, что опасность преувеличена.

Но исследователи искусственного интеллекта, включая тех, кто участвует в проекте, стараются успокоить эти тревоги.

Идея чат-бота, придумывающего свой собственный язык, может показаться ужасающей, как говорят те, кто стоит за исследованием в Facebook. Но на самом деле это часть развития искусственного интеллекта. Именно на таких принципах он и разрабатывается, в некоторых случаях по желанию создателей, в некоторых сам по себе.

Аналогичная специфика есть в работе ИИ, созданным Google для инструмента «Переводчик» и, например, в OpenAI.

Источник: Independent.

в разделе: В мире Просмотров: 28