Лента новостей
«Газпром» сократил вложения в «Северный поток-2» на 22 млрд руб. за год 02:35, Бизнес В Шереметьево задержали восемь рейсов из-за гибели мужчины 02:26, Общество Черчесов рассказал о сложностях в матче сборной России против Швеции 02:15, Общество Минфин США разместил список перевозивших нефть из Ирана в Сирию танкеров 01:58, Политика Суд анонсировал освобождение обвиняемой в США в похищении детей россиянки 01:32, Общество Новый обвал цен на нефть. Главное 01:19, Экономика В Турции заявили о передаче США информации по убийству Хашкаджи 01:00, Политика 5 советов, которые сделают вас сильнее и помогут противостоять стрессу 00:54, РБК и Philips Сборная России проиграла Швеции в решающем матче Лиги наций 00:50, Спорт СК завел дело на двух следователей за взятку в 5 млн руб. 00:45, Общество Трамп пообещал не разрушать мировую экономику санкциями против Эр-Рияда 00:22, Политика Прокуратура начала проверку после гибели мужчины в Шереметьево 00:08, Общество Битва дизайнеров: как по-разному можно оформить одну и ту же квартиру 00:01, РБК и Экспострой на Нахимовском Эксперты назвали долю живущих в режиме жесткой экономии россиян 00:00, Экономика СК опубликовал видео с места гибели мужчины в Шереметьево 20 ноя, 23:54, Общество В Израиле рассказали о предложении Москвы по уходу Ирана из Сирии 20 ноя, 23:47, Политика В «Роскосмосе» назначили нового главу «дочки» компании 20 ноя, 23:32, Бизнес Власти Польши отказались подписать соглашение ООН по миграции 20 ноя, 23:09, Политика Помпео назвал фаворита США на выборах главы Интерпола 20 ноя, 22:58, Политика Лига наций по футболу. Швеция — Россия. Онлайн 20 ноя, 22:45, Спорт Каскадеры откровенно о работе: страх и трюк — два брата 20 ноя, 22:40, РБК и Toyo СМИ узнали о выигрыше Россией тендера на поставку ПЗРК «Игла-С» Индии 20 ноя, 22:27, Бизнес СМИ узнали о внедрении в Лиге чемпионов опробованной в России системы 20 ноя, 22:06, Спорт МВД предложило давать гражданство выехавшим из Крыма до присоединения 20 ноя, 21:57, Общество Красная жара: к чему приведет назначение россиянина президентом Интерпола 20 ноя, 21:53, Общество На взлетной полосе в Шереметьево нашли останки человека 20 ноя, 21:40, Общество Рабочий момент: 10 лайфхаков для ремонта 20 ноя, 21:39, РБК и Мир Цена нефти упала на более чем $1 за полчаса 20 ноя, 21:32, Экономика
О чем говорят машины: почему чат-боты пока не опасны для человечества
Технологии и медиа, 04 авг 2017, 15:48
0
Валентин Малых О чем говорят машины: почему чат-боты пока не опасны для человечества
Пока компьютеры лишь делают вид, что понимают собеседника — они просто подставляют в разговор те слова, которые видели раньше в похожем окружении. Что эти слова означают, им по-прежнему неизвестно

В последнее время появилось много новостей, связанных с искусственным интеллектом, а точнее, с той областью, которую принято называть обработкой естественного языка (natural language processing), или NLP.

Генерация текстов

Для начала давайте попробуем понять, что такое NLP. Это область машинного обучения, направленная на решение задач, связанных с письменными текстами. Распознавание речи является близкой, но отдельной задачей, которая сейчас, кажется, никого уже не удивляет: если у вас есть мобильный телефон, то вы, вероятно, говорили: «О'кей, Гугл» или «Привет, Сири». За распознаванием речи стоит та же самая NLP, про которую мы сказали выше.

Раньше задачами NLP были кластеризация (например, собирание новостей про одно событие в сюжет) или классификация (отнесение тех же новостей к какой-то категории, например, спорту или политике). Но в последнее время на первый план вышла новая задача, которая до этого была не под силу компьютерам — генерация текста на естественном языке (natural language generation), или NLG. Общаясь с чат-ботом, вы, скорее всего, имеете дело с каким-то заранее заготовленным шаблоном, в который просто подставляется ваше имя. Впрочем, это не всегда так, и чем дальше будут развиваться технологии, тем сложнее будут становиться доступные для генерации тексты. Можно ожидать, что через несколько лет ваш телефон сможет общаться с вами достаточно свободно, хоть и не на все темы.

Например, в МФТИ сейчас разрабатывается чат-бот, который отвечает на вопросы из определенной области, например, он сможет помочь вам заказать пиццу. Пока он работает только с шаблонными ответами, потому что сгенерированные ответы не всегда «попадают». Кроме того, для бота не существует, например, понятия вежливости. С этим, кстати, уже столкнулась Microsoft, когда некоторое время назад выпустила своего бота для свободного общения в интернет. Через непродолжительное время сотрудники компании вынуждены были его отключить, потому что не смогли контролировать процесс его общения с людьми.

Сложности естественного языка

Сложность задачи генерации текста объясняется тем, что язык, на котором мы разговариваем и без особо труда понимаем друг друга и который принято называть «естественным», не так-то прост. Какое-то представление об этом можно получить, попытавшись изучить какой-либо не близкородственный язык, например, английский. Но для машины изучить человеческий язык гораздо сложнее: если все человеческие языки имеют общие базовые понятия, такие как «рука» или «солнце», то машине все эти предметы окружающего нас мира неведо​​мы. Компьютер не имеет тела в нашем понимании: он не чувствует и не думает, вся поступающая к нему информация приходит с очень ограниченных сенсоров, таких как видеокамеры и микрофоны. То есть компьютеру, чтобы сгенерировать текст, нужно сначала выучить наш язык, а эта задача практически неразрешима — значения слов для компьютера неизвестны. Для него слово «мама» ничем, кроме номера, не отличается от слова «подшипник». Таким образом, сейчас компьютеры учатся на самом деле «делать вид», что умеют понимать или разговаривать — они просто подставляют те слова, которые видели раньше в похожем окружении.

Из этого ограничения родилась идея дать возможность компьютерам разработать свой собственный язык, подходящий для условий, в которых они «живут». Один из таких экспериментов был поставлен в исследовательском подразделении Facebook — Facebook Artificial Intelligence Research (FAIR). Ученые из FAIR разработали среду, в которой агенты смогли изобрести свой язык. Дальше появилась новость, что они прекратили эксперимент, потому что не могли понять язык агентов из эксперимента. Это некорректная интерпретация журналистами факта, что эксперимент был просто закончен — возможность создания «естественного» языка в искусственных условиях была доказана. Опасности этот язык представлять не мог просто в силу того, что он был донельзя примитивен и не мог развиться дальше — у агентов просто не хватило бы на это мощности. А обмениваться между собой они могли сообщениями длиной всего в несколько символов, обозначающими какие-то базовые понятия их мира (аналоги наших рук, ног или времен года).

Предостережения

Раз уж речь зашла про мощность, самые большие современные искусственные нейронные сети (существенно большие тех, что использовались в агентах) могут достигать размера миллионов искусственных нейронов. Человеческий мозг имеет в среднем порядка сотни миллиардов нейронов. То есть сейчас компьютеры не способны воспроизвести и тысячную долю мощности человеческого мозга.

Поэтому недавно громко прозвучавшее «предостережение» Илона Маска является скорее криком «волки!» в ситуации, когда никаких волков поблизости нет. Компьютеры не могут мыслить сейчас и не смогут мыслить как минимум в ближайшее десятилетие — судя по тому, как растут вычислительные мощности современных процессоров.

Если же заглянуть в более отдаленное будущее, где компьютеры будут уже достаточно мощными, то стоит вспомнить, что у компьютера нет тела, глаз или желудка — он будет воспринимать все окружающее совсем не так, как мы, и придумает очень отличающийся от нашего язык. Поскольку компьютер будет воспринимать иначе вообще все: будет хотеть другого, бояться другого​​, — он будет и мыслить иначе. Из этого следует, что интересы людей с интересами компьютеров будут пересекаться слабо или вообще пересекаться не будут. Так что велик шанс, что нам просто будет «не о чем поговорить». То есть мы будем сосуществовать, но практически не взаимодействовать, как сейчас люди и дельфины (второй условно разумный вид на нашей планете).

Есть также и негативный сценарий, в котором мы начнем конкурировать за базовый ресурс — энергию. Однако негативный сценарий возможен лишь в том случае, если компьютеры будут живыми в нашем смысле, то есть будут стремиться размножаться и продолжать свое существование. Но этого мы никак пока предсказать не можем.

Об авторах
Валентин Малых исследователь Лаборатории нейронных систем и глубокого обучения МФТИ
Точка зрения авторов, статьи которых публикуются в разделе «Мнения», может не совпадать с мнением редакции.
Магазин исследований: аналитика по теме "Интернет"