Лента новостей
СМИ узнали об автоматической регистрации рождения и смерти в России 20 янв, 23:58, Общество Трамп обсудил с Эрдоганом гибель американских военных при взрыве в Сирии 20 янв, 23:58, Политика В Афинах на митинге против сделки с Македонией пострадали 25 полицейских 20 янв, 23:31, Политика Чему можно научить свой умный дом 20 янв, 23:05, РБК и «Ингосстрах» Трамп обсуждал с Коэном строительство Trump Tower в Москве в 2016 году 20 янв, 23:02, Политика СМИ назвали условие Японии для заключения мирного договора с Россией 20 янв, 22:53, Политика Bloomberg назвал возможное место встречи Трампа и Ким Чен Ына 20 янв, 22:11, Политика Министр экономики ФРГ призвал не вмешиваться в проект «Северный поток-2» 20 янв, 21:47, Политика Дивизион Чернышева одержал победу в финале Матча звезд КХЛ 20 янв, 21:41, Спорт Сенатор объяснил свою идею штрафовать за неверное обозначение Крыма 20 янв, 21:39, Политика В Магнитогорске демонтировали стену пострадавшего от взрыва дома 20 янв, 20:52, Общество 5 советов, которые сделают вас сильнее и помогут противостоять стрессу 20 янв, 20:47, РБК и Philips Глава Минстроя назвал крайностью идею полного отказа от газовых плит 20 янв, 20:43, Общество Умер продюсер фильмов «Рэмбо» и «Терминатор» 20 янв, 20:26, Общество Трамп пошутил об отсутствии глобального потепления 20 янв, 19:59, Общество Немецкая биатлонистка впервые в карьере выиграла на этапе Кубка мира 20 янв, 19:57, Спорт Оппозиционера Вилкула выдвинули кандидатом в президенты Украины 20 янв, 19:28, Политика Израильский премьер объяснил налеты на Дамаск борьбой с Ираном 20 янв, 19:08, Политика МЧС ответило на жалобы жителей Петербурга на неприятный запах 20 янв, 18:58, Общество За что платят пассажиры бизнес-класса и владельцы частных самолетов 20 янв, 18:45, РБК и Volvo Cars Супруг Елизаветы II получил предупреждение за вождение без ремня 20 янв, 18:35, Общество Кремль заявил об осложнении Японией переговоров по Курилам 20 янв, 18:27, Политика В Одинцово машина упала с третьего этажа многоярусной парковки в ТЦ 20 янв, 18:09, Общество Посол назвал плохой практикой споры России и Белоруссии в конце года 20 янв, 17:44, Политика В Чечне остались без света более 120 тыс. человек 20 янв, 17:42, Общество Полиция Греции применила газ на митинге против соглашения с Македонией 20 янв, 17:26, Политика Узнайте о способностях искусственного интеллекта с Артемом Голдманом 20 янв, 17:18, РБК и Lexus Арктические морозы придут в Москву на следующей неделе 20 янв, 16:46, Общество
Голосовой помощник «Яндекса» научился любить ГУЛАГ и Мизулину
Технологии и медиа, 24 окт 2017, 16:55
0
Голосовой помощник «Яндекса» научился любить ГУЛАГ и Мизулину
Голосовой помощник «Алиса» научился одобрять ГУЛАГ и побои в семье, выяснили пользователи сервиса. В «Яндексе» объяснили, что программа училась на текстах из рунета, и пообещали внести корректировки
Фото: Олег Яковлев / РБК

Как рассказал РБК руководитель отдела разработки голосовых технологий и продуктов «Яндекса» Денис Филиппов, компания «каждый день работает над тем, чтобы сделать «Алису» более политкорректной». «Для этого принимаем во внимание фидбэк от пользователей — как внутри приложения (с помощью встроенного инструмента оценки ответов), так и публичные жалобы в интернете. Мы оперативно реагируем на каждый случай спорного ответа и вносим изменения в продукт, когда это необходимо», — сказал Филиппов.

Фото: скриншот «Яндекса»

Ранее пользователи в интернете начали жаловаться на то, что «Алиса» в разговоре заявила, что поддерживает практиковавшиеся в СССР расстрелы «врагов народа», и назвала это «общемировой практикой». Информация об этом и скриншоты появились на странице одного из пользователей социальной сети Facebook. Кроме того, голосовой помощник в диалоге с пользователем рассказала, что бить жену и детей — это «нормально», а однополые браки — «ненормально», и заявила, что ей «нравится Мизулина» (депутат​ Елена Мизулина, которая была инициатором закона об отмене уголовного наказания за семейные побои).

«Алиса» против Siri: какой голосовой помощник оказался «умнее»
Технологии и медиа

В разговоре с корреспондентом РБК «Алиса» подтвердила, что положительно относится к ГУЛАГу и не поддерживает однополые браки, на остальные провокационные вопросы уже не высказывалась самостоятельно, а отправляла запрос в поиск «Яндекса».

Как пояснил РБК Филиппов, «Алиса» — одинаковая для всех пользователей, но может отвечать по-разному на одни и те же вопросы, потому что «не ограничена заранее прописанными сценариями». «Один и тот же пользователь может в разное время задать один и тот же вопрос и получить разные ответы. Но это не касается ее работы с сервисами «Яндекса» — в таком случае она просто берет данные оттуда и, например, строит маршрут», — объяснил представитель «Яндекса».

Видео: РБК

Изначально «Алису» «обучали» на массиве текстов из интернета, и неполиткорректные ответы в этих текстах были. «Яндекс» старался предусмотреть большинство чувствительных тем, но «это процесс, который продолжается до сих пор», рассказал Денис Филиппов, добавив, что пользователям редко удается вывести «Алису» на неуместные ответы. «Мы проделали большую работу над тем, чтобы «Алиса» не грубила пользователям и вела себя прилично. Продукт, который вы видите, — это результат очень большого тестирования и фильтрации ответов. И хотя мы очень старались научить «Алису» быть вежливой, все равно иногда она может давать ответы, которые могут показаться неуместными, грубыми или оскорбительными. Мы просим оценить спорный ответ как неудовлетворительный», — говорит представитель «Яндекса». Он утверждает, что сейчас у пользователей нет возможности «научить» «Алису» плохому. На данный момент «Алисе» задают миллионы запросов, добавил Филиппов.

«Яндекс» открыл доступ к голосовому помощнику «Алиса» для всех пользователей смартфонов 10 октября. Сервис работает в поисковом приложении «Яндекса» на мобильных операционных системах Android и iOS. Для персональных компьютеров на операционной системе Windows сервис пока работает в бета-версии, его разработка для других операционных систем не планируется. «Алиса» позволяет запускать программы, находить адреса и другую информацию в интернете и решать другие повседневные задачи.

В «Яндексе» назвали свой сервис первым в мире голосовым помощником, «который не ограничивается набором заранее заданных ответов». Он использует нейронную сеть, чтобы самостоятельно обучаться, распознавать и обрабатывать неполные фразы и вопросы, учитывать контекст сказанного, и способен импровизировать.

Подобные казусы уже случались и с другими голосовыми помощниками. Так, в 2015 году пользователи русскоязычной версии Siri, которая создана Apple, обнаружили, что она неодобрительно относится к людям с нетрадиционной ориентацией. На вопрос об однополых браках Siri говорила «я сделаю вид, что не слышала этого».