В «Яндексе» объяснили «галлюцинации» «Алисы» по поводу «свиных крылышек»
Проблемы с неточными ответами и «выдумками» нейросетей существуют, но каждый год они кратно сокращаются, заявил в интервью Радио РБК руководитель бизнес-группы поисковых сервисов и искусственного интеллекта «Яндекса» Дмитрий Масюк.
Так он прокомментировал приведенный пример с вопросом к «Алисе» и другим нейросетям о «свиных крылышках». ИИ прямо не отрицает, что они существуют, и приводит рецепты их приготовления. По словам Масюка, стопроцентного отсутствия таких «галлюцинаций» не получится добиться никогда.
«Про «свиные крылышки» я только что посмотрел. «Алиса» ссылается на существующий источник. На самом деле в интернете, буквально, [есть] статьи, которые описывают такие рецепты. Это ее не извиняет в том смысле, что она могла бы говорить, что это абсурд, но, тем не менее, действительно, она ссылается на существующие источники, не выдумывает это сама», — отметил он.
Существуют механизмы дообучения, когда нейросеть «наказывают» за «придумки» и мотивируют ее «быть гораздо ближе к источникам». Масюк также рассказал, что обучение ИИ проходит в три этапа:
- На первом берется «более-менее весь интернет, очищенный от заведомо каких-то бессмысленных вещей» — это десятки терабайтов данных.
- На втором этапе нейросети дают сотни тысяч вопросов и ответов, написанных редакторами. Так она учится поведению, «что следует комментировать, что не следует комментировать».
- Третий этап, по словам Масюка, «самый хитрый». «Мы делаем отдельную нейросеть, которая оценивает ответы основной. И следом, соответственно, нейросеть работает, работает, работает, работает, а в это время ее оценивает та самая отдельная нейросеть-судья, скажем так», — пояснил он.
Несмотря на работу по дообучению ИИ, «Яндекс» по своим замерам не видит, что недочеты нейросетей являются чувствительными непосредственно для пользователей. Масюк согласился с мыслью, что люди хотят одновременно и живого общения с некоей фантазией у ИИ, и при этом, чтобы были четкие факты.
«Люди хотят живого. Да, ровно так», — сказал он.
Читайте РБК в Telegram.
Попробуйте новую функцию «ГигаЧат» — общаться голосом
Какое вино подать к ужину, если не знаешь предпочтения гостей
Как приготовить говядину в вине по-бургундски
Чем занять детей, пока взрослые общаются за столом
Как легко завести разговор в компании, где все только что познакомились
О чём надо позаботиться, если собираешься позвать много гостей
Из каких сыров и ветчин собрать тарелку закусок к вину
Что делать, если пролил красное вино на белую скатерть
Какие есть правила классической сервировки стола
Какие игры можно предложить для взрослой компании дома
Как легко запомнить имена людей, которых тебе представили
