ИИ не работает: какие 4 момента упускают из виду при его запуске

Фото: Midjourney

Благодаря росту вычислительных мощностей и появлению больших языковых моделей (LLM) компании начали активно внедрять решения на их основе, особенно в сочетании с подходом Retrieval-Augmented Generation (RAG). Технология RAG позволяет использовать ИИ даже тем компаниям, у которых нет ресурсов для обучения собственных моделей. По данным Gartner, уже к 2026 году более 80% корпоративных ИИ-проектов будут использовать такие гибридные решения. Это подтверждается и интересом инвесторов. Например, по данным PitchBook, в третьем квартале 2024 года стартапы в области генеративного ИИ получили $3,9 млрд инвестиций — на 65% больше, чем год назад. А в России в ИИ и машинное обучение вложили более $48 млн (данные Venture Guide).

Как не потерять точность

LLM — это модели, которые «понимают» язык и могут генерировать тексты. Но они обучены на фиксированном объеме данных. Без обновлений такие модели начинают «устаревать» и терять точность. RAG подает модели свежую информацию из внешних источников вместе с запросом. Благодаря этому ответы становятся точнее и актуальнее.

Как это работает:

• ИИ «читает» запрос и переводит его в специальный цифровой формат;
• находит подходящую информацию в базе данных компании;
• передает найденную информацию языковой модели для формирования ответа.

Это позволяет использовать даже бесплатные модели и при этом получать хорошие результаты, а значит экономить: не нужно нанимать дорогостоящих специалистов для постоянного обучения модели.

Часто бизнес ждет, что ИИ сразу и без подготовки решит множество задач. На практике все не так просто. Нужно четко ставить цели, правильно выбрать архитектуру, подумать о возврате инвестиций. Когда этого не делают, проекты буксуют — и компании разочаровываются.

Зачем и как учить управленцев работе с ИИ: три аргумента и четыре шага

Образование

Бывает, что модель дает неточные или странные ответы. Часто это не проблема самой модели. Просто она работает с «сырой» или плохо структурированной информацией. В таких случаях не нужно «улучшать ИИ». Надо разобраться с тем, какую информацию он получает — это проще и дешевле, чем менять саму модель.

Что важно предусмотреть кроме модели и технологии

Чтобы система на основе LLM и RAG приносила пользу, мало просто «подключить ИИ». Важно, чтобы все вокруг него: данные, интерфейсы, логика взаимодействия — тоже было выстроено правильно. Ниже — ключевые моменты, о которых часто забывают.

1. Источники данных

ИИ не может «думать» сам по себе — он работает только с той информацией, которую ему дают. И если база знаний компании (то есть документы, инструкции, описания продуктов и т.д.) в плохом состоянии, результат будет соответствующий.

Что может пойти не так:

• Информация в базе устаревшая или противоречивая — ИИ будет ее «цитировать», как будто она актуальна.
• Структура базы хаотична — ИИ не может разобраться, где что лежит, и выдает случайные куски.

Что нужно сделать:

• Разделить документы по темам: продукты, регионы, типы клиентов и т.д.
• Добавить теги, аннотации и метки с ключевыми словами, чтобы ИИ понимал, о чем документ.
• Ввести версионирование — чтобы можно было отслеживать изменения в документах.
• Настроить автоматическое удаление или блокировку устаревших файлов.
• Сделать единый источник данных и для людей, и для ИИ. Если, например, служба поддержки и ИИ используют разные документы, ответы будут различаться, что вызовет недоверие.

Если данные плохо организованы, ИИ будет ошибаться, даже если сама модель хорошая.

2. Сужение области поиска

В RAG нет правила «чем больше данных — тем лучше». Напротив, если ИИ ищет ответ сразу во всей базе, он может:

• найти много «левой» информации, которая слабо относится к вопросу;
• или, что еще хуже, сгенерировать ответ на основе несовместимых и запутанных данных.

Пример. Вы спрашиваете про технические характеристики смартфона, а модель подмешивает обзоры чехлов и рекламные тексты — потому что все это «рядом».

Что с этим делать:

• Создавать четкую структуру базы знаний, поверх которой строится так называемая векторная база данных (она нужна RAG для поиска). Желательно логично организовать информацию по темам, разделам и типам документов. Например, отдельно хранить инструкции, справку по техподдержке, юридические документы и маркетинговые материалы. Каждый документ можно разбить на небольшие, осмысленные фрагменты (например, по заголовкам или абзацам) и снабдить метками: категория, продукт, версия и т.п. Это позволяет векторной базе точнее находить нужный контекст и исключать лишнее. Благодаря структуре можно ограничивать поиск только нужным разделом — например, искать ответы только в документах по сервису, а не в маркетинговых текстах.
• Сужать область запроса. Например, если сотрудник запрашивает информацию из раздела «Сервисное обслуживание», поиск ведется только в документах этого раздела.
• В пользовательском интерфейсе сделать так, чтобы можно было уточнять вопрос (например, выбрать категорию перед поиском).

Нужно «ограничивать поле зрения» ИИ, чтобы он искал только в нужной области — тогда и ответы будут точнее.

3. Интерфейс взаимодействия с ИИ

Даже самый умный ИИ будет бесполезен, если с ним неудобно работать. Людям должно быть просто и понятно, как с ним взаимодействовать.

Что это значит:

• ИИ нужно встроить в существующие рабочие процессы — не ломать привычные сценарии, а дополнять их.
• Интерфейс должен быть интуитивным: минимум лишних действий, ясные подсказки, понятные формулировки.

ИИ должен быть незаметным помощником, а не сложным инструментом, к которому нужен отдельный курс обучения.

4. Качественные промпты (инструкции для ИИ)

ИИ работает на основе текстовых запросов — они называются «промпты». Если запрос сформулирован расплывчато, модель поймет его по-своему. А если запрос четкий и с понятными ограничениями — результат будет лучше.

Зачем и как учить управленцев работе с ИИ: три аргумента и четыре шага

Образование

Не стоит ожидать, что сотрудники будут писать идеальные промпты — это сложно и требует навыков. Стоит заложить «глубокие промпты» внутри системы — то есть заранее прописать основные правила работы ИИ.

Примеры таких правил:

• Кто «отвечает» от имени ИИ: консультант, эксперт, ассистент и т.д.
• Как именно он должен отвечать: кратко, дружелюбно, официально и т.п.
• Нужно ли указывать источники (например, ссылки на документы).
• Какие данные можно использовать, а какие — нет (например, не разглашать конфиденциальную информацию).

На первый взгляд, технология выглядит простой. Но чтобы она работала как надо, нужно проделать большую подготовительную работу. Компании, которые хотят быстрых результатов без вложений в данные, инструменты и инфраструктуру, скорее всего, разочаруются. Настоящий эффект ИИ дает тогда, когда бизнес перестает искать «волшебную модель» и начинает строить полноценную систему, где все: от данных до интерфейсов — работает как единое целое.