Как ИИ-бот отвечает по вашим документам — и почему он говорит «не знаю»

Представьте нового официанта в первый рабочий день. Он умный и вежливый, но ещё ни разу не видел вашего меню. Гость спрашивает: «Сколько стоит плов?» Что ему делать?

Плохой официант угадывает: «Где-то тридцать сомони, кажется». Хороший сначала смотрит в меню и называет настоящую цену. А если гость спрашивает о том, чего нет ни в одной карточке, хороший официант говорит: «Сейчас уточню у менеджера».

ИИ-бот бизнеса должен работать именно как хороший официант. Этот урок показывает, как.

Умный ИИ не знает ваш бизнес

Современные ИИ-модели прочитали огромное количество текстов. Они умеют писать, переводить и объяснять. Но они никогда не видели вашего меню, вашей зоны доставки и ваших часов работы. Если просто спросить модель «Сколько стоит плов в кафе „Навруз“?», она часто всё равно ответит уверенно — но выдуманным ответом.

У такой уверенной выдумки даже есть название: галлюцинация. Для бизнеса это опасно: неправильная цена или неверный адрес злят клиентов.

Хитрость: сначала дать боту ваши карточки

Поэтому бот бизнеса отвечает не по памяти. Он хранит вашу информацию на маленьких карточках: одна про меню, одна про доставку, одна про часы работы, одна про оплату. Когда приходит вопрос, бот:

1. Разбирает вопрос на слова и выбрасывает маленькие, которые сами по себе ничего не значат («как», «вы», «для»).
2. Ищет эти слова в карточках и ставит каждой карточке оценку: насколько она подходит?
3. Отвечает по лучшей карточке — и только по ней. Если ни одна не подходит, он ничего не выдумывает.

Это называется ответ по документам. Программисты называют это RAG — «сначала найти, потом написать».

Попробуйте

Спросите бота выдуманного кафе «Навруз». Попробуйте готовые вопросы, потом напишите свой. А затем измените цену плова и спросите снова.

Заметили, как цена плова в ответе изменилась сразу, как только вы изменили карточку? Бота никто не переобучал. Он просто каждый раз читает карточку. Чтобы научить его новому, вы меняете карточку — как меню, а не как перестройку кафе.

Шаг за шагом

Слова. Вопрос «Сколько стоит плов?» превращается в полезные слова стоит и плов. Остальные зачёркнуты — они есть почти в каждом вопросе и ничем не помогают.

Поиск. Бот сравнивает эти слова с каждой карточкой. В карточке меню есть плов и стоит — сильное совпадение. В карточке доставки нет ни того, ни другого. Каждая карточка получает свою полоску: чем длиннее, тем лучше совпадение. Бот понимает и то, что «доставляете» и «доставляем» — одно слово, потому что они одинаково начинаются.

Ответ. Лучшая карточка уходит к ИИ, и ИИ пишет ответ только по тому, что в ней написано. Поэтому бот может показать и источник: «Ответ взят из карточки: Меню и цены».

«Не знаю» — это достоинство, а не ошибка

Спросите бота кафе про парковку для вертолёта. Ни одна карточка об этом не говорит, поэтому бот отвечает: «Не знаю точно — передам ваш вопрос менеджеру».

Для бизнеса это самая важная фраза, которую может сказать бот. Бот, который признаёт, что не знает, и передаёт вопрос человеку, никогда не выдумает скидку, зону доставки или цену. Клиенты прощают «сейчас уточню». Неправильную цену — не прощают.

Тем, кто заказывает ИИ-бота

Прежде чем принять бота для своего бизнеса, задайте три вопроса:

1. Откуда он берёт ответы? Хороший ответ: из ваших карточек или документов, и он может показать, из какой.
2. Что он делает, когда не знает? Хороший ответ: честно говорит об этом и передаёт вопрос человеку.
3. Как мне изменить то, что он знает? Хороший ответ: вы сами правите карточку или документ, и следующий ответ уже учитывает изменения — без программиста.

Проверьте себя

Маленький словарь

• Карточка (документ) — небольшой кусочек вашей информации: меню, правила доставки, часы работы.
• Поиск — выбор карточки, которая лучше всего подходит к вопросу.
• Оценка — насколько карточка подходит, от 0% до 100%.
• Источник — карточка, из которой взят ответ.
• Галлюцинация — уверенный ответ, который ИИ выдумал.
• RAG — «сначала найти, потом написать»: так боты бизнеса отвечают по документам.

Бот, который отвечает по вашей информации

Я делаю Telegram-ботов, которые отвечают по вашему меню, прайсу или правилам — на таджикском, русском и английском, — показывают, откуда взят каждый ответ, и передают сложные вопросы человеку. Вопросы: @SimorghDev.