Не сравнивайте названия вместо работы
Обычный чат принимает запрос и возвращает ответ; сам по себе он не знает актуальную внутреннюю инструкцию. RAG сначала ищет подходящие фрагменты в корпусе, затем передаёт их модели для ответа. Агент может планировать и вызывать инструменты. В реальной системе эти компоненты нередко соединены, поэтому сравнивайте конкретные маршруты, а не ярлыки.
Когда достаточно обычного чата
Используйте его для черновика, пояснения или преобразования текста, если исходные факты уже даны пользователем и ошибка легко заметна. Не подключайте ему весь архив «на всякий случай». Для разового вопроса база знаний и инструменты могут добавить стоимость и точки отказа, не улучшив итог.
Когда полезен RAG
Поиск с подстановкой источников уместен, когда ответ зависит от большого набора внутренних материалов, которые меняются и имеют владельцев. Качество зависит не только от модели: важны полнота индекса, свежесть версии, разбиение, поиск нужного раздела и корректная ссылка на основание. Перед пилотом подготовьте набор вопросов с известными ответами и случаями, где нужного правила нет.
Когда агент оправдан
Агент нужен, если процесс требует нескольких шагов или ограниченных вызовов инструментов: например, прочитать записи и собрать черновой отчёт. Чем выше полномочия, тем важнее проверка параметров и подтверждение человеком. Начните с чтения и симуляции; запись, отправку, удаление и оплату не добавляйте одним широким разрешением.
Сравните по одному процессу
Возьмите десять типовых задач. Зафиксируйте точность фактов, время до принятого результата, долю случаев без ответа, исправления, стоимость и простой при отказе сервиса. Для RAG отдельно посчитайте, нашёлся ли правильный фрагмент; для агента — выполнился ли только разрешённый шаг; для чата — не был ли пробел во входе заполнен догадкой.
Пример выбора
Сотрудник спрашивает текущий срок возврата — нужен поиск по действующей политике с версией и разделом, поэтому кандидат RAG. Сотрудник переписывает уже подтверждённое письмо — вероятно, хватит чата. Система собирает данные из нескольких разрешённых таблиц и создаёт черновик — можно испытывать агента в read-only режиме. Ни в одном случае модель не должна сама утвердить исключение для клиента.
FAQ: какой вариант точнее?
Универсального победителя нет. Ошибку может внести устаревшая база, плохая инструкция, неверный вызов инструмента или неполный запрос. Сравнивайте реализации на одной выборке и проверяйте конкретное действие, которое важно команде.
Что изучить дальше
Если сценарий включает несколько операций, сначала определите границы и подтверждения в разборе пилота агента в операционном отделе. Для ответов на основе документов начните с проверки источников и цитат, а не с автоматического масштабирования.