Сотрудник спрашивает локального ИИ о порядке оформления документа. Полезный ответ должен опираться на действующую инструкцию предприятия. RAG — подход, при котором перед формированием ответа система ищет подходящие фрагменты в подготовленном наборе материалов и передаёт их модели как контекст.
Поиск и ответ — разные этапы
Если поиск нашёл устаревший документ, модель может построить связный ответ на неверной основе. Если нужный фрагмент не найден, убедительная формулировка не заменит отсутствующие сведения. Поэтому качество проекта оценивают отдельно по поиску материалов и по точности использования найденного.
Документы требуют подготовки
Дубли, неразборчивые сканы и противоречивые версии мешают работе. У материалов должны быть понятные названия, даты и статус. Права доступа сохраняют на всех этапах: наличие документа в общем индексе не означает, что его содержание можно показывать каждому сотруднику.
Ссылка на документ помогает проверке
Внутренний ответ удобно сопровождать названием и доступным пользователю фрагментом основания. Но наличие ссылки ещё не доказывает, что приведённый текст подтверждает вывод. В испытании используют реальные типовые вопросы предприятия и проверяют как верные ответы, так и корректное обозначение отсутствия данных.
Что проверять на пилоте
Полезно выбрать несколько вопросов, на которые в документах есть похожие, но разные ответы. Например, разные версии процедуры или условия для разных подразделений. Система должна находить нужное основание с учётом доступа пользователя. Проверка на одном удобном вопросе показывает демонстрацию, а набор типовых ситуаций помогает оценить рабочую применимость.
Как применить в рабочем проекте
Внедрение на российском предприятии начинают с ограниченного гражданского процесса и подготовленного набора документов. Описание возможностей такого проекта есть в разделе сайта о локальном ИИ. Обещать безошибочность только благодаря размещению сервера внутри организации нельзя.
| Понятие | На что обратить внимание |
|---|---|
| Поиск | Найден ли нужный действующий материал |
| Доступ | Разрешён ли он этому пользователю |
| Ответ | Подтверждает ли материал сделанный вывод |
Устраняет ли RAG все ошибки модели?
Нет. Ошибки возможны в поиске, выборе версии документа и формировании вывода. Каждый этап требует своей оценки.
Для гражданских задач предприятия подробнее рассмотрен подход к локальному ИИ в закрытом контуре.
Другие материалы по теме собраны в разделе «Технологии и практика».
