Задача. Дать сотрудникам AI-ассистента для работы с документами и текстами так, чтобы внутренние данные не покидали организацию.
Сделано. Развернул модели на собственных видеокартах заказчика за единым шлюзом с маршрутизацией и разграничением доступа. Подключил поиск по базе документов (RAG). Если задаче нужна внешняя модель, запрос сначала проходит обезличивание.
Результат. Ассистенты работают в закрытом контуре, доступны через веб-чат и API. Наружу уходят только обезличенные запросы и только когда это необходимо.