Есть компании, где вопрос «какую модель выбрать» отходит на второй план, а первым встаёт другой: выйдут ли данные за периметр. Банк, госкорпорация, оборонный подрядчик, медицинский холдинг. И если ответ «выйдут, но мы всё обезличим» — начинается тяжёлый разговор. Обезличивание не даёт технической гарантии: достаточно одного не вычищенного поля в выгрузке или сочетания признаков, по которому человек восстанавливается. А отвечать за это решение будет конкретный человек — и чем выше цена ошибки, тем охотнее он выбирает вариант, где данные просто никуда не уходят.
Крупные игроки эту задачу решают. Сбер сделал GigaChat, у Яндекса своя линейка, ряд банков строит внутренние платформы; другие компании разрешают облачные модели, но под контролем — DLP, договоры, фильтрация персональных данных на выходе. Оба пути рабочие. Только первый — это программа на сотни человек и бюджет соответствующего порядка, а второй упирается в политику безопасности, которая не везде это позволяет.
А между «построить свою модель, как Сбер» и «отправлять всё в облако» лежит широкая полоса: компании, которым первое не по карману, а второе не разрешает служба безопасности. Вот им обычно и говорят: тогда ничего серьёзного не получится. Аргумент — открытая модель среднего размера проигрывает облачным гигантам почти по всем строкам бенчмарков, так что максимум, на что можно рассчитывать, — умный автодополнитель.
Вот это утверждение я и взялся проверить на практике: собрать не чат-бота, а полноценный корпоративный оркестратор — систему, которая понимает задачу, сама выбирает исполнителей, ходит в корпоративные системы, делает многошаговую работу и отвечает файлом, письмом или отчётом. И запустить его не на кластере ускорителей, а на одной потребительской видеокарте.
