ФСТЭК уже запрещает отдавать данные разработчику модели

Область действия — государственные информационные системы, иные системы госорганов, государственных унитарных предприятий и государственных учреждений, а также муниципальные системы. Частных компаний приказ не касается. Но вузы, НИИ и учреждения под него подпадают, а поставщик решения для такого заказчика получает эти требования как условие проекта.

Ключевая норма пункта 60 сформулирована прямо: «Не допускается передача лицу, разработавшему модель искусственного интеллекта, информации ограниченного доступа, содержащейся в информационных системах, в том числе для улучшения функционирования модели искусственного интеллекта».

Оговорка «в том числе для улучшения модели» закрывает обычный аргумент о том, что обучение на запросах у поставщика отключено. Запрет касается самой передачи, а не её цели. Для сведений ограниченного доступа остаётся один путь — модель внутри собственного периметра.

Пункт 61 добавляет требования к тому, как модель встроена в систему. Для работы по строгим шаблонам — контроль соответствия запросов и ответов этим шаблонам. Для свободной текстовой формы — заданные допустимые тематики и контроль, что запрос и ответ им отвечают. Плюс статистические критерии выявления недостоверных ответов и обязательное реагирование: на недостоверном ответе система ограничивает область принимаемых решений.

Там же названо требование к составу: непосредственно в состав информационных систем должны включаться доверенные технологии искусственного интеллекта или их компоненты. Это требование к тому, что вы ставите, а не к процедуре, — значит, подбирать модель и стек нужно с этим на входе.

Переходное положение мягкое: аттестаты соответствия, выданные до вступления приказа в силу, остались действительными. Вопрос возникает при создании новой системы и при модернизации существующей — а развёртывание модели внутри неё это как раз модернизация.