Безопасность ИИ по 152-ФЗ и требованиям регуляторов

ИИ-системы всё чаще обрабатывают персональные и коммерческие данные — и попадают в поле зрения регуляторов. Разбираемся, какие требования уже применимы к ИИ и как подготовить систему к аудитам и запросам заказчиков. Это практическая сторона доверенного ИИ.

Персональные данные и 152-ФЗ

Если ИИ обрабатывает персональные данные — а чат-бот поддержки, ассистент или скоринговая модель почти всегда это делают — применяются требования 152-ФЗ «О персональных данных»: правовые основания обработки, согласие субъекта, защита данных, ограничение доступа, локализация баз ПДн граждан РФ на территории России, реагирование на инциденты. Отдельный нюанс ИИ: утечка ПДн через модель (например, когда LLM «вспоминает» данные из обучающей выборки или чужой сессии) — это тоже нарушение со всеми последствиями.

Практический риск: сотрудники массово вставляют в публичные ИИ-сервисы куски документов, кода и клиентских данных. Показательна история Samsung (2023): инженеры загрузили в ChatGPT конфиденциальный исходный код, после чего компания запретила публичные LLM. Для оператора ПДн такая «тень ИИ» (shadow AI) — прямой канал утечки и нарушение 152-ФЗ.

Международные стандарты управления рисками ИИ

• NIST AI Risk Management Framework (AI RMF) — управление рисками ИИ на уровне процессов; де-факто отраслевой ориентир.
• ISO/IEC 42001 — первый международный стандарт системы менеджмента искусственного интеллекта (AIMS), под который можно сертифицироваться.
• EU AI Act — обязателен при работе на рынках ЕС; классифицирует ИИ по уровню риска (недопустимый / высокий / ограниченный / минимальный) с разными требованиями.
• OWASP Top 10 для LLM — техническая база рисков (см. разбор).

Что обычно требуется от ИИ-системы

1. Оценка и документирование рисков ИИ (impact assessment).
2. Защита данных на всех этапах — обучение, хранение, инференс; локализация ПДн.
3. Прозрачность и объяснимость решений модели (особенно для значимых решений — скоринг, отказы).
4. Контроль критичных решений человеком (не полностью автоматизированные решения по 152-ФЗ).
5. Управление доступом к модели и данным; защита от утечек через вывод.
6. Реагирование на инциденты, связанные с ИИ, и план действий.

С чего начать

Практичный путь — от gap-анализа к дорожной карте:

1. Инвентаризация: где и какие ИИ-системы обрабатывают ПДн и коммерческие данные (включая shadow AI).
2. Gap-анализ относительно выбранных стандартов (152-ФЗ + NIST AI RMF / ISO 42001) — в рамках услуги доверенного ИИ.
3. Технические проверки для закрытия рисков: пентест ИИ и аудит ML-систем.
4. Классическая ИБ-часть — аудит соответствия требованиям ИБ.
5. Организационные меры: политика использования ИИ сотрудниками (чтобы не повторить кейс Samsung).

Экспертное наблюдение: регуляторика по ИИ догоняет технологию быстрее, чем кажется. Компании, которые начинают выстраивать процессы «доверенного ИИ» сейчас, получают конкурентное преимущество в тендерах и при работе с крупными заказчиками, где вопрос «как вы управляете рисками ИИ» уже звучит в анкетах безопасности.

Читайте также: OWASP Top 10 для LLM, MLSecOps.