Безопасность ИИ по 152-ФЗ и требованиям регуляторов

ИИ-системы всё чаще обрабатывают персональные и коммерческие данные, а значит попадают в поле зрения регуляторов. Разберём, из чего складывается безопасность ИИ по 152-ФЗ и требованиям регуляторов: что уже применимо к ИИ, чем грозят нарушения и как подготовить систему к аудитам и запросам заказчиков. Это практическая сторона доверенного ИИ.

Регуляторы уже наказывают за ИИ

• Italian Garante против ChatGPT (2023). Итальянский регулятор временно заблокировал ChatGPT в стране из-за нарушений GDPR (основания обработки, отсутствие возрастной проверки), а позже оштрафовал OpenAI. Сигнал понятен: «это же ИИ» не освобождает от закона о данных.
• Samsung (2023). Инженеры загрузили в ChatGPT конфиденциальный исходный код, и компания запретила публичные генеративные ИИ. Классический «теневой ИИ» (shadow AI) как канал утечки.

Персональные данные и 152-ФЗ

Если ИИ обрабатывает персональные данные (а чат-бот поддержки, ассистент или скоринговая модель почти всегда это делают), вступает в силу 152-ФЗ «О персональных данных»: правовые основания и согласие, защита данных, ограничение доступа, локализация баз ПДн граждан РФ на территории России, реагирование на инциденты. У ИИ здесь своя специфика — утечка ПДн через вывод модели, когда LLM «вспоминает» данные из обучения или чужой сессии, тоже считается нарушением со всеми последствиями, вплоть до оборотных штрафов по ужесточённому законодательству.

Международные стандарты управления рисками ИИ

• NIST AI Risk Management Framework — процессный ориентир по управлению рисками ИИ, де-факто стандарт.
• ISO/IEC 42001 — первый международный стандарт системы менеджмента ИИ (AIMS), под который можно сертифицироваться.
• EU AI Act обязателен при работе на рынках ЕС; он классифицирует ИИ по уровню риска (недопустимый / высокий / ограниченный / минимальный) с разными требованиями и крупными штрафами.
• OWASP Top 10 для LLM — техническая база рисков (см. разбор).

Что обычно требуется от ИИ-системы

1. Оценка и документирование рисков ИИ (impact assessment).
2. Защита данных на всех этапах — обучение, хранение, инференс; локализация ПДн.
3. Прозрачность и объяснимость значимых решений (скоринг, отказы).
4. Контроль критичных решений человеком (не полностью автоматизированные решения по 152-ФЗ).
5. Управление доступом к модели и данным; защита от утечек через вывод.
6. Реагирование на инциденты, связанные с ИИ.

С чего начать: от инвентаризации к дорожной карте

1. Инвентаризация. Где и какие ИИ-системы обрабатывают ПДн и коммерческие данные, включая shadow AI — то, что сотрудники вставляют в публичные сервисы.
2. Gap-анализ относительно 152-ФЗ, NIST AI RMF и ISO 42001 — услуга доверенного ИИ.
3. Технические проверки: пентест ИИ и аудит ML-систем.
4. Классическая ИБ: аудит соответствия требованиям ИБ.
5. Организационные меры: политика использования ИИ сотрудниками, чтобы не повторить Samsung.

Регуляторика по ИИ догоняет технологию быстрее, чем кажется, а штрафы за утечки ПДн в РФ уже стали оборотными. Кто выстраивает «доверенный ИИ» сейчас, выигрывает в тендерах и у крупных заказчиков: вопрос «как вы управляете рисками ИИ» уже стоит в анкетах безопасности, и пустой ответ стоит контракта.

Читайте также: OWASP Top 10 для LLM, MLSecOps.

Профильные услуги SecurityLab: тестирование на проникновение · пентест веб-приложений · Пентест ИИ и LLM.