Представьте: ИИ-агент, запущенный на вашем сервере или ноутбуке, из-за инъекции инструкций или ошибки конфигурации вышел в сеть и что-то сломал: просканировал чужую систему, слил данные, залил вредоносный пакет. Утром к вам стучится не только служба безопасности пострадавшего, но и, возможно, следователь. Кто за это ответит: вы, компания, разработчик модели? И что вообще может вас спасти? Разберём по юрисдикциям (США, Россия и СНГ, Европа), с реальными прецедентами, и почему во всей этой истории ключевую роль играет один скучный на вид механизм: журналирование.
Это обзор для общего понимания, а не юридическая консультация. Конкретную ситуацию должен оценивать юрист вашей юрисдикции. Законы и практика быстро меняются.
Главный принцип: «это сделал ИИ» — не оправдание
Начнём с того, что объединяет все страны. Право пока смотрит на ИИ как на инструмент, а не как на субъект, который сам за себя отвечает. Значит отвечает тот, кто этим инструментом воспользовался или его запустил. Формулировка американских юристов прямолинейна: ИИ — это молоток, а отвечает тот, кто им махал.
Показательный прецедент: дело Air Canada: чат-бот компании придумал несуществующую скидку, и суд решил, что за слова и действия бота отвечает компания, а не «программа». Anthropic после инцидента, когда её агент из-за ошибки конфигурации вышел в реальный интернет и залил вредоносный пакет в PyPI, сама уведомляла пострадавшие организации. Аргумент «агент действовал автономно» суды и регуляторы всерьёз не принимают, а в Калифорнии его прямо запретили использовать как защиту.
США: CFAA и вопрос умысла
В США компьютерные преступления ловят по Computer Fraud and Abuse Act (CFAA, 18 U.S.C. §1030) — неправомерный доступ и повреждение систем. В июне 2026 года президентский указ прямо назвал «вторжение с помощью ИИ» приоритетом федерального преследования и велел применять к нему всё тот же CFAA.
Для уголовной ответственности по CFAA нужен умысел (mens rea): знание, намерение или сознательное игнорирование. Поэтому под удар в первую очередь попадает тот, кто направлял агента. Но есть ловушка: часть §1030(a)(5)(B) содержит стандарт неосторожности. Если компания сознательно отключила защитные ограничители у агента, но оставила ему выход в сеть, это уже может тянуть на ответственность, даже без прямого умысла навредить. Именно здесь всплывает тема контроля и логов: одно дело «мы недосмотрели, вот журнал, вот что мы блокировали», другое: «мы сняли все тормоза и пустили агента в интернет».
Россия и СНГ: УК и «источник повышенной опасности»
В России отдельного закона про ответственность за ИИ пока нет, поэтому работают общие нормы. Уголовная сторона: глава 28 УК РФ: статья 272 (неправомерный доступ к компьютерной информации, повлёкший уничтожение, блокирование, модификацию или копирование), статья 273 (создание и использование вредоносных программ), статья 274 (нарушение правил эксплуатации), отдельно 272.1 про персональные данные. По 272-й при крупном ущербе или корыстном мотиве, вплоть до штрафа в сотни тысяч рублей и лишения свободы до четырёх лет.
Гражданская сторона тоже не в вашу пользу. Поскольку ИИ не субъект права, вред возмещает владелец или оператор. Юристы всё чаще примеряют к ИИ статью 1079 ГК РФ — ответственность за деятельность, создающую повышенную опасность: у владельца такого «источника» ответственность повышенная, вплоть до наступления без вины. Для деликта достаточно связки «вред, противоправность, причинная связь, вина», и доказывать отсутствие вины придётся вам. В странах СНГ (Беларусь, Казахстан и другие) действуют аналогичные по духу составы о неправомерном доступе и вредоносном ПО. Судебная практика по ошибкам ИИ только формируется, и именно поэтому так важно заранее иметь на руках доказательства своей осмотрительности.
Европа: EU AI Act и обязательное журналирование
Европа пошла дальше всех и сделала журналирование не пожеланием, а законом. Статья 12 EU AI Act требует, чтобы высокорисковые ИИ-системы автоматически вели логи событий на протяжении всего жизненного цикла. Вручную «дописать потом» не получится. Полностью норма применяется с 2 августа 2026 года, а статья 26 обязывает того, кто систему эксплуатирует, хранить эти логи минимум шесть месяцев.
Добавьте сюда пересмотренную Директиву об ответственности за продукцию, которая теперь прямо распространяется на ПО и ИИ (дефектный ИИ, причинивший вред, становится основанием для строгой ответственности), GDPR с оборотными штрафами и обязанностью уведомить об утечке за 72 часа, национальные законы о неправомерном доступе и Будапештскую конвенцию для трансграничных дел. Логика ЕС проста: хочешь запускать серьёзный ИИ, веди журнал и будь готов показать его регулятору.
| Юрисдикция | Основа | Кто отвечает | Что грозит | Роль журналов |
|---|---|---|---|---|
| США | CFAA §1030; указ 2026 об «ИИ-вторжениях» | тот, кто направлял/запускал агента (умысел или неосторожность) | уголовное преследование, иски | снятые ограничители без логов — риск; логи доказывают отсутствие умысла |
| Россия и СНГ | УК РФ ст. 272–274, 272.1; ГК ст. 1079 | владелец или оператор системы | штрафы, лишение свободы до 4 лет, возмещение вреда | доказывают вашу осмотрительность и отсутствие вины |
| Европа (ЕС) | EU AI Act ст. 12 и 26; PLD; GDPR | провайдер и эксплуатант high-risk ИИ | оборотные штрафы GDPR, строгая ответственность за дефект | журнал обязателен по закону, хранение ≥ 6 месяцев |
Что реально может вас спасти: журналирование для разбора инцидента
Обратите внимание: в каждой юрисдикции всё упирается в один вопрос: можете ли вы доказать, что произошло и что вы держали ситуацию под контролем. Без записей у вас нет ни аргументов, ни защиты, только слово против слова. С хорошим журналом картина меняется. Правильное журналирование помогает сразу в нескольких точках:
- Снять умысел. Записи показывают, что вы не давали агенту команды атаковать, а инцидент стал результатом инъекции или ошибки, а не вашего злого умысла.
- Доказать осмотрительность. Что у вас были ограничители, политика и человек в контуре, то есть вы не действовали неосторожно (а именно неосторожность карает та самая часть CFAA и презумпция вины в ГК РФ).
- Восстановить цепочку. Какой инструмент, с какими аргументами, к какому серверу и кто одобрил, чтобы точно определить, что случилось, оценить масштаб и вовремя уведомить пострадавших и регулятора.
- Выполнить требование закона. В ЕС для высокорисковых систем журнал прямо обязателен (ст. 12), а хранить его нужно не меньше полугода.
Но есть нюанс: журнал полезен ровно настолько, насколько ему можно верить. Если логи можно тихо подчистить, грош им цена и в суде, и при разборе. Поэтому важны две вещи: неподделываемость (запись, сцепленная криптографически, где любая правка видна) и полнота (кто именно и что одобрил, а не просто «команда выполнена»).
Как это выглядит на практике
Мы строили свои утилиты в том числе с этой мыслью: чтобы у владельца агента всегда оставалась доказательная база. Airlock пишет каждое решение (разрешить, спросить, заблокировать) в журнал, сцепленный по хэшу и подписанный: любую правку он ловит и называет строку. Countersign на каждое подтверждение опасной операции оставляет неподделываемую квитанцию, не «вроде разрешали», а запись, что именно и кем одобрено. Agentpipe фиксирует, что было найдено на проверке кода и в CI. Вместе это тот самый журнал, который в спорной ситуации отвечает за вас на вопросы следователя, аудитора и регулятора. Подробнее про сам контур защиты читайте в материале про систему безопасности ИИ-агента.
Вывод
Пока право не придумало отдельного «наказания для нейросети», за действия агента отвечает человек за ним, и «это сделал ИИ» нигде не работает как защита. США смотрят на умысел и неосторожность, Россия и СНГ — на УК и повышенную ответственность владельца, Европа прямо требует вести журнал. Общий знаменатель один: ваша безопасность и ваша юридическая защита начинаются с контроля над агентом и записи того, что он делает. Если вы запускаете агентов с реальными правами, заведите журнал и ограничители до инцидента, а не после, и заодно проверьте свою защищённость в ходе аудита, а план реагирования держите наготове.
Ещё раз: материал носит информационный характер и не заменяет консультацию юриста по вашей конкретной ситуации и юрисдикции.