Безопасность RAG-систем — это проверка приложений, где языковая модель отвечает на основе вашей базы знаний (Retrieval-Augmented Generation). Такие системы подтягивают документы во время ответа, и именно эти документы становятся каналом атаки: через них проходят косвенные prompt-инъекции, а слабая изоляция приводит к утечке чужих данных. Мы тестируем всю цепочку — от загрузки документа до ответа модели.
Что мы проверяем в RAG
RAG расширяет модель внешними знаниями — и вместе с ними расширяет поверхность атаки:
- Косвенные prompt-инъекции через документы, попавшие в базу знаний.
- Отравление базы знаний — подмена и внедрение вредоносных источников.
- Утечка чужих документов — обход разграничения доступа к источникам.
- Нарушение прав на уровне данных — доступ к контенту вне разрешений пользователя.
- Утечка через эмбеддинги и векторную базу.
- Раскрытие конфиденциальных фрагментов в ответах модели.
Как проходит тестирование
Мы строим карту источников знаний и прав доступа к ним, проверяем каждый канал загрузки данных на возможность инъекции, тестируем изоляцию между пользователями и арендаторами, и доводим найденные проблемы до реальной утечки или захвата поведения модели. Все находки воспроизводим пошагово.
Стандарты и методологии
Работаем по признанным методологиям безопасности ИИ:
- OWASP Top 10 for LLM Applications (2025) — эталонные риски LLM.
- OWASP Agentic Security — риски автономных агентов.
- MITRE ATLAS — тактики и техники атак на ML.
- NIST AI Risk Management Framework — управление рисками ИИ.
Что вы получаете
Отчёт с картой рисков RAG-конвейера, подтверждёнными сценариями утечки и инъекций, оценкой воздействия и рекомендациями по изоляции данных, фильтрации источников и валидации. Бесплатный ретест после доработок.
Смежные услуги: пентест ИИ и LLM-приложений, безопасность ИИ-агентов.