MLSecOps: безопасность ML-пайплайна от данных до продакшена
MLSecOps — безопасность на каждом этапе ML: данные, обучение, хранение весов, инференс. Как защитить конвейер машинного обучения от отравления, кражи и supply chain атак.
// archive
Category: Искусственный интеллект
Безопасность ИИ по 152-ФЗ и требованиям регуляторов
Что регуляторика требует от ИИ-систем: защита персональных данных по 152-ФЗ, оценка рисков по NIST AI RMF и ISO 42001, подходы EU AI Act.
Джейлбрейки LLM: как обходят ограничения языковых моделей
Как устроены джейлбрейки языковых моделей: ролевые сценарии, кодирование, многоходовые атаки и обфускация — и почему guardrails не панацея.
Безопасность RAG: как защитить базу знаний ИИ от утечек и инъекций
Как устроены атаки на RAG-системы и как защитить базу знаний ИИ: изоляция документов, фильтрация источников, защита векторной базы и эмбеддингов.
Как защитить ИИ-агента: 7 практических правил безопасности
7 практических правил защиты ИИ-агентов с доступом к инструментам и API: от принципа минимальных привилегий до защиты от косвенных инъекций и мониторинга действий.
Prompt-инъекции: как работают атаки на LLM и как защититься
Разбор главной угрозы ИИ-приложений — prompt-инъекции: прямые и косвенные, реальные последствия и практические способы защиты.
Как атакуют LLM: разбор OWASP Top 10 для LLM 2025
Полный разбор OWASP Top 10 for LLM 2025: все десять угроз ИИ-приложений — от prompt-инъекций до неограниченного потребления ресурсов — с объяснением атак и способов защиты.
Как ИИ перестраивает киберзащиту: практическое руководство для СISO в 2025
Как ИИ перестраивает киберзащиту: практическое руководство для СISO в 2025 2025 год стал точкой невозврата для корпоративной кибербезопасности.Искусственный интеллект теперь не просто инструмент автоматизации — он…
Первая крупномасштабная кибератака с использованием ИИ почти без участия человека
Первая крупномасштабная кибератака с использованием ИИ почти без участия человека Китайские хакеры, связанные с государственными структурами, использовали инструмент Claude Code от Anthropic для проведения масштабной шпионской…
SecureVibes — ИИ-инструмент для автоматической проверки безопасности кода
SecureVibes — ИИ-инструмент для автоматической проверки безопасности кода SecureVibes, созданный разработчиком Аншуманом Бхартьей (Anshuman Bhartiya), использует Claude AI от Anthropic через многоагентную систему для автоматического обнаружения…