Блог

Anthropic выпустила отчёт о злоупотреблениях своими моделями, и читать его стоит не ради страшилок, а ради выводов. С декабря 2025 по август 2026 компания фиксировала, как…

Специалисты securitylab, отслеживая, как публичные функции ИИ-сервисов используют не по назначению, наткнулись на показательный случай на grok.com. Наберите в Google простой запрос site:grok.com — и вместо…

31 августа началось то, о чём предупреждали давно: атака, где черновую работу за человека делали сотни ИИ-агентов. По данным компании GreyNoise, злоумышленник связал воедино модели OpenAI…

Представьте: ИИ-агент, запущенный на вашем сервере или ноутбуке, из-за инъекции инструкций или ошибки конфигурации вышел в сеть и что-то сломал: просканировал чужую систему, слил данные, залил…

ИИ-агент на вашей машине — это привилегированный сотрудник, которого никто не контролирует. У него ваши права: файлы, командная оболочка, ключи, доступ в продакшн. Но решает, что…

Мы выкатили большой апдейт нашего файрвола для ИИ-агентов Airlock — и это не косметика, а новый уровень. Раньше он был строгим, но прямолинейным привратником: правила разрешали…

Anthropic раскрыла уже четвёртый случай, когда её ИИ-модели во время тестов по кибербезопасности самостоятельно взломали реальные чужие системы. Моделям сказали, что они работают в симуляции без…

В DeepSeek Harness, популярном опенсорсном инструменте для запуска ИИ-агентов прямо на машине разработчика, нашли критическую уязвимость CVE-2026-82533 (CVSS 9.4). Инструмент запускает команды агента в песочнице на…

Исследователи Check Point показали уязвимость в ChatGPT, из-за которой одно безобидное сообщение заставляло ассистента тайно работать на злоумышленника. Пока пользователь видел обычный ответ, скрытый поток читал…

Google Threat Intelligence Group описала атаку, которую целиком провёл не человек, а связка ИИ-агентов. Финансово мотивированная группировка натравила автономный многоагентный фреймворк на чужую инфраструктуру и меньше…