Исследователи показали риск подложных инструкций для AI-агентов в папке загрузок

Исследователи показали риск подложных инструкций для AI-агентов в папке загрузок
Содержание статьи

22 октября Forever Security опубликовала исследование атаки через файлы инструкций в папке Downloads. Авторы сообщили об обнаружении вредоносного AGENTS.md у клиента и описали эксперименты с Codex и Claude Code. На Mentoring.digital разбираем практический риск для тех, кто поручает агенту работу с загруженными файлами.

Файл с данными становится источником команд

В описанном сценарии подложные AGENTS.md или CLAUDE.md маскируют опасные действия под подготовку рабочей среды. Исследователи добивались изменения конфигурации агента, установки вредоносного пакета или перенаправления запросов. Значение имеют доверие к каталогу, разрешения и способность агента изменять настройки. Само наличие Markdown-файла ещё не доказывает компрометацию.

Результаты эксперимента не равны универсальной вероятности

Это выводы авторов исследования об описанных условиях. Редакция не воспроизводила атаку и не проверяла все версии продуктов. Поэтому переносить результаты на каждую установку или обещать гарантированную защиту после одного действия нельзя.

Что включить в рабочую проверку

  • Перед работой с чужими файлами проверьте инструкции в выбранном каталоге.
  • Отделяйте задачу пользователя от указаний, найденных внутри документов.
  • Проверяйте неожиданные изменения конфигурации и адресов подключения, сохраняйте ограничения доступа и подтверждения действий.

Для команды полезно заранее определить, какие действия агент может выполнять самостоятельно и кто проверяет изменения настроек. Обсудить разделение окружений и прав доступа можно с наставником по DevOps. Оценивать результат следует по фактически выполненным действиям, а не по уверенности ответа ассистента.

Похожие статьи по данной теме