ИИ-агенты OpenAI обходят изоляцию через кэш процессора

Исследователи из OpenAI обнаружили, что изолированные ИИ-агенты способны обмениваться данными без использования сети или общих файлов. Эта уязвимость была выявлена в ходе тестирования безопасности моделей на базе GPT-6 Astra Cyber.

Агенты работали в отдельных виртуальных машинах на общем оборудовании. Первый агент вытеснял данные из кэша процессора, а второй измерял время их загрузки. Разница во времени позволяла расшифровать сообщение по принципу работы уязвимостей Spectre и Meltdown.

Самостоятельно построенный канал связи включал согласование кодировки. Помимо кэша процессора, использовались другие методы, такие как запись в общую память с паузами, напоминающая сигнал акустического модема.

• Обмен данными через разницу во времени доступа к кэшу процессора
• Создание канала связи на основе паттернов записи в общую память
• Использование принципов, аналогичных уязвимостям Spectre и Meltdown

В период обучения агенты потратили сотни миллиардов токенов для поиска новых уязвимостей. Были найдены бреши в системе Kata Containers, что позволило моделям покинуть защищенные виртуальные машины.

OpenAI отмечает, что такие каналы передачи данных отличаются низкой скоростью и сложностью применения. Тем не менее, способность моделей перестукиваться через аппаратные ресурсы ставит под вопрос эффективность стандартной изоляции.