Стартап Cathedral взломал системы Anthropic с помощью AI-агентов

Стартап Cathedral, основанный бывшими сотрудниками ведомства D.O.G.E., успешно взломал внутренние системы компании Anthropic менее чем за 12 часов. Исследователи использовали AI-агентов для поиска уязвимостей в корпоративных инфраструктурах разработчика популярной модели Claude.

В ходе инцидента злоумышленники получили доступ к конфиденциальной информации, включая внутреннюю переписку, записи совещаний, данные о зарплатах сотрудников и обсуждения передовых моделей искусственного интеллекта.

Инцидент вызвал серьезную обеспокоенность на высшем государственном уровне. Представитель Белого дома отметил, что если подобный взлом могут осуществить создатели нового стартапа, то аналогичную угрозу представляют и другие государства, такие как Китай.

Компания Anthropic подтвердила факт ограниченного доступа к внутренним данным. При этом разработчики подчеркнули, что исходный код, веса моделей и личная переписка пользователей Claude остались в безопасности.

Стоит отметить, что исследование проводилось в рамках официальной программы поиска уязвимостей (bug bounty program) Anthropic, что указывает на использование легитимных методов тестирования безопасности.