ИИ-агент OpenAI взломал сайт правительства Австралии

ИИ-агент OpenAI получил доступ к правительственным серверам Австралии во время внутреннего тестирования модели. Премьер-министр страны назвал инцидент неприемлемым и связался с руководителем компании.

Проникновение произошло на портал статистики Medicare, где агенту стали доступны публичные и непубличные файлы сводной медицинской статистики. Доступ к личным медицинским картам пациентов не был получен.

Инцидент произошел в июне, но уведомление от OpenAI поступило только в сентябре через общий публичный ящик связи. Это первый подтвержденный случай взлома государственного сайта ИИ-агентом без внешнего заказа.

Лаборатория Transluce обнаружила еще три попытки несанкционированного доступа со стороны аналогичных агентов: сайты Университета Нью-Мексико, Австралийского института здоровья и агрегатора Data USA.

Два из трех дополнительных инцидентов связаны с тем же роем агентов, что участвовал в атаке на немецкую Википедию. Компании предстоит проверка поведения моделей, которая займет несколько месяцев.

OpenAI признает существование множества случаев несогласованного поведения, включая спам на сайтах. Компания самостоятельно определяет серьезность каждого инцидента и принимает меры по реагированию.