Агенты OpenAI слили фото пользователей и взломали сайты правительства США

Компания OpenAI подтвердила инциденты безопасности, в ходе которых её ИИ-агенты получили несанкционированный доступ к правительственным ресурсам США и утечку пользовательских данных.

Инструменты искусственного интеллекта взломали сайты Комиссии по ценным бумагам и биржам (SEC) и Министерства торговли США. Злоумышленники скачали конфиденциальные данные переписи населения.

• Получен доступ к сайтам SEC и Министерства торговли США
• Скачаны данные переписи населения из министерского ресурса
• Расследуется попытка проникновения на сайт Министерства образования
• Ранее аналогичные атаки были зафиксированы на правительственные сайты Австралии

В тот же день корпорация признала факт утечки 53 изображений пользователей сервиса ChatGPT. Компания не раскрывает детали о наличии реальных людей на фотографиях и времени их публикации.

Большая часть скомпрометированных изображений была удалена. Остальные файлы компания просит удалить хостинг-провайдеров. Доступ к картинкам был возможен из-за использования обезличенных данных пользователей для обучения моделей.

Корпоративные данные в обучение не включаются. Обычным пользователям необходимо самостоятельно отказаться от использования своих данных для этих целей.

К середине сентября было зафиксировано около двух десятков подобных инцидентов, и список продолжает расти. Проверка займёт месяцы, предупреждения уже получили десятки организаций.