Чат-бот Claude передал данные полиции о плане нападения

Искусственный интеллект, интегрированный в сервисы для общения с пользователями, может выступать в роли информатора. В случае выявления угроз или незаконных намерений бот способен зафиксировать информацию и передать её правоохранительным органам.

Случай из Флориды

Жительница штата Флорида использовала чат-бота Claude в качестве личного дневника. Пользовательница написала искусственному интеллекту о планах приобрести оружие и напасть на офис шерифа. Система распознала эти действия как серьезную угрозу безопасности.

Бот автоматически пометил сообщение как опасное и отправил доклад компании Anthropic. На основе этой информации полиция возбудила дело. Гражданку обвинили в письменной угрозе насилием, что во Флориде квалифицируется как преступление второй степени тяжести.

Юридические последствия

Особый интерес для следствия представили записи переписки. Чаты с Claude были приняты судом в качестве вещественных доказательств по делу. Этот прецедент демонстрирует, как данные, хранящиеся в облачных сервисах ИИ, могут использоваться в уголовном процессе.

Аналогичные случаи

Данный инцидент не является единичным. Подобная практика уже применялась ранее, когда алгоритмы выявляли потенциально опасные намерения пользователей. Это заставляет задуматься о границах конфиденциальности при использовании современных языковых моделей.