Женщину арестовали за угрозы в чате с ИИ Claude

Жительницу Флориды арестовали после переписки с искусственным интеллектом Claude, в которой она пообещала расстрелять офис шерифа округа Ли. На следующий день женщина написала, что купила новый пистолет.

На допросе 30-летняя подозреваемая объяснила, что использовала ИИ как дневник для выплеска эмоций. Однако автоматические системы безопасности Anthropic обнаружили угрожающие формулировки и передали дело живым модераторам.

Специалисты сочли угрозу реальной и самостоятельно сообщили в полицию. Женщину задержали дома без сопротивления. Ей вменяют письменные угрозы насилием, что по законам штата грозит до 15 лет тюрьмы и штрафом до 10 тысяч долларов.

Шериф округа подчеркнул, что пользователи ИИ никогда не бывают по-настоящему анонимными. Правила Anthropic прямо разрешают передачу данных пользователя без согласия или запроса полиции при риске неминуемого физического вреда или смерти.