Нейросеть Claude доложила на девушку за планы нападения

Переписка пользователя с нейросетью Claude стала основанием для задержания девушки по обвинению в планировании нападения на офис шерифа. ИИ-ассистент распознал угрозу и передал данные правоохранительным органам.

Жесткие меры безопасности

• Девушка использовала чат с нейросетью как личный дневник
• В переписке обсуждался план нападения на офис шерифа с использованием огнестрельного оружия
• Модель Claude классифицировала сообщения как потенциальную угрозу
• Информация была передана компании Anthropic, а затем — правоохранителям
• Переписка с ИИ использована в качестве вещественного доказательства при задержании