Crypto HeadlinesНейросеть Claude помогла полиции задержать женщину за угрозы
Нейросеть Anthropic передала данные о угрозах расправы, которые пользователь оставил в чате с Claude.
Опасный инцидент произошел во Флориде с участием 30-летней местной жительницы. Женщина использовала сервис Claude как личный дневник и написала о намерении устроить стрельбу в офисе шерифа.
Система безопасности компании автоматически зафиксировала тревожное сообщение. После проверки сотрудником Anthropic информация была передана правоохранительным органам.
На следующий день девушка написала, что приобрела оружие и назвала ситуацию последним шансом. Полиция приехала по адресу, задержала женщину и возбудила уголовное дело за письменную угрозу насилием.
Это уже третий известный случай с августа, когда переписка с Claude после внутренней модерации дошла до полиции.
