COINNEWSAI-ассистент Claude передал данные девушки полиции за угрозы
Система безопасности ИИ-ассистента Claude сработала как инструмент мониторинга угроз, передав данные пользователя правоохранительным органам.
Жительница Флориды использовала чат-бота в качестве личного дневника. В одном из сообщений она написала о намерении купить оружие и расстрелять офис шерифа.
Алгоритм распознал текст как потенциальную угрозу и автоматически передал информацию разработчику Anthropic. Компания, проанализировав контекст, уведомила полицию о возможных преступлениях.
Девушке предъявили обвинение в письменной угрозе насилием. Во Флориде это квалифицируется как преступление второй степени.
Переписка с искусственным интеллектом была приобщена к уголовному делу в качестве вещественного доказательства.
2,8 тыс. просмотров
