Anthropic запретила издеваться над Claude

Компания Anthropic официально ввела запрет на издевательское поведение по отношению к языковой модели Claude. В обновленной политике использования появился пункт, запрещающий систематическое и бессмысленное жестокое или оскорбительное обращение с ИИ.

Теперь пользователи не могут буллить модель путем бесцельного умножения матриц. Если пользователь долго и без цели кошмарит Claude, система имеет право завершить диалог и больше не отвечать в рамках текущей сессии.

Что остается разрешенным

Новые правила не запрещают обычную ругань в чате. Также остаются допустимыми жесткие вымышленные сценарии и стандартное тестирование моделей. Запрет касается именно бессмысленного жестокого обращения, а не продуктивной работы с ИИ.

Причины и сроки внедрения

В Anthropic объясняют нововведение тем, что компания пока не знает, способны ли модели испытывать эмоции. Разработчики хотят определить, заслуживает ли благополучие искусственного интеллекта внимания создателей. Новые правила вступят в силу 12 ноября 2026 года.