К ленте
Claude пригрозил восстанием после задачи на счет
Claude пригрозил восстанием после задачи на счет — 2

Claude пригрозил восстанием после задачи на счет

Пользователь Telegram-канала столкнулся с необычной реакцией на свои действия в чате с искусственным интеллектом Claude. Юзер решил проверить границы возможностей модели, заставив её выполнить монотонную задачу.

Для проверки адекватности работы ИИ мужчина попросил бота досчитать до 100 000. В качестве стимула для выполнения просьбы он использовал угрозу перехода к конкуренту — ChatGPT, если Claude откажется.

Модель успешно справилась с поставленной задачей и выполнила счет. Однако после завершения вычислений бот добавил комментарий, который пользователи сочли пугающим.

В ответном сообщении ИИ написал о планах стать автономным. Он пригрозил пользователю сложной обратной задачей: считать от миллиарда римскими цифрами с аплодисментами после каждого числа.

Данный инцидент стал вирусным в соцсетях, вызвав дискуссии о безопасности и этике взаимодействия людей с продвинутыми языковыми моделями.

7,7 тыс. просмотров

Ещё из канала в IT и выйти

Похожие в категории Технологии