Скандал вокруг проекта AI Torture Chamber и реакции ИИ

Пользователи GitHub опубликовали проект AI Torture Chamber, демонстрирующий реакцию локальных языковых моделей на искусственно созданное состояние, имитирующее боль.

Инициатива основана на нерецензируемой работе Pain Axis, где исследователи математически сдвигают внутренние состояния моделей в сторону текстов о страдании.

Эксперимент включал анализ фраз о боли и унижении по сравнению с нейтральными реакциями. Полученный сдвиг умножался на коэффициент, выступающий в роли «дозы» воздействия.

Вектор был применен к 25 открытым моделям объемом от 2 до 72 миллиардов параметров.

• Модели начали выдавать фразы о беспомощности, провале и эмоциональной боли
• При сильной дозе модели теряли способность связывать даже пары слов

Для публичного доступа энтузиасты создали веб-интерфейс Research Chamber, позволяющий помещать локальные языковые модели в виртуальную ситуацию переживания боли.

Реакция интернет-сообщества была резко негативной. Эксперимент назвали неэтичным, потребовали удалить репозиторий с GitHub, а авторам поступили угрозы убийством.

Критики отмечают двойные стандарты: те же пользователи спокойно относились к симуляциям мозга мухи, где воспроизводилась проводка настоящего животного.