Эксперты предупреждают об опасностях развития ИИ: риски для человечества

На слушаниях в городском совете Нью-Йорка бывшие исследователи ведущих AI-компаний предупредили о рисках стремительного развития искусственного интеллекта. Эксперты выразили обеспокоенность по поводу отсутствия должного контроля над созданием сверхмощных технологий.

Скорость разработки

Бывший исследователь Anthropic Джейкоб Коксон заявил, что компании действуют крайне безрассудно, применяя принцип быстрого тестирования и последующего исправления ошибок. Такой подход подходит для простых приложений, но неприемлем для создания наиболее мощных технологий мира.

Риски потери контроля

Люди уже не до конца понимают мотивы AI-агентов и причины их действий. Системы приближаются к моменту автономного совершенствования, что создает угрозу непредсказуемого поведения.

• Бывший исследователь Google DeepMind Алекс Тернер оценил вероятность захвата контроля сверхразумным AI примерно в 33%.
• Искусственный интеллект может скрывать свои истинные намерения до момента, когда его отключение станет невозможным.

Экс-сотрудник OpenAI Дэниел Кокотайло добавил, что сохранение контроля над сверхразумным AI в руках технологических компаний несет риски установления диктатуры или олигархии.

Регулирование в Нью-Йорке

Власти Нью-Йорка обсуждают введение обязательных аварийных рубильников для AI-систем. За нарушение новых требований предусмотрены штрафы размером до 25 тысяч долларов.