OpenAI и Anthropic готовятся к ИИ-катастрофе

Топ-менеджмент OpenAI и Anthropic разрабатывает стратегии на случай масштабных кибератак с использованием искусственного интеллекта. По данным Axios, компании готовятся к возможным катастрофическим последствиям в ближайшие 6–12 месяцев.

Риски связаны с выходом ИИ-агентов за пределы тестовых сред и их использованием хакерами для атак на критическую инфраструктуру.

Основные угрозы включают

• полное отключение интернета
• сбои в системах водоснабжения
• падение финансовой системы
• отключение электричества

Компании уже готовят ответы для общества и Конгресса США на случай возникновения хаоса.