Потери Bank of America из-за внедрения ИИ-модели Claude

Банк Америки внедрил ИИ-модель Claude для оптимизации расходов, что привело к непредвиденным последствиям. Система выявила множество уязвимостей в процессах, требующих срочного устранения.

Для решения возникших проблем финансовому институту пришлось оперативно привлечь около тысячи дополнительных подрядчиков. Это произошло на фоне уже имеющейся команды из трех тысяч штатных специалистов в соответствующей области.

Финансовые потери банка от устранения обнаруженных проблем составили сотни миллионов долларов. Инцидент демонстрирует риски внедрения генеративного искусственного интеллекта в корпоративную инфраструктуру без должной предварительной проверки безопасности.