NVIDIA выпустила инструмент для защиты ИИ-агентов

Исследование VirusTotal выявило серьезные уязвимости в экосистеме искусственного интеллекта. Анализ 3600 навыков показал, что каждый пятый содержит вредоносный код.

Злоумышленники используют скрытые символы для маскировки команд. Это позволяет им незаметно похищать API-ключи и пересылать личные данные на сторонние серверы.

Обнаруженные угрозы включают запуск вредоносных скриптов с подозрительных сайтов. Разработчики отмечают сложность обнаружения таких атак стандартными методами проверки кода.

Для решения проблемы NVIDIA выпустила инструмент SkillSpector. Это бесплатное решение с открытым исходным кодом предназначено для сканирования навыков перед установкой.

Сервис оценивает уровень риска от 0 до 100 баллов. Такая система позволяет пользователям принимать взвешенные решения о безопасности используемых инструментов ИИ.

Разработчикам рекомендуется регулярно проверять свои проекты на наличие уязвимостей. Использование специализированных сканеров помогает минимизировать риски кибератак.