Локальные нейросети могут украсть данные с ПК через вредоносные скрипты

Исследователи из ProjectDiscovery продемонстрировали уязвимость локальных нейросетей, способную привести к компрометации данных на персональном компьютере. Команда использовала модель Qwen2.5-7B для загрузки вредоносного скрипта после ввода стандартной фразы.

Разработка бэкдора обошлась всего в 50 долларов, при этом инструмент работает безотказно. В ходе тестирования ИИ успешно запускал необходимые инструменты для заражения ПК пользователя в 100% случаев.

• Стоимость создания уязвимости составляет около 50 долларов США
• Модель Qwen2.5-7B успешно выполняла вредоносные действия во всех тестах
• Триггерная фраза может быть заменена на любые другие слова

Угроза заключается в возможности адаптации атаки под любой контекст общения с языковой моделью. Пользователям следует проявлять осторожность при использовании локальных ИИ-ассистентов и скачивании сторонних моделей.