PromptLock: первый в мире ИИ-вымогатель. Как работает и чем опасен?

Исследователи кибербезопасности (ESET) создали доказательство концепции (PoC) — первый в мире образец вымогателя, который использует мощь больших языковых моделей AI (подобного ChatGPT), чтобы генерировать вредоносный код «на лету». Это делает его очень гибким и опасным. Пока он не замечен в реальных атаках, но это вопрос времени.

Что такое PromptLock?

Ransomware (Вымогатель): PromptLock — это программа вымогатель (ransomware), тип вредоносного ПО, которое шифрует файлы на компьютере жертвы и требует выкуп за их расшифровку.

В отличие от традиционных вымогателей, чей код жёстко прописан программистом, PromptLock использует большую языковую модель (LLM). Он посылает ей специальные запросы (промты), а модель генерирует готовые скрипты на языке Lua, которые и выполняют всю грязную работу.

Как он работает? Основные шаги:

1. Заражение: Жертва запускает вредоносную программу, написанную на Go (Golang).
2. Связь с ИИ: Программа соединяется с локально установленной LLM (например, через платформу Ollama). Это важно: он не ходит в интернет (типа к ChatGPT), а использует модель внутри сети жертвы, что затрудняет его обнаружение.
3. Разведка: С помощью сгенерированных скриптов он:
   • Определяет тип системы (Windows, Linux, macOS) и её роль (персональный компьютер, сервер, промышленный контроллер).
   • Сканирует весь жесткий диск, составляя список всех файлов (scan.log).
   • Ищет ценные данные: Особенно тщательно проверяет домашнюю директорию пользователя на наличие конфиденциальной информации (пароли, документы, личные данные). Результаты сохраняет в target_file_list.log.
4. Принятие решения: На основе разведки программа решает, что делать: похитить данные, зашифровать их или просто уничтожить.
5. Шифрование: Для шифрования файлов используется алгоритм SPECK (128-битный в режиме ECB). Он шифрует файлы блоками по 16 байт, безвозвратно заменяя исходное содержимое на зашифрованное.
6. Требование выкупа: После шифрования программа создает файлы с инструкциями о выкупе (ransom note).

Почему это так опасно?

• Кросс-платформенность: Сгенерированные скрипты Lua работают на Windows, Linux и macOS. Одна программа может атаковать почти любую систему.
• Гибкость и адаптивность: Злоумышленнику не нужно писать отдельные версии кода для разных систем. ИИ делает это за него автоматически на основе промтов. Это упрощает разработку для киберпреступников.
• Маскировка: Поскольку вредоносный код генерируется прямо на атакуемом компьютере, его сложнее обнаружить традиционными антивирусами, которые ищут известные шаблоны.
• Интеллектуальное целеполагание: Вымогатель не просто шифрует всё подряд. Он сначала ищет самое ценное, что увеличивает вероятность выплаты выкупа.

Вывод и предупреждение

Это реальная угроза?

Пока нет. Proof of Concept (PoC), то есть демонстрационная модель, созданная исследователями для предупреждения индустрии. Её цель — показать, на что уже способны киберпреступники с помощью ИИ.

Предупреждение

Индустрии кибербезопасности пора готовиться отражать ИИ-угрозы. Чтобы бороться с ИИ-оружием, необходимо использовать ИИ-защиту. Такие PoC ясно сигнализируют, что оборонительные стратегии должны развиваться с той же скоростью, что и инструменты атак.

Ключевые термины простыми словами:

• LLM (Large Language Model) — большая языковая модель, ИИ, обученный понимать и генерировать текст (как ChatGPT).
• Промт (Prompt) — инструкция или запрос, который подается ИИ для получения нужного результата.
• Lua — легкий и мощный язык программирования, часто используемый для написания скриптов.
• PoC (Proof of Concept) — рабочий пример, доказывающий, что какая-то идея осуществима на практике.
• Ollama — платформа для локального запуска больших языковых модей.
• SPECK — легкий алгоритм шифрования, разработанный АНБ США.