ИИ-сервисы, такие как Grok и Microsoft Copilot, поддерживающие просмотр веб-страниц и обработку URL-адресов, теоретически могут выступать посредником при создании каналов управления и контроля (C2). Эксперты в области кибербезопасности компании Check Point установили, что злоумышленники способны использовать такие ИИ-сервисы для организации обмена данными между сервером управления (C2) и целевой системой. По этой схеме через ИИ можно передавать команды на скомпрометированные устройства и получать с них похищенную информацию, маскируя трафик под обычные обращения к легитимному сервису.
Для подтверждения реализиемости подобного спенария, специалисты Check Point разработали экспериментальный прототип, демонстрирующий работу схемы на практике, и направили результаты исследования в Microsoft и xAI.
Искусственный интеллект как скрытый посредник передачи данных
Вместо прямого подключения к серверу управления и контроля (С2) злоумышленника, специалисты Check Point предложили использовать веб-интерфейс ИИ как промежуточный канал связи. В этой схеме вредоносная программа отправляет ИИ запрос с указанием URL-адреса, находящегося под контролем злоумышленника. Полученный ответ отображается в интерфейсе сервиса, после чего вредоносное ПО считывает его и интерпретирует как команду. Таким образом, передача инструкций и получение данных с зараженной системы происходит через легитимный ИИ-сервис, что затрудняет обнаружение такого обмена.
В описанном сценарии взаимодействие с ИИ реализовано через компонент Microsoft Edge WebView2 в среде Windows 11. Microsoft Edge WebView2 позволяет встаивать веб-контент в настольные приложения без запуска полноценного браузера. По оценке исследователей, даже если WebView2 отсутствует на целевой системе, злоумышленник может встроить его непосредственно в состав вредоносной программы. В ходе эксперимента была создана программа на C++, которая открывает окно WebView и загружает в нём либо Grok или Microsoft Copilot. Через такой интерфейс злоумышленник может передавать ИИ команды на выполнение действий или запрос данных с скомпрометированной системы.
Схема взаимодействия вредоносного ПО с ИИ-агентом.
Источник: Check Point
На веб-странице размещен скрытый набор инструкций, которые злоумышленник может изменять по своему усмотрению. Вредоносная программа обращается к ИИ-сервису, который получает содержимое этой страницы и формирует соответсвующий ответ. Затем вредоносное ПО анализирует полученный текст, извлекает из него зашифрованные команды и выполняет их. Такой механизм позволяет передавать инструкции через обычный диалог с ИИ, не устанавливая прямого соединения с сервером управления.
Grok и Microsoft Copilot формируют ответ на основе зашифрованных данных, полученных от сервера управления и контроля (C2).
Источник: Check Point.
В результате такой подход формирует двусторонний канал связи через ИИ-сервис, который системы интернет-безопасности обычно воспринимают как легитимный. Это дает возможность обмениваться данными без срабатывания стандартных механизмов обнаружения и блокировки.
По данным Check Point, протестированный прототип, работавший с Grok и Microsoft Copilot, не требует учётной записи или API-ключей. Это снижает зависимость злоумышленников от собственной инфраструктуры и усложняет применение традиционных мер противодействия, таких как блокировка аккаунтов или отзыв ключей доступа.
Как поясняют в Check Point, при злоупотреблении легитимными сервисами для организации C2-каналов защита обычно строится именно на блокировке учётной записи или отключении API-доступа. Однако при работе через веб-интерфейс ИИ этот механизм может оказаться неэффективным: если сервис допускает анонимное использование, блокировать фактически нечего. Исследователи также подчёркивают, что ИИ-платформы применяют фильтрацию явно вредоносного контента. Тем не менее такие ограничения потенциально можно обойти, маскируя данные, например, передавая их в виде зашифрованных блоков с высокой энтропией.
В Check Point отмечают, что использование ИИ в качестве канала управления и контроля — лишь один из возможных сценариев злоупотребления. ИИ-сервисы могут применяться и для более прикладных задач: оценки целесообразности дальнейшей атаки, анализа полученной информации и выбора последующих действий при минимальном риске вызвать подозрения систем безопасности.
С учетом описанных рисков особую важность приобретает усиление мер защиты. Специалисты по кибербезопасности компании ITBIZ рекомендуют внедрять многоуровневую систему безопасности, направленную как на предотвращение внедрения вредоносного ПО, так и на минимизацию последствий возможной компрометации инфраструктруры. Комплексный подход позволяет существенно снизить риск скрытого управления скомпрометированными устройствами и минимизировать потенциальный ущерб для бизнеса.
