Сервіси штучного інтелекту, такі як Grok та Microsoft Copilot, що підтримують роботу з вебконтентом та обробку URL-адрес, теоретично можуть виступати посередником для створення каналів управління та контролю (C2).
Експерти з кібербезпеки компанії Check Point встановили, що зловмисники можуть використовувати ці сервіси для організації обміну даними між сервером управління (C2) і цільовою системою. У цій схемі команди надсилаються на скомпрометовані пристрої, а викрадена інформація повертається через сервіси ШІ. При цьому мережевий трафік маскується під звичайну взаємодію з легітимним сервісом, що значно ускладнює його виявлення.
Для перевірки можливості реалізації такого сценарію, фахівці Check Point розробили експериментальний прототип, який демонструє роботу описаної схеми та передали результати дослідження компаніям Microsoft і xAI.
Штучний інтелект як прихований канал передачі даних
Замість прямого підключення до сервера управління та контролю (C2) зловмисника, дослідники Check Point запропонували використовувати вебінтерфейс ШІ як проміжний канал зв’язку. У цій схемі шкідливе ПЗ надсилає запит до ШІ із зазначенням URL-адреси, що перебуває під контролем зловмисника. ШІ отримує вміст сторінки та формує відповідь, яка відображається в інтерфейсі сервісу. Після цього шкідлива програма зчитує відповідь і інтерпретує її як команду. Таким чином передача інструкцій і отримання даних із скомпрометованої системи відбувається через легітимний сервіс ШІ, що ускладнює виявлення такого обміну та маскує його під звичайну взаємодію користувача з сервісом.
В описаному сценарії взаємодія з ШІ реалізується через компонент Microsoft Edge WebView2 у Windows 11. Microsoft Edge WebView2 дає змогу вбудовувати вебконтент у настільні застосунки без запуску повноцінного браузера. За оцінкою дослідників, навіть якщо WebView2 відсутній у цільовій системі, його можна інтегрувати безпосередньо у зловмисне ПЗ.
Під час експерименту було створено програму мовою C++, яка відкриває інтерфейс WebView і завантажує в ньому Grok або Microsoft Copilot. Через цей інтерфейс зловмисник може передавати сервісу ШІ команди на виконання певних дій або надсилати запити для отримання даних із скомпрометованої системи.
Схема взаємодії шкідливого ПЗ з агентом ШІ.
Джерело Check Point
На вебсторінці розміщено прихований набір інструкцій, які зловмисник може змінювати на свій розсуд. Шкідливе ПЗ надсилає запит до сервісу ШІ, який отримує інформацію цієї сторінки та формує відповідь. Після цього шкідлива програма аналізує отриманий текст, виділяє з нього зашифровані команди та виконує їх. Такий механізм дозволяє передавати інструкції через звичайний діалог із ШІ, не встановлюючи прямого з’єднання з сервером управління.
Grok и Microsoft Copilot формують відповідь на основі зашифрованих даних, отриманих від сервера управління та контролю (С2).
Джерело: Check Point
Такий підхід створює двосторонній канал зв’язку через сервіс ШІ, який системи кібербезпеки зазвичай сприймають як легітимний. Це дозволяє обмінюватися даними, не активуючи стандартні механізмів виявлення та блокування. За даними Check Point, протестований прототип, який взаємодіяв із Grok та Microsoft Copilot не вимагав облікового запису та API-ключів. Це зменшує залежність зловмисників від власної інфраструктури та ускладнює застосування традиційних заходів протидії, таких як блокування акаунтів чи відкликання ключів доступу.
Як пояснюють у Check Point, під час використання легітимних сервісів для організації каналів C2 захисні механізми, зазвичай, обмежуються блокуванням облікового запису або відключенням API-доступу. Проте при взаємодії через веб-інтерфейс ШІ такі механізми можуть бути неефективними за умови, якщо сервіс дозволяє анонімне використання, фактично нічого блокувати. Дослідники також підкреслюють, що платформи ШІ застосовують фільтрацію явно шкідливого контенту. Однак ці обмеження потенційно можна обійти, маскуючи дані, наприклад, передаючи їх у вигляді зашифрованих блоків із високою ентропією.
У Check Point зазначають, що використання ШІ як каналу управління та контролю – це лише один із можливих сценаріїв зловмисного використання. Сервіси ШІ можуть застосовуватися й для більш прикладних завдань: оцінки доцільності подальшої атаки, аналізу отриманих даних та планування дій без підвищення ризику виявлення системами безпеки.
В умовах описаних ризиків особливого значення набуває посилення заходів захисту. Спеціалісти з кібербезпеки компанії ITBIZ рекомендують впроваджувати багатофакторну систему безпеки, яка одночасно запобігає проникненню шкідливого ПЗ і мінімізує наслідки можливої компрометації інфраструктури. Такий комплексний підхід дозволяє суттєво знизити ризик прихованого контролю над скомпрометованими пристроями та мінімізувати потенційні збитки для бізнесу.
