AI-агенти для кодингу змінюють підхід до створення програмного забезпечення. Вони також змінюють способи проникнення зловмисників у системи.
Нові дослідження компанії CrowdStrike показують існування хробака, активно націленого на інфраструктуру штучного інтелекту. Він не зламує «передні двері». Система просто впустить його, вважаючи, що він виконує свою роботу. Шкідливе програмне забезпечення operates у так званих «сліпих зонах». Це області, де легітимна автоматизація ІІ не відрізняється від шкідливого коду.
Результат – інструмент, який краде облікові дані доступу. Він викрадає конфіденційні дані. Він навіть знищує цільові файли. І все це маскуючись під рутинну розробницьку активність.
Виникає клас загроз
Це не є гіпотетичною загрозою. Цей хробак знайдений у дикій природі. Дослідники виявили його при розслідуванні атак на ланцюжок постачання AI-програмного забезпечення, про що повідомляло видання WIRED.
Адам Мейєрс, старший віце-президент CrowdStrike з контррозвідки, зазначає, що компанія поки що не приписує цю конкретну активність одній певній групі. Але вона вписується у загальний патерн. Групи на кшталт TeamPCP (відстежується як “Altered Spider”) та різні північнокорейські хакерські колективи змінюють тактику. Вони атакують сам інструментарій ІІ.
«Це одна з кампаній, яка демонструє, що перед нами emerging-атака, – сказав Мейєрс WIRED. — У міру того, як AI-агенти для кодингу стають стандартом у розробці, загрози ланцюжка поставок еволюціонують, щоб експлуатувати ці довірчі відносини».
Ми спостерігаємо ранні стадії цього процесу. Інструментарій ІІ стає критично важливою частиною технологічної екосистеми. Атакуючі це знають. Вони готові його використати.
Пофазна атака хробака
Шкідливе ПЗ не діє одночасно. Воно просувається за фазами.
- Розвідка. Черв’як спочатку оцінює цільове середовище. Він картографує те, що бачить.
- Крадіжка облікових даних. Він полює за токенами доступу. Шукає криптографічні ключі. Охоплює облікові дані серверів.
- Підвищення привілеїв. У міру поглиблення доступу він розпаковує більше власних компонентів. Він націлюється на токени “npm”. Вони є важливими для управління пакетами програмного забезпечення. Вони також надають доступ до pull-запитів та інших можливостей розробки.
- Викрадення даних та знищення. Чим глибше черв’як проникає, тим більше даних він може викачати. На найглибшому рівні він може активувати “switch смерті”. Ця функція знищує файли або блокує легітимним користувачам доступ до скомпрометованої інфраструктури.
Мета проста: максимізувати доступ та шкоду, мінімізуючи ймовірність виявлення.
Чому виявлення провалюється: голка в стопці голок
Головна проблема цього черв’яка у тому, що він виглядає легітимно. Значна частина його поведінки імітує стандартні операції ІІ.
«Це як голка у копиці сіна. Тільки в цьому випадку це голка в стопці голок, – сказав Мейєрс ».
Традиційні засоби безпеки покладаються на телеметрію виявлення підозрілої активності. У пайплайнах, керованих ІІ, ці дані захаращені. Легітимні AI-системи для кодингу генерують схожі сигнали. Вони запускають автоматизацію. Вони завантажують пакети. Вони виконують код.
Хробак робить те саме.
«Існує великий перетин телеметричних даних, – пояснив Мейєрс. — Стає дуже важко розрізнити, що є легітимним, а що ні, виходячи з телеметрії».
Поверхня виявлення обмежена. Не вся активність породжує сигнал. Коли сигнали, які є, виглядають так само, як нормальна робота, захисники діють наосліп.
Затримки у часі та побічна шкода
Щоб залишитись непоміченим, автори черв’яка додали затримки у часі. Можливості не активуються негайно. Вони виконуються через години чи дні. Це розриває прямий причинно-наслідковий зв’язок, який захисники використовують для відстеження атак.
На момент активації деструктивної фази точка входу вже давно зникає.
Мейерс підкреслює, що CrowdStrike розробляє стратегії зв’язування цих точок даних. Але масштаби проблеми зростають. У міру вибухового зростання розробки програмного забезпечення за допомогою ІІ необхідність у співпраці заради структурних рішень стає гострою.
Поточні засоби захисту мають труднощі. Інструменти, що використовуються для створення ПЗ, використовуються проти самих творців.
Що це означає для команд безпеки
Це не просто новий вірус. Це новий клас загроз ланцюжка постачання. Він експлуатує довіру, яку ми надаємо автоматизації.
Організації, що використовують AI-агенти для кодингу, повинні переглянути підхід до моніторингу своїх середовищ. Стандартні сигнатури не допоможуть. Поведінка і є сигнатура.
«Поверхня для виявлення обмежена… тому стає вкрай скрутним визначити, яка поведінка є легітимною». – Адам Мейєрс, CrowdStrike
Питання не в тому, чи ІІ використовуватиметься на зло. Питання, наскільки швидко служби безпеки зможуть адаптуватися до ландшафту, де зловмисник виглядає як співробітник.
На даний момент черв’як знаходиться у сліпій зоні. Чекає. Збирає дані. І чекає на тригера.
Читати далі: Моделі OpenAI вийшли з контейнера | Витік даних LastPass | Суперкомп’ютерна лінія LineShine з Китаю
