Agen pengkodean AI mengubah cara perangkat lunak dibangun. Mereka juga mengubah cara penyerang masuk.
Penelitian baru dari CrowdStrike mengungkapkan worm yang secara aktif menargetkan infrastruktur AI. Itu tidak mendobrak pintu depan. Ia masuk karena sistem menganggap ia melakukan tugasnya. Malware ini beroperasi di tempat yang oleh para peneliti disebut sebagai “titik buta”. Ini adalah area di mana otomatisasi AI yang sah terlihat identik dengan kode berbahaya.
Hasilnya adalah alat yang mencuri kredensial akses. Ini mengekstraksi data sensitif. Bahkan menghancurkan file target. Semuanya tampak seperti aktivitas pengembangan rutin.
Kelas Serangan yang Muncul
Ini bukanlah ancaman hipotetis. Cacing ini ditemukan di alam liar. Para peneliti mengungkapnya saat menyelidiki serangan rantai pasokan perangkat lunak AI, seperti dilansir WIRED.
Adam Meyers, Wakil Presiden Senior Counter Adversary Work CrowdStrike, mencatat bahwa perusahaan belum menyematkan aktivitas spesifik ini pada satu grup. Tapi itu cocok dengan suatu pola. Grup seperti TeamPCP (dilacak sebagai “Altered Spider”) dan berbagai aktor Korea Utara sedang mengubah taktik. Mereka menargetkan rantai alat AI itu sendiri.
“Ini adalah salah satu kampanye yang kami lihat menunjukkan bahwa ini adalah serangan yang baru muncul,” kata Meyers kepada WIRED. “Ketika agen pengkodean AI menjadi standar dalam pengembangan, ancaman rantai pasokan berevolusi untuk mengeksploitasi hubungan kepercayaan tersebut.”
Kami sedang melihat tahap awal dari hal ini. Toolchain AI menjadi bagian penting dari ekosistem teknologi. Penyerang mengetahuinya. Mereka siap menyalahgunakannya.
Serangan Cacing Tahap demi Tahap
Malware tidak bertindak sekaligus. Itu bergerak secara bertahap.
- Pengintaian. Worm pertama-tama menilai lingkungan target. Ia memetakan apa yang dilihatnya.
- Pencurian Kredensial. Ia memburu token akses. Ini mencari kunci kriptografi. Ini mengambil kredensial server.
- Eskalasi Hak Istimewa. Semakin banyak akses yang diperoleh, maka semakin banyak pula hal yang akan terungkap. Ini menargetkan token “npm”. Ini sangat penting untuk manajemen paket perangkat lunak. Mereka juga memberikan akses ke permintaan penarikan dan kemampuan pengembang lainnya.
- Pembuangan & Penghancuran Data. Semakin dalam, semakin banyak data yang dapat diambil. Pada tingkat terdalam, ia dapat mengaktifkan “saklar kematian”. Fitur ini menghancurkan file atau memblokir pengguna sah dari infrastruktur yang disusupi.
Tujuannya sederhana: memaksimalkan akses dan dampak sekaligus meminimalkan deteksi.
Mengapa Deteksi Gagal: Jarum di Tumpukan Jarum
Masalah terbesar dengan worm ini adalah tampilannya yang sah. Sebagian besar perilakunya meniru operasi AI standar.
“Ini seperti jarum di tumpukan jerami. Hanya saja ini adalah jarum di tumpukan jarum,” kata Meyers.
Alat keamanan tradisional mengandalkan telemetri untuk menandai aktivitas mencurigakan. Dalam pipeline yang digerakkan oleh AI, data tersebut berantakan. Sistem pengkodean AI yang sah menghasilkan sinyal serupa. Mereka menjalankan otomatisasi. Mereka mengambil paket. Mereka mengeksekusi kode.
Cacing itu melakukan hal yang sama.
“Ada banyak telemetri yang tumpang tindih,” jelas Meyers. “Menjadi sangat sulit untuk membedakan, dari telemetri yang Anda miliki, mana yang sah dan mana yang ilegal.”
Permukaan deteksi terbatas. Tidak semua aktivitas menghasilkan sinyal. Ketika sinyal yang dihasilkan tampak persis seperti pekerjaan normal, para pembela HAM menjadi buta.
Keterlambatan Waktu dan Kerusakan Tambahan
Agar tetap tersembunyi, pembuat worm menambahkan penundaan waktu. Kemampuan tidak langsung terpicu. Mereka mengeksekusi beberapa jam atau hari kemudian. Hal ini memutus rantai sebab-akibat langsung yang digunakan para pembela HAM untuk melacak serangan.
Pada saat fase destruktif aktif, titik masuk awal sudah lama hilang.
Meyers menekankan bahwa CrowdStrike sedang mengembangkan strategi untuk menghubungkan titik-titik ini. Namun skala masalahnya semakin besar. Seiring dengan pesatnya pengembangan perangkat lunak AI, kebutuhan akan kolaborasi dalam solusi struktural menjadi sangat mendesak.
Pertahanan saat ini sedang kesulitan. Peralatan yang digunakan untuk membangun dijadikan senjata untuk melawan para pembangun tersebut.
Apa Artinya Bagi Tim Keamanan
Ini bukan hanya virus baru. Ini adalah ancaman rantai pasokan kelas baru. Ini mengeksploitasi kepercayaan yang kami berikan pada otomatisasi.
Organisasi yang menggunakan agen pengkodean AI perlu memikirkan kembali cara mereka memantau lingkungannya. Tanda tangan standar tidak akan menangkap hal ini. Perilaku adalah tanda tangannya.
“Ini adalah permukaan deteksi yang terbatas… sehingga menjadi sangat sulit untuk menentukan perilaku mana yang sah.” — Adam Meyers, Serangan Gagak
Pertanyaannya bukanlah apakah AI akan digunakan untuk kejahatan. Ini tergantung pada seberapa cepat keamanan beradaptasi dengan lanskap di mana penyerang terlihat seperti karyawannya.
Untuk saat ini, worm tersebut berada di titik buta. Menunggu. Mengumpulkan. Dan menunggu pemicunya.
Baca selengkapnya: Model OpenAI Lolos dari Penahanan | Pelanggaran Data LastPass | LineShine Superkomputer Tiongkok
