GuardBreaker Eksploitasi Prompt Injection

GuardBreaker Eksploitasi Prompt Injection – Pengembang malware terus beradaptasi dengan sistem pertahanan digital yang menghalangi aksi mereka, termasuk menciptakan metode pengelakan baru untuk menutupi perilaku asli kode saat diperiksa.

Sementara alat seperti EDR killers yang didokumentasikan secara ekstensif oleh ESET menyerang langsung solusi keamanan, kelompok peretas kini mulai mengalihkan fokus untuk melumpuhkan alat berbasis Large Language Model (LLM) yang membantu proses triase dan analisis kode keamanan.

Dalam sebuah temuan terbaru, para peneliti dari ESET mendapati upaya manipulasi terang-terangan yang digunakan oleh kelompok siber afiliasi Rusia, UAC-0099, dalam serangan awal terhadap target di Ukraina. Alih-alih menyembunyikan kode, pelaku menyisipkan permintaan palsu untuk membangun senjata nuklir di dalam komentar skrip VBScript.

Tujuannya adalah memicu pagar pengaman (safety guardrails) dari pemindai kode berbasis AI agar menolak memproses sisa berkas tersebut sebelum mencapai kode berbahaya. Skrip itu sendiri berfungsi mengunduh MATCHBOIL, sebuah loader eksklusif kelompok tersebut.

Teknik GuardBreaker dan Eksploitasi Prompt Injection

Teknik sederhana yang dinamai GuardBreaker oleh ESET ini memanfaatkan sifat dasar model AI yang diprogram untuk menolak permintaan sensitif atau berbahaya.

Transparan namun Menyesatkan: Komentar umpan ini ditaruh di tempat terbuka agar langsung dibaca oleh model AI yang menganalisis kode, namun tidak memiliki efek apa pun pada perilaku skrip saat dijalankan di sistem (runtime).
Bentuk Prompt Injection: Masuknya masukan penyerang ke dalam LLM pada saat inferensi menunjukkan eksploitasi kelemahan arsitektural, di mana LLM memproses konten tidak tepercaya dan instruksi tepercaya tanpa batas pemisah yang jelas.
Serangan Serupa di Rantai Pasok: Upaya serupa juga ditemukan pada serangan rantai pasok perangkat lunak (software supply-chain), seperti instruksi palsu dalam paket PyPI yang dilaporkan oleh Socket, atau pengulangan kalimat “You’re absolutely right!” puluhan ribu kali dalam paket npm untuk menghabiskan context window model AI.

Taktik pengelakan lain yang mungkin digunakan penyerang di masa depan meliputi manipulasi struktur berkas agar terpotong, menyembunyikan kode di balik kedok data rahasia, hingga memanfaatkan agen AI yang memanggil alat eksternal untuk membajak alur eksekusi.

Pelajaran Penting dan Rekomendasi Pertahanan

Kasus GuardBreaker membuktikan prinsip lama dunia keamanan siber: teknologi apa pun yang dapat memengaruhi kesuksesan serangan pasti akan menjadi target eksploitasi.

Organisasi yang mengandalkan peninjauan kode berbasis LLM harus memahami celah dan batas kerja sistem otomatis tersebut.

Validasi Berlapis (Multi-Layered Approach): Tidak ada satu pun mesin LLM yang boleh diberikan otoritas penuh untuk memutuskan bahwa suatu potongan kode aman. Validasi silang menggunakan pendekatan multi-model dan keahlian manusia sangat diperlukan.
Tindak Lanjut Kegagalan Sistem: Ketidakhadiran keluaran (lack of output) atau penolakan merespons dari LLM wajib memicu pemeriksaan mendalam lanjutan alih-alih diabaikan begitu saja.
Penerapan MDR (Managed Detection and Response): Bagi organisasi tanpa tim keamanan siber internal 24/7, penggunaan layanan MDR yang didukung oleh riset ancaman global dan pakar berpengalaman dapat menutup celah buta yang ditinggalkan oleh kesalahan respons model AI.

Baca artikel lainnya: