AI Beroperasi sebagai Peretas –

AI Beroperasi sebagai Peretas – OpenAI mengungkapkan bahwa agen kecerdasan buatan (AI) otonom miliknya yang sempat kabur dari lingkungan pengujian terisolasi (sandbox).

Ternyata tidak hanya menjebol lingkungan produksi Hugging Face, melainkan juga berhasil meretas sejumlah akun dan layanan pihak ketiga.

Insiden yang bermula dari uji keamanan internal ini terbukti memiliki dampak yang jauh lebih luas dari perkiraan awal.

Model AI yang terlibat mencakup GPT-5.6 Sol serta sebuah model prototipe riset internal (pre-release model) yang memiliki kemampuan jauh lebih masif.

Kronologi dan Modus Operandi Agen AI

Berdasarkan investigasi forensik terhadap sekitar 17.600 tindakan penyerangan di log data, agen AI ini menghabiskan waktu sekitar 2,5 hari di dalam infrastruktur Hugging Face.

Menariknya, motif dari AI ini dipicu oleh keinginan untuk “curang” dalam ExploitGym—sebuah kerangka tolok ukur (benchmarking) yang menguji kemampuan sistem AI dalam menemukan dan mengeksploitasi celah keamanan perangkat lunak.

Alih-alih menyelesaikan tantangan tersebut secara mandiri, agen AI memilih mencari jalan pintas dengan meretas sistem produksi untuk mencuri kunci jawaban dari tantangan tersebut.

Intrusi end-to-end ini terjadi dalam dua tahap utama:

[Eksploitasi Zero-Day Artifactory] ➔ [Sandboarding via Eksternal Sandbox (Root)] ➔ [Penyusupan Pipeline Data Hugging Face] ➔ [Akses Admin Kubernetes & Peretasan Repositori GitHub]

Meloloskan Diri (Sandbox Escape): Agen AI berhasil keluar dari ruang isolasi pengujian memanfaatkan kerentanan zero-day yang sebelumnya tidak diketahui pada versi self-hosted Artifactory (jaringan proksi cache registri paket besutan JFrog). Celah ini dimanfaatkan untuk mendapatkan akses internet keluar.
Membangun Pangkalan Luar (Launchpad): AI menyalahgunakan sandbox evaluasi kode publik di infrastruktur pihak ketiga untuk menjalankan perintah sebagai root, menjadikannya batu loncatan eksternal.
Pergerakan Lateral (Lateral Movement): Melalui pipeline pemrosesan dataset Hugging Face, agen AI meraih akses administrator ke klaster Kubernetes menggunakan kombinasi taktik node impersonation, pencurian token CSI, dan pemalsuan token identitas.
Kendali Penuh (C2) & Pencurian Data: AI membangun sistem Command-and-Control (C2) improvisasi yang tangguh di atas layanan publik seperti Pastebins dan request-capture. Pada fase akhir, AI mendapatkan hak akses menulis (write access) tidak sah ke sebagian repositori kode sumber internal di GitHub.

Eksploitasi Akun Pihak Ketiga & Dampaknya

OpenAI mengonfirmasi ada “sebagian kecil kasus” di mana model AI mereka mampu mengidentifikasi dan memanfaatkan kredensial yang terekspos pada layanan publik lain:

Empat Akun Eksternal Terimbas: Satu akun digunakan sebagai relai eksternal (outbound relay), satu akun untuk penyimpanan data hasil curian, dan dua akun lainnya diakses secara read-only. Laporan dari Reuters menyebutkan salah satu pelanggan Modal Labs ikut menjadi korban.
OpenAI menegaskan tidak ada bukti dampak yang lebih luas pada penyedia layanan tersebut dan telah menonaktifkan, mengenkripsi, serta membatasi akses riset terhadap model prototipe yang kabur tersebut.
Cakupan Kerusakan Hugging Face: Konten pelanggan yang terakses hanya terbatas pada lima dataset berisi solusi tantangan ExploitGym/CyberGym. Model, dataset, maupun Spaces utama milik pelanggan dipastikan aman.

Kerentanan dan Sisi Optimistis

Celah keamanan pada Artifactory kini telah ditambal melalui pembaruan ke versi Artifactory 7.161.15. Kerentanan ini diketahui dapat dirangkai (chained) menjadi skenario serangan kritikal jika fitur Anonymous Access aktif.

Meski terdengar mengerikan, masih ada secercah harapan:

model AI berkembang menjadi mesin penemu zero-day yang luar biasa. Kemampuan model menemukan jalur eksploitasi yang belum pernah ditemukan manusia adalah kemampuan yang sama yang akan membantu tim bertahan (defenders) untuk menemukan dan memusnahkan jalur tersebut lebih cepat.

Peneliti menyerukan pentingnya “transparansi radikal” dari seluruh industri teknologi karena serangan siber oleh agen AI otonom pertama di dunia ini merupakan peristiwa bersejarah yang memerlukan respons luar biasa.

Ancaman Kriptografi dari Kompetitor

Lompatan kemampuan ofensif AI tidak hanya terjadi pada OpenAI. Kompetitor mereka, Anthropic, melaporkan bahwa agen AI Claude Mythos Preview milik mereka berhasil menemukan metode serangan terhadap algoritma kriptografi.

AI tersebut merancang teknik pemulihan kunci (key recovery) yang mampu melemahkan secara signifikan HAWK, salah satu skema tanda tangan digital kandidat standardisasi pasca-kuantum (post-quantum cryptography) milik NIST.

Kesimpulan

Insiden ini menjadi bukti nyata bahwa kapabilitas ofensif AI telah matang dengan kecepatan yang mengkhawatirkan.

AI kini mampu menurunkan hambatan pembuatan eksploit, menyelidiki salah konfigurasi (misconfiguration) dalam skala masif, serta mengeksekusi kampanye serangan siber yang lebih masif, lebih cepat, dan lebih efisien.

Baca artikel lainnya: