Image credit: Magnific
AI Agent dan Ancaman Otomatisasi Serangan Siber – Perkembangan kecerdasan buatan (AI) mulai mengubah cara pengujian keamanan siber dilakukan.
Sejumlah kerangka kerja (framework) kini memungkinkan agen AI menjalankan perintah, menggunakan berbagai perangkat keamanan, menganalisis hasil, dan menentukan langkah berikutnya secara otomatis.
Teknologi ini dapat membantu tim keamanan melakukan pengujian penetrasi dan menemukan kelemahan sistem dengan lebih efisien.
Namun, kemampuan tersebut juga membawa risiko apabila tidak dikelola dengan baik. Sejumlah kerangka kerja AI untuk aktivitas peretasan dan pengujian penetrasi ditemukan berjalan pada server yang dapat diakses melalui internet. Bahkan, sebagian konsol pengelolaannya dilaporkan terbuka tanpa autentikasi.
Investigasi yang dipublikasikan GitGuardian pada 9 November 2026 mengidentifikasi puluhan proyek AI security yang dapat ditemukan melalui pemindaian internet.
Temuan ini bukan tentang kemunculan keluarga malware baru, melainkan risiko penyalahgunaan kerangka kerja yang memiliki fungsi ganda (dual-use) dan penerapan server yang tidak aman.
Baca juga: Modus Rekrutmen Palsu Bobol Sistem Kripto
Ribuan Layanan AI Hacking Terdeteksi di Internet
Dalam pengamatan Shodan pada 7 November 2026, ditemukan 1.428 layanan yang cocok dengan karakteristik keluarga ARTEX, 419 layanan yang cocok dengan PentAGI, dan 173 layanan yang cocok dengan Agent Zero.
Angka tersebut menunjukkan bahwa berbagai framework AI untuk pengujian keamanan telah tersebar di internet. Namun, jumlah hasil pencarian tidak boleh langsung dianggap sebagai jumlah server unik yang rentan atau telah diretas.
Satu layanan dapat menghasilkan kecocokan melalui beberapa metode pencarian, sementara sebagian instalasi mungkin hanya dapat diakses dalam konfigurasi tertentu.
GitGuardian meneliti sekitar 45 proyek sumber terbuka dan mengevaluasi 41 di antaranya untuk mengidentifikasi karakteristik yang dapat digunakan dalam pencarian instalasi yang terhubung ke internet.
Dari 41 framework yang diperiksa:
- 11 menyediakan antarmuka web secara default.
- 18 hanya mengekspos layanan dalam konfigurasi tertentu atau tidak memiliki halaman utama yang mudah dikenali.
- 12 tidak menyediakan layanan yang mendengarkan koneksi jaringan.
Temuan tersebut memperlihatkan bahwa tidak semua framework otomatis dapat diakses dari internet. Risiko bergantung pada cara masing-masing proyek dipasang, dikonfigurasi, dan diamankan.
Bagaimana AI Hacking Framework Bekerja?
AI hacking framework merupakan kerangka kerja yang menghubungkan model bahasa dengan berbagai perangkat keamanan.
Dengan integrasi tersebut, agen AI dapat menjalankan perintah, membaca keluaran perangkat, menganalisis informasi, lalu menentukan tindakan selanjutnya berdasarkan hasil yang diperoleh.
Sebagai contoh, sebuah agen dapat menggunakan Nmap untuk memetakan layanan jaringan, Metasploit untuk menguji eksploitasi, atau sqlmap untuk memeriksa kemungkinan kerentanan SQL injection.
Salah satu proyek yang diteliti adalah PentAGI. Framework ini mengoordinasikan beberapa agen dan perangkat keamanan untuk menjalankan tahapan pengujian, mulai dari pengumpulan informasi, pemeriksaan kerentanan, hingga penyusunan laporan.
Kemampuan seperti ini bermanfaat bagi pengujian keamanan yang dilakukan secara sah dan dengan izin pemilik sistem.
Namun, apabila dikuasai pihak tidak berwenang, kemampuan yang sama dapat dimanfaatkan untuk mengotomatisasi pengintaian, pengujian eksploitasi, dan pencurian kredensial.
Perlu dipahami bahwa AI tidak selalu memiliki kemampuan untuk melakukan seluruh tahapan serangan secara mandiri. Agen bekerja berdasarkan model, instruksi, perangkat, dan izin akses yang tersedia.
Akan tetapi, integrasi dengan shell dan akses web memungkinkan agen menjalankan perintah atau membangun alur kerja tambahan sesuai kebutuhan.
Baca juga: 9 Kebiasaan untuk Menghindari Ancaman Siber
PentAGI, Agent Zero, dan ARTEX Menjadi Sorotan
Investigasi GitGuardian menyoroti beberapa framework dengan karakteristik dan tingkat paparan yang berbeda.
1. PentAGI
PentAGI dirancang untuk mengoordinasikan agen AI dengan perangkat pengujian keamanan seperti:
- Nmap.
- Metasploit.
- Dan sqlmap.
GitGuardian menemukan 419 layanan yang cocok dengan karakteristik PentAGI, termasuk 233 layanan yang menggunakan sertifikat bawaan.
Namun, jumlah tersebut berasal dari metode pencarian tertentu dan tidak dapat digabungkan begitu saja dengan hasil pencarian lain untuk menghitung jumlah server unik.
2. Agent Zero
Agent Zero merupakan agen AI serbaguna, bukan framework yang secara khusus dibuat untuk aktivitas peretasan. Namun, kemampuan dan fleksibilitasnya dapat dimanfaatkan untuk berbagai tugas, termasuk eksperimen keamanan.
Dari 173 layanan yang cocok dengan karakteristik Agent Zero, sebanyak 134 menampilkan halaman login, sedangkan 39 lainnya ditemukan terbuka tanpa halaman autentikasi yang terlihat.
Temuan ini menjadi perhatian karena Agent Zero dilaporkan tidak menerapkan autentikasi secara default. Artinya, administrator perlu memastikan sendiri bahwa antarmuka yang dipasang tidak dapat diakses sembarang pihak.
3. ARTEX
ARTEX menjadi keluarga framework dengan jumlah layanan terdeteksi paling besar, yakni 1.428 kecocokan.
Menurut GitGuardian, pembuat proyek aslinya menghapus repositori pada 8 Oktober setelah muncul laporan penyalahgunaan. Namun, dalam minggu yang sama ditemukan 102 fork dan repositori dengan nama serupa.
ARTEX juga pernah dikaitkan dengan pencurian kredensial GitHub. Kredensial aplikasi yang terekspos dapat dimanfaatkan untuk menjangkau sumber daya cloud, termasuk Azure Key Vault.
Risiko Tidak Terbatas pada Fitur Bawaan
Salah satu temuan penting dalam penelitian ini adalah perbedaan antara kemampuan yang sudah tersedia dalam framework dan kemampuan yang dapat dibangun sendiri oleh agen AI.
Dari proyek yang diperiksa, hanya Pojun, Cybermes, Xalgorix, dan AIRecon yang memiliki pemindai rahasia (secret scanner) terintegrasi dengan agen. Tidak satu pun dari framework yang diteliti memiliki fitur pengambilan data GitHub (GitHub fetcher) bawaan.
Beberapa proyek lain memang menyediakan instruksi untuk mencari kredensial, tetapi tidak memiliki integrasi pemindai yang benar-benar berfungsi. PentAGI, misalnya, tidak ditemukan memiliki kemampuan khusus untuk memburu rahasia secara langsung.
Namun, keterbatasan fitur bawaan tersebut tidak berarti risikonya rendah. Hampir seluruh framework menyediakan akses shell dan web. Dengan kemampuan ini, agen dapat memperoleh perangkat tambahan atau menyusun alur kerja sendiri ketika dijalankan.
Selain itu, kredensial yang digunakan agen AI juga berpotensi terekspos melalui log, riwayat percakapan, transkrip, atau konteks model.
Artinya, kebocoran informasi tidak selalu harus diawali oleh malware. Aktivitas agen yang tidak dikelola dengan benar pun dapat membuka peluang terungkapnya data sensitif.
Baca juga: Data Bocor Penipuan Makin Personal
Langkah Perlindungan bagi Organisasi
Organisasi yang menggunakan AI agent untuk pengujian keamanan perlu memastikan bahwa akses ke framework dan kredensial yang terhubung dengannya terlindungi. Beberapa langkah yang dapat diterapkan meliputi:
- Jangan membuka konsol langsung ke internet. Tempatkan antarmuka pengelolaan di jaringan internal atau di belakang VPN dan mekanisme kontrol akses yang ketat
- Aktifkan autentikasi. Pastikan setiap konsol memiliki autentikasi yang kuat. Jangan mengandalkan konfigurasi bawaan yang mungkin tidak menyediakan perlindungan memadai.
- Batasi hak akses agen. Berikan izin minimum sesuai tugasnya. Hindari memberikan akses administrator atau akses luas ke seluruh infrastruktur.
- Lindungi kredensial dan secrets. Jangan menyimpan token, kunci API, atau kata sandi secara langsung dalam instruksi agen maupun berkas konfigurasi yang dapat diakses tanpa pembatasan.
- Batasi akses shell dan jaringan. Atur perintah yang boleh dijalankan agen serta batasi koneksi keluar menuju layanan yang tidak diperlukan.
- Pantau aktivitas agen. Simpan dan tinjau log perintah, penggunaan perangkat keamanan, akses berkas, serta aktivitas jaringan yang tidak biasa.
- Periksa paparan layanan secara berkala. Gunakan pemindaian eksternal untuk memastikan tidak ada konsol AI atau layanan pendukung yang terbuka tanpa perlindungan.
- Verifikasi setiap temuan. Kecocokan fingerprint dari Shodan atau alat pencarian lainnya hanya menjadi petunjuk awal. Periksa langsung apakah layanan benar-benar terbuka, menggunakan framework yang dimaksud, dan memiliki kelemahan autentikasi.
Kemudahan Otomatisasi Harus Diimbangi Pengamanan
AI hacking framework dapat membantu organisasi mempercepat pengujian keamanan, tetapi kemampuan otomatisasi yang sama juga dapat dimanfaatkan oleh pihak yang tidak berwenang.
Risiko menjadi lebih besar ketika konsol pengelolaan terbuka ke internet, autentikasi tidak diterapkan, atau agen memperoleh akses terlalu luas terhadap sistem dan kredensial.
Temuan GitGuardian menjadi pengingat bahwa penggunaan AI dalam keamanan siber tidak hanya membutuhkan pengawasan terhadap hasil kerja agen, tetapi juga perlindungan terhadap infrastruktur yang menjalankannya.
Organisasi perlu memperlakukan setiap agen AI sebagai komponen yang memiliki akses dan kewenangan tertentu, sehingga seluruh aktivitasnya harus dibatasi, diawasi, dan diaudit.
Baca artikel lainnya:
- Aplikasi AI Palsu Jadi Pintu Masuk Malware ke Komputer
- Serangan Siber Mengancam Transportasi dan Logistik
- Catatan Panggilan Telepon Bisa Bongkar Kehidupan Pribadi
- Phising Gaya Baru Manfaatkan Popularitas AI
- Celah Android Lumpuhkan Ponsel Lewat SMS
- Bahaya Tersembunyi Software Lama
- Era AI Penipuan Siber Semakin Meyakinkan
- Infostealer Amatera Mengincar Data Perusahaan
- Celah Telegram Android Berujung Pengambilalihan Ponsel
- Software Bajakan & Ancaman Nyata di Baliknya
Sumber berita:
