Infrastruktur AI Jadi Sasaran Serangan Siber Terorganisasi

Infrastruktur AI Jadi Sasaran Serangan Siber Terorganisasi – Perkembangan kecerdasan buatan (AI) tidak hanya menarik perhatian perusahaan dan pengguna teknologi, tetapi juga pelaku kejahatan siber.

Infrastruktur yang digunakan untuk membangun dan menjalankan aplikasi AI kini menjadi sasaran serangan karena menyimpan berbagai informasi penting, termasuk kredensial akses, data, dan konfigurasi layanan cloud.

Salah satu kampanye yang memperlihatkan risiko tersebut adalah Greeter, serangan terstruktur yang menargetkan infrastruktur AI dan layanan cloud.

Kampanye ini ditemukan setelah peneliti melakukan pencarian terhadap server cloud yang terbuka untuk umum melalui Shodan, mesin pencari yang digunakan untuk menemukan perangkat dan layanan yang terhubung ke internet.

Penelusuran tersebut awalnya menemukan sejumlah layanan Amazon DynamoDB yang dapat diakses tanpa autentikasi. Kondisi ini memungkinkan siapa pun mengunduh data, bahkan menghapusnya.

Peneliti kemudian menemukan platform pengembangan AI bernama Flowise yang juga memiliki banyak instalasi dengan konfigurasi rentan.

Temuan ini mengungkap bahwa serangan terhadap infrastruktur AI tidak selalu dimulai dengan membobol sistem yang sangat kompleks.

Konfigurasi yang terbuka, perangkat lunak yang belum diperbarui, dan kredensial yang terekspos dapat menjadi pintu masuk bagi penyerang.

Berawal dari Server AI yang Rentan

Flowise merupakan platform pengembangan AI generatif berbasis sumber terbuka yang memungkinkan pengguna membangun agen AI dengan memanfaatkan model bahasa besar (Large Language Models/LLM).

Platform semacam ini dapat terhubung dengan berbagai layanan, sumber data, dan sistem cloud. Karena itu, jika instalasinya tidak diamankan dengan baik, penyerang berpotensi memperoleh akses yang lebih luas daripada sekadar aplikasi AI tersebut.

Dalam pemeriksaan terhadap hampir 3.000 instalasi Flowise, peneliti menemukan sekitar 90% di antaranya masih menggunakan versi yang belum diperbarui dan rentan terhadap CVE-2024-58351.

Kerentanan kritis ini berkaitan dengan code injection, yaitu kondisi ketika penyerang dapat menyisipkan perintah berbahaya untuk dijalankan oleh sistem.

Untuk mempelajari cara penyerang memanfaatkan kelemahan tersebut, peneliti kemudian membangun honeypot berbasis AI.

Honeypot merupakan sistem umpan yang sengaja dibuat menyerupai lingkungan asli untuk mengamati aktivitas dan teknik serangan tanpa mempertaruhkan sistem produksi.

Sebagian besar honeypot ditempatkan pada infrastruktur cloud Amazon Web Services (AWS). Dari pengamatan tersebut, peneliti menemukan bahwa aktivitas penyerang berlangsung secara bertahap dan terorganisasi.

Baca juga: Membongkar Mitos SOC

Bagaimana Serangan Greeter Berlangsung?

Greeter bukan sekadar serangan yang mencoba mengeksploitasi satu kerentanan lalu berhenti. Penyerang menjalankan beberapa tahapan untuk memperluas akses dan mempertahankan keberadaan mereka di lingkungan cloud.

Berikut gambaran tahapan serangannya:

1. Memetakan lingkungan dan hak akses

Setelah berhasil masuk ke sistem, penyerang terlebih dahulu mempelajari lingkungan yang berhasil mereka akses.

Mereka mencari tahu layanan apa saja yang tersedia, akun yang memiliki hak istimewa, serta sumber daya cloud yang dapat dijangkau. Aktivitas ini disebut enumeration, yaitu proses mengumpulkan informasi mengenai sistem dan hak akses.

Informasi tersebut membantu penyerang menentukan langkah berikutnya dan menemukan jalur untuk memperluas kendali.

2. Mencari kredensial yang dapat digunakan

Tahap berikutnya adalah mencari informasi autentikasi, seperti kata sandi, token akses, dan kredensial layanan cloud.

Kredensial tersebut memiliki nilai tinggi karena dapat memberikan akses ke berbagai layanan tanpa harus mengeksploitasi setiap sistem secara terpisah.

Jika penyerang memperoleh kredensial dengan hak akses luas, mereka berpotensi menjangkau sumber daya lain dalam lingkungan organisasi.

3. Memanfaatkan layanan metadata cloud

Salah satu teknik yang diamati dalam kampanye Greeter adalah penyalahgunaan layanan metadata cloud.

Secara sederhana, layanan metadata menyediakan informasi mengenai mesin virtual atau sumber daya cloud yang sedang berjalan. Informasi tersebut dapat mencakup identitas mesin dan kredensial sementara yang digunakan untuk mengakses layanan lain.

Jika layanan metadata tidak dilindungi dengan benar, penyerang yang telah memperoleh akses ke suatu lingkungan dapat mencoba mengambil informasi tersebut untuk meningkatkan hak akses.

Teknik ini memungkinkan serangan berkembang dari satu aplikasi menuju sumber daya cloud lainnya.

4. Memperluas akses ke sistem lain

Setelah memperoleh kredensial tambahan, penyerang dapat melakukan lateral movement, yaitu berpindah dari satu sistem ke sistem lain di dalam lingkungan organisasi.

Tujuannya adalah menjangkau lebih banyak sumber daya, menemukan informasi bernilai tinggi, dan memperoleh akses yang lebih luas.

Dalam kampanye Greeter, peneliti menilai bahwa pencurian kredensial cloud dan perluasan akses di dalam organisasi merupakan tujuan utama aktivitas tersebut.

5. Mempertahankan akses dan menyamarkan aktivitas

Penyerang juga berupaya mempertahankan akses agar tidak mudah kehilangan kendali ketika sistem diperbarui atau kredensial awal diganti.

Salah satu perilaku yang menarik perhatian peneliti adalah penggunaan pesan sederhana seperti “hello” di dalam log sistem. Pesan tersebut tampak tidak berbahaya dan hanya muncul sesaat, tetapi dapat menyulitkan proses pemeriksaan karena tim keamanan harus mencari pola tertentu di antara banyak catatan aktivitas.

Teknik ini memperlihatkan bahwa penyerang tidak hanya berusaha masuk ke sistem, tetapi juga memikirkan cara agar aktivitas mereka lebih sulit dikenali.

AI Membantu Penyerang Mengelola Serangan

Peneliti menemukan indikasi bahwa AI digunakan untuk membantu penyerang menulis kode dan mengatur tahapan serangan.

Perkembangan ini menunjukkan bahwa AI tidak hanya digunakan untuk membangun aplikasi atau meningkatkan produktivitas. Teknologi yang sama juga dapat dimanfaatkan untuk mempercepat pekerjaan teknis dalam operasi kejahatan siber.

Peneliti menilai kampanye Greeter bukan serangan oportunistis yang dilakukan secara acak. Serangan berlangsung di beberapa wilayah AWS sekaligus dan memperlihatkan tahapan yang berulang serta sistematis.

Meski demikian, identitas pelaku belum dapat dipastikan. Peneliti menemukan karakter berbahasa Mandarin dalam sejumlah kode, tetapi hal tersebut belum cukup untuk membuktikan bahwa serangan berasal dari kelompok atau negara tertentu. Petunjuk semacam itu juga dapat sengaja ditanam untuk mengarahkan atribusi ke pihak lain.

Puluhan Organisasi Berpotensi Terdampak

Peneliti mengonfirmasi sedikitnya 46 korban nyata berdasarkan jumlah instalasi yang tidak memerlukan autentikasi dan memiliki kondisi serupa dengan lingkungan honeypot.

Dari jumlah tersebut, peneliti memperkirakan sedikitnya 50% masih terhubung ke internet dan dapat ditemukan secara terbuka. Berdasarkan perkiraan itu, setidaknya 20 organisasi berpotensi masih terekspos.

Angka tersebut perlu dipahami secara tepat. Jumlah korban yang dikonfirmasi dan jumlah organisasi yang diperkirakan masih terekspos bukanlah bukti bahwa seluruh organisasi tersebut telah mengalami pencurian data atau kompromi lanjutan.

Namun, temuan ini tetap menunjukkan bahwa kesalahan konfigurasi dan perangkat lunak yang tidak diperbarui dapat menciptakan risiko nyata bagi infrastruktur AI dan cloud.

Cara Organisasi Melindungi Infrastruktur AI dan Cloud

Kampanye Greeter memberikan pelajaran bahwa keamanan infrastruktur cloud tidak cukup hanya dengan menutup satu kerentanan. Organisasi perlu melindungi berbagai lapisan sistem secara bersamaan.

Beberapa langkah yang dapat diterapkan meliputi:

Perbarui perangkat lunak secara berkala. Pastikan platform AI, aplikasi, pustaka, dan komponen pendukung menggunakan versi yang telah diperbaiki dari kerentanan yang diketahui.
Batasi akses jaringan. Jangan biarkan panel administrasi, basis data, atau layanan internal dapat diakses secara bebas dari internet. Gunakan firewall, VPN, atau mekanisme akses terbatas sesuai kebutuhan.
Lindungi kredensial cloud. Simpan token dan kunci akses di tempat yang aman. Hindari menanamkan kredensial langsung dalam kode aplikasi atau berkas konfigurasi yang dapat diakses pengguna lain.
Terapkan prinsip hak akses minimum. Berikan setiap akun dan layanan hanya izin yang diperlukan untuk menjalankan tugasnya.
Amankan layanan metadata. Terapkan perlindungan yang sesuai agar aplikasi yang berjalan di cloud tidak dapat mengambil kredensial atau informasi sensitif melalui layanan metadata secara tidak sah.
Simpan log di lokasi terpisah. Kirim catatan aktivitas ke sistem pemantauan terpusat agar bukti aktivitas tetap tersedia meskipun penyerang menghapus log lokal.
Pantau aktivitas yang tidak biasa. Perhatikan upaya pemetaan layanan, pencarian kredensial, perubahan hak akses, dan koneksi yang tidak sesuai dengan pola operasional.
Siapkan respons insiden. Organisasi harus memiliki prosedur untuk mencabut kredensial yang dicurigai bocor, mengisolasi sistem terdampak, dan memeriksa kemungkinan perpindahan penyerang ke layanan lain.

Keamanan AI Harus Dimulai dari Infrastruktur

Kampanye Greeter memperlihatkan bahwa semakin luas penggunaan AI dan layanan cloud, semakin besar pula permukaan serangan yang harus dilindungi.

Aplikasi AI yang terhubung dengan basis data, layanan autentikasi, dan infrastruktur cloud dapat menjadi pintu masuk menuju sumber daya lain jika tidak dikonfigurasi secara aman.

Organisasi tidak cukup hanya berfokus pada kerentanan aplikasi atau kecepatan memasang pembaruan. Perlindungan juga harus mencakup keamanan jaringan, pengelolaan identitas, kredensial, hak akses, dan pemantauan aktivitas.

Pada akhirnya, keamanan AI bukan hanya persoalan melindungi model atau algoritma yang digunakan. Infrastruktur yang menjalankan AI juga harus diperlakukan sebagai bagian penting dari sistem keamanan organisasi.

Tanpa perlindungan berlapis, teknologi yang dirancang untuk meningkatkan kemampuan bisnis justru dapat membuka peluang baru bagi pelaku kejahatan siber.

Baca artikel lainnya: