Deepfake dan Cara Mendeteksinya –

Dari menyamar sebagai tokoh publik hingga menyebarkan penipuan dengan audio dan video yang dimanipulasi, potensi penyalahgunaan deepfake sangat luas dan mengkhawatirkan. Tapi, bagaimana sebenarnya teknologi ini bekerja?

Dan yang lebih penting bisakah Anda mendeteksi deepfake sendiri? Panduan mendalam ini akan membahas deepfake dari berbagai sisi:

Cara pembuatannya.
Penggunaan yang paling umum.
Cara mendeteksinya.
Undang-undang yang dibuat untuk melawannya.

Setelah membaca ini, Anda akan bisa mengidentifikasi deepfake dengan lebih baik!

Apa itu Deepfake?

Deepfake adalah media sintetis paling sering berupa video, klip audio, atau gambar—yang telah dibuat atau dimanipulasi menggunakan kecerdasan buatan (artificial intelligence) agar terlihat sangat meyakinkan. Istilah ini berasal dari gabungan kata “deep learning” dan “fake”, merujuk langsung pada teknologi di baliknya.

Saat ini, deepfake dapat meniru wajah, suara, atau bahkan gerakan seseorang dengan akurasi yang mengganggu. Jenis-jenis deepfake yang umum meliputi:

Penggantian Wajah (Face Swaps): Mengganti wajah seseorang dalam video dengan wajah orang lain.
Lip-sync Deepfakes: Wajahnya asli, tetapi ucapan diubah dan gerakan mulutnya dimanipulasi secara digital.
Kloning Suara (Voice Cloning): Tidak menggunakan wajah, melainkan mereplikasi nada, irama, dan pola bicara seseorang.

Bagaimana Deepfake Dibuat?

Pembuatan deepfake melibatkan penggunaan AI untuk memanipulasi atau menghasilkan konten visual atau audio palsu yang tampak sangat nyata. Teknik inti di balik sebagian besar deepfake adalah sejenis pembelajaran mesin yang disebut Generative Adversarial Network (GAN).

Sistem ini terdiri dari dua bagian: generator dan discriminator. Generator menciptakan konten palsu, sementara discriminator mengevaluasi apakah konten tersebut terlihat atau terdengar asli.

Melalui ribuan iterasi, sistem ini terus meningkat hingga generator menghasilkan konten sintetis yang hampir tidak dapat dibedakan dari aslinya.

Prosesnya biasanya dimulai dengan data pelatihan. Ini melibatkan pengumpulan sejumlah besar foto atau video dari orang yang menjadi target, dari berbagai sudut, kondisi pencahayaan, dan ekspresi wajah.

Semakin banyak data yang tersedia, semakin realistis hasilnya. Setelah AI dilatih, ia dapat mulai memproduksi konten sintetis.

Meskipun versi awal perangkat lunak deepfake membutuhkan keterampilan teknis yang kuat dan perangkat keras yang canggih, banyak alat saat ini yang relatif mudah digunakan dan tersedia secara open-source atau berbasis web, yang sayangnya juga menurunkan ambang batas bagi para penyerang.

Penggunaan Deepfake yang Paling Umum

Deepfake dan Cara Mendeteksinya — Credit image: Freepix

Fake News & Misinformasi: Video deepfake sering digunakan untuk menyebarkan narasi palsu, terutama yang melibatkan tokoh publik. Klip palsu dari tokoh seperti Elon Musk, Joe Biden, dan Volodymyr Zelensky telah menjadi viral, menyesatkan pemirsa untuk percaya bahwa mereka membuat pernyataan kontroversial.
Penipuan & Pencurian Identitas: Suara dan wajah yang dihasilkan AI semakin digunakan dalam skema penipuan, dari peniruan suara CEO hingga penipuan investasi palsu. Deepfake dapat meniru identitas seseorang untuk memanipulasi korban agar mengirim uang atau memberikan informasi sensitif.
Pornografi Non-Konsensual: Ini adalah salah satu penggunaan deepfake yang paling mengkhawatirkan. Alat AI digunakan untuk menempatkan wajah seseorang ke konten eksplisit tanpa persetujuan mereka, sering kali menargetkan selebriti, influencer, bahkan anak di bawah umur.
Melewati Otentikasi: Deepfake dapat digunakan untuk meniru suara dan penampilan seseorang guna melewati sistem pengenalan wajah/suara, yang menjadi ancaman besar bagi individu dan organisasi.
Di sisi lain, tidak semua penggunaan deepfake berbahaya. Teknologi ini dapat memberikan manfaat nyata di bidang pendidikan, hiburan, dan aksesibilitas, asalkan digunakan secara bertanggung jawab dan memiliki label yang jelas.

Bagaimana Mendeteksi Deepfake?

Mendeteksi deepfake tidak selalu mudah, tetapi ada petunjuk visual, perilaku, dan teknis yang dapat membantu. Perhatikan tanda-tanda berikut:

Cari pencahayaan yang tidak alami, tekstur kulit yang terlalu halus, tepi yang berkedip, atau latar belakang yang buram.
Mata yang tidak sejajar, gigi yang terdistorsi, atau pola kedipan yang aneh adalah petunjuk umum.
Ketika audio tidak sepenuhnya cocok dengan gerakan mulut.
Periksa tanggal pembuatan dan modifikasi file. Alat deepfake sering mengubah atau menghapus metadata ini, meninggalkan ketidaksesuaian.
Platform seperti Google Image Search dapat membantu Anda melacak versi asli dari sebuah gambar atau video.

Saat ragu, Anda bisa mencoba alat khusus seperti Microsoft Video Authenticator atau OpenVINO dari Intel yang dapat menganalisis konten untuk mencari artefak deepfake.

Undang-undang dan Praktik Terbaik

Hukum mengenai deepfake sedang berkembang untuk mengatasi penyalahgunaan, terutama yang digunakan untuk pelecehan, penipuan, atau disinformasi.

Beberapa negara telah memperkenalkan undang-undang yang menghukum penggunaan media sintetis tertentu, seperti Take It Down Act di AS dan EU AI Act di Eropa.

Untuk menghadapi tantangan ini, sangat penting untuk:

Meningkatkan Literasi Media: Latih diri Anda untuk berpikir kritis dan mempertanyakan konten yang memicu emosi, terutama jika tidak ada konteks atau sumber yang jelas.
Verifikasi dengan Pengecek Fakta: Jika ada yang terasa aneh, periksa dengan platform pengecek fakta terpercaya seperti Snopes atau FactCheck.org.
Membangun Pengamanan di Organisasi: Perusahaan harus mengintegrasikan alat deteksi ke dalam alur kerja mereka, memberi label pada konten yang dihasilkan AI, dan melatih staf untuk mengidentifikasi deepfake.

Dengan kesadaran, alat yang tepat, dan pemikiran kritis, kita bisa menghadapi masa depan yang dipenuhi konten sintetis tanpa kehilangan pandangan tentang apa yang nyata.

Baca artikel lainnya: