Penipuan yang memanfaatkan Deepfake Gisele Bundchen ini menunjukkan tingkat kecanggihan baru dalam kejahatan siber. Alih-alih menggunakan iklan spam atau phishing yang mudah dikenali, para scammer Brasil ini memanfaatkan teknologi AI untuk menciptakan klip video yang sangat meyakinkan. Video palsu ini menampilkan Gisele Bundchen, salah satu ikon paling terkenal di Brasil, seolah-olah sedang memberikan testimoni yang sangat antusias mengenai peluang investasi yang menggiurkan atau produk kesehatan tertentu.
Video-video deepfake ini kemudian disebarkan secara agresif melalui iklan berbayar di Instagram. Mengapa Gisele? Sebagai figur publik dengan kredibilitas dan pengakuan yang masif, terutama di negara asalnya, Brasil, kemunculannya dalam iklan langsung menurunkan kewaspadaan penonton. Masyarakat cenderung lebih mempercayai pesan yang disampaikan oleh selebriti terkemuka. Dalam skema ini, para scammer berhasil menggabungkan teknologi manipulasi visual yang canggih dengan teknik social engineering yang sederhana namun efektif: memanfaatkan nama besar untuk mendapatkan keuntungan. Korban yang tertipu akhirnya mentransfer uang dengan iming-iming hasil investasi cepat atau membeli produk yang ternyata palsu.
Bagaimana Deepfake Mengancam Kepercayaan Digital
Kasus penipuan Deepfake Gisele Bundchen ini merupakan contoh sempurna dari dampak negatif teknologi deepfake terhadap sektor ekonomi dan sosial. Teknologi deepfake, yang memanfaatkan AI untuk membuat konten video atau audio yang sangat menyerupai seseorang, memiliki potensi luar biasa untuk disalahgunakan.
1. Penipuan Finansial: Seperti kasus Gisele, deepfake digunakan untuk penipuan finansial, di mana penipu dapat mencuri identitas tokoh terkemuka untuk menipu investor atau pelanggan. Kemampuan untuk meniru visual dan suara seseorang membuat penipuan terasa lebih nyata dan sulit dideteksi oleh mata telanjang, bahkan untuk individu yang berhati-hati. Kasus global serupa menunjukkan seorang pekerja keuangan ditipu untuk mentransfer jutaan dolar kepada penipu yang menggunakan suara palsu bosnya.
2. Kerusakan Reputasi: Meskipun fokus utama di sini adalah penipuan, penyalahgunaan teknologi ini juga berpotensi besar merusak reputasi. Deepfake Gisele Bundchen dapat menciptakan narasi palsu yang mencemarkan nama baik atau mengaitkan korban dengan produk atau skema yang meragukan, yang berakibat fatal bagi citra publik figur.
3. Krisis Kepercayaan Publik: Yang paling mengkhawatirkan, maraknya kasus deepfake dapat menyebabkan krisis kepercayaan yang lebih luas di ranah digital. Jika apa yang kita lihat dan dengar dari tokoh publik di media sosial tidak bisa lagi dipastikan keasliannya, masyarakat akan semakin sulit membedakan antara informasi yang valid dan yang palsu (hoax). Otoritas Jasa Keuangan (OJK) di Indonesia sendiri telah mengeluarkan peringatan untuk waspada terhadap penipuan deepfake, menekankan bahwa “yang viral belum tentu valid.”
Langkah Pencegahan dan Respons Industri
Menghadapi serangan yang didalangi oleh scammer menggunakan Deepfake Gisele Bundchen dan kasus-kasus serupa lainnya, respons dari perusahaan teknologi dan kesadaran masyarakat menjadi sangat krusial.
Platform media sosial seperti Instagram (Meta) kini mengambil langkah tegas. Meta telah mengumumkan upaya untuk mendeteksi dan memberi label pada konten deepfake yang diunggah ke platform mereka. Mereka bahkan berupaya mengembangkan sistem yang lebih canggih untuk mengenali video dan audio buatan AI, meskipun proses ini masih dalam pengembangan. Kebijakan ini penting, karena tujuannya adalah menanamkan “cap tak terlihat” di konten AI generatif sehingga dapat diidentifikasi sebagai materi palsu.
Bagi masyarakat, edukasi dan sikap skeptis adalah garis pertahanan pertama:
- Verifikasi Sumber: Selalu periksa apakah promosi produk atau skema investasi yang melibatkan selebriti juga diumumkan di akun resmi mereka atau di media tepercaya.
- Kritis terhadap Janji: Waspadai skema investasi yang menawarkan keuntungan luar biasa dalam waktu singkat.
- Laporkan Konten Mencurigakan: Jika menemukan iklan yang menggunakan figur publik dengan bahasa yang aneh atau kualitas visual yang mencurigakan, segera laporkan ke platform terkait.
Kasus deepfake Gisele Bundchen adalah pengingat yang menyakitkan: teknologi AI, seiring dengan kemajuan luar biasa yang ditawarkannya, juga membawa risiko eksploitasi yang signifikan. Diperlukan kerja sama antara pembuat kebijakan, perusahaan teknologi, dan pengguna internet untuk memitigasi bahaya deepfake agar integritas informasi di ruang digital tetap terjaga.
Baca juga:
- Kesepakatan Google NBCUniversal: Jaminan Tayangan Jangka Panjang di YouTube TV
- Meta Gunakan Chat AI untuk Personalisasi Konten dan Iklan
- Daniel Ek Mundur dari CEO Spotify, Fokus pada Investasi Teknologi Eropa
Informasi ini dipersembahkan oleh indocair
