Suryamedia.id – Ancaman deepfake disebut sedang merebak di Korea Selatan. Menurut kepolisian setempat, sebanyak 297 kasus kriminal deepfake bernuansa seks dilaporkan dalam 7 bulan pertama 2024, naik dari angka 180 tahun lalu dan dua kali lipat tahun 2021.
Kasus deepfake ini sangat meresahkan karena wajah-wajah korban, yang kebanyakan wanita diedit menggunakan teknologi AI seolah-oleh mereka beradegan di dalam video bermuatan pornografi. Tak hanya diedit, video asusila tersebut disebarkan dan dijual di Internet secara ilegal.
Lantas, sebenarnya, apa itu deepfake dan bagaimana cara mencegahnya? Simak artikel berikut ini!
Apa itu deepfake?
Dilansir dari University of Virginia, deepfake merupakan rangkaian gambar buatan yang dihasilkan oleh kecerdasan buatan jenis pembelajaran mesin (machine learning) yang disebut deep learning. Deepfake biasanya digunakan untuk membuat gambar atau video peristiwa palsu.
Mirisnya, beberapa kasus menggunakan deepfake untuk tujuan penyebaran berita hoaks maupun kasus pornografi. Perusahaan AI Deeptrace menemukan 15.000 video deepfake daring pada September 2019. 96% di antaranya bersifat pornografi dan 99% di antaranya menggunakan wajah dari selebritas wanita hingga bintang porno, dikutip dari Guardian.
Tak hanya penyabaran pornografi, deepfake juga berbahaya karena kemampuannya untuk menyebarkan informasi palsu yang tampaknya berasal dari sumber tepercaya.
Meskipun deepfake menimbulkan ancaman serius, deepfake juga memiliki kegunaan yang bermanfaat, seperti audio dan hiburan video game, serta aplikasi dukungan pelanggan dan respons penelepon, seperti penerusan panggilan dan layanan resepsionis.
Bagaimana cara kerjanya?
Dikutip dari TechTarget, deepfake bukan video atau gambar yang diedit atau di-photoshop. Video atau gambar yang dibuat dikatakan deepfake jika dibuat menggunakan algoritme khusus yang memadukan rekaman lama dan baru.
Misalnya, fitur wajah orang dalam gambar dianalisis melalui machine learbing (ML) untuk memanipulasinya dalam konteks video lain.
Deepfake menggunakan dua algoritma, yakni generator dan diskriminator untuk membuat dan menyempurnakan konten palsu. Generator membuat set data pelatihan berdasarkan output yang diinginkan, sementara diskriminator menganalisis seberapa realistis versi awal konten tersebut.
Proses ini diulang, yang memungkinkan generator untuk meningkatkan kemampuan menciptakan konten yang realistis dan diskriminator menjadi lebih terampil dalam menemukan kekurangan yang harus diperbaiki oleh generator. (*)
