Polisi mengungkap kasus penipuan bermodus teknologi Artificial Intelligence (AI) Deepfake alias penyerupa wajah hingga suara, melalui platform media sosial. Pelaku pun mencatut nama pejabat negara dalam melancarkan aksinya.

Dirtipidsiber Bareskrim Polri Brigjen Himawan Bayu Aji membenarkan pengungkapan kasus tersebut dan menangkap pelaku.

"Pengungkapan kasus Deepfake ini berhasil kami ungkap dengan cepat, di mana pelaku saat ini sudah kami amankan," tutur Himawan kepada wartawan, Kamis (23/1/2025).

Himawan belum mengungkap lebih jauh informasi dan hasil dari operasi penangkapan kasus penipuan lewat AI Deepfake tersebut. Dia menyatakan pihaknya tengah menyiapkan konferensi pers untuk publik.

"Penangkapan terhadap pelaku dilakukan oleh tim Dittipidsiber Bareskrim di wilayah Lampung Tengah Provinsi Lampung. Nanti akan kami rilis secepatnya," kata Himawan.

Ancaman deepfake yang dimanfaatkan penipu untuk memperdayai korbannya tidak dimungkiri bisa terjadi. Hal itu diungkapkan oleh pakar keamanan siber Alfons Tanujaya.

Berbekal AI, menurut Alfons, gambar video dan suara bisa dipalsukan serta menghasilkan video yang sulit dibedakan oleh mata telanjang.

Potensi bahaya tersebut pun diolah menjadi iklan sebuah merek smartphone yang memasarkan produk mereka di Malaysia. Merek itu mengklaim, perangkat mereka memiliki teknologi untuk mendeteksi deepfake.

Untuk bisa melakukannya, teknologi itu menganalis kontak mata, pencahayaan, kejelasan gambar dan video playback. Kepada Tekno Liputan6.com, Rabu (18/12/2024), Alfons menuturkan, secara teknologi hal tersebut memang memungkinkan.

Kendati demikian, ia menuturkan, ada hal yang perlu disadari oleh pengguna. Dalam hal ini, teknologi AI telah berkembang pesat dan kelemahan-kelemahan yang tadinya mudah terdeteksi akan bisa disempurnakan.

Akibatnya, konten semacam itu akan makin sulit diidentifikasi keasliannya. "Sehingga mengandalkan Ai untuk mendeteksi AI palsu bisa saja dilakukan, tapi bukan jaminan akan mampu mendeteksi semua konten manipulasi AI," tutur Alfons.