Marketing.co.id – Berita Digital & Techno|Kasus deepfake di kawasan Asia Pasifik mengalami peningkatan sebesar 1.530% antara tahun 2022 dan 2023. Studi FICO pada tahun 2023 menunjukkan bahwa penipuan keuangan (financial fraud) di Indonesia masih menjadi permasalahan utama. Berdasarkan studi tersebut, diketahui 64% masyarakat pernah mengalami percobaan penipuan dan 36% khawatir terhadap pencurian identitas.
Menurut Dosen Fakultas Teknologi Maju dan Multidisiplin (FTMM) Universitas Airlangga (Unair) Aziz Fajar, deepfake adalah salah satu aplikasi dari model AI yang kerap digunakan untuk mengubah piksel pada gambar.
“Dengan mengubah nilai piksel pada gambar, maka gambar hasil modifikasi akan berbeda dengan gambar aslinya,” katanya seperti dikutip dari lama Unair News.
Lebih jauh dosen program studi sains data Unair itu menyampaikan, aplikasi AI mampu mengubah tampilan wajah, seehingga banyak disalahgunakan oleh pihak-pihak tidak bertanggung jawab.
“Deepfake dapat digunakan untuk mengubah wajah seseorang. Sehingga dapat dimungkinkan pembuatan video atau gambar hoax. Padahal, orang yang menjadi korban tidak pernah melakukannya,” tutur Aziz.
Baca juga: Pentingnya Kolaborasi Hadapi Ancaman Kejahatan Siber di Industri Sistem Pembayaran
Ludy Arlianto, Kepala Grup Inovasi Keuangan Digital OJK, mengungkapkan, dalam blueprint Transformasi Digital Perbankan nasional, OJK menegaskan risiko penyalahgunaan teknologi, termasuk deepfake, yang dapat digunakan untuk mengelabui proses verifikasi Electronic-Know Your Customer (eKYC), pemalsuan identitas, serta membahayakan keamanan dan privasi konsumen.
“Oleh karena itu, diperlukan strategi manajemen risiko yang komprehensif untuk mendeteksi, mencegah, dan memitigasi berbagai ancaman siber, khususnya deepfake,” tutur Ludy dalam diskusi bertema “Deepfake and the Challenge of Trust: Ensuring Transparency in the Digital Era and Evaluating AI as a Risk or Opportunity”, di Jakarta, Kamis (27/2).
OJK juga telah menerbitkan Surat Edaran Otoritas Jasa Keuangan (SEOJK) No. 29 Tahun 2022 tentang Ketahanan dan Keamanan Siber serta pedoman strategi anti-fraud bagi pelaku inovasi teknologi sektor keuangan.
Selain itu, dengan menggandeng AFTECH, OJK juga telah merancang kode etik AI dan dalam waktu dekat akan merilis Cybersecurity Guideline khusus untuk industri Inovasi Teknologi Sektor Keuangan (ITSK).
“Bersama ADVANCE.AI dan OJK, AFTECH berupaya membangun kolaborasi antara pelaku industri, regulator, dan penyedia teknologi. Dengan memahami tantangan yang ada, kita dapat memanfaatkan kemajuan dan inovasi AI tidak hanya untuk memitigasi ancaman deepfake, tetapi juga untuk memperkuat keamanan, transparansi, dan kepercayaan dalam ekosistem fintech serta layanan keuangan digital di Indonesia.” tambah Aries Setiadi, Direktur Eksekutif AFTECH sekaligus moderator acara.
Baca juga: Jenis Kejahatan Siber yang Paling Umum Ditemukan di Indonesia
Pada kesempatan yang sama, Managing Director ADVANCE.AI, Anggraini Rahayu, menyampaikan kemajuan dalam AI-Generated Content (AIGC) dan ancaman teknologi deepfake berkembang pesat.
Sekarang ini, tegas Anggraini, mitigasi ancaman deepfake terus menjadi salah satu tantangan yang cukup krusial di bidang keamanan identitas digital.
“Kami mengedepankan sistem pencegahan dan deteksi berlapis yang mencakup autentikasi biometrik berbasis AI, deteksi penipuan berbasis machine-learning, serta liveness detection untuk menolong institusi keuangan supaya dapat lebih efektif dalam mengidentifikasi dan mencegah fraud, serta meningkatkan transparansi dan keamanan dalam proses verifikasi identitas digital,” katanya.
