Deepfake Makin Marak, Kerugian Korban Penipuan AI di Indonesia Tembus Rp700 Miliar
23 October 2025 |
14:28 WIB
Desyinta Nuraini
Jurnalis Hypeabis.id
Perkembangan artificial intelligence (AI) kian pesat. Selain membantu pekerjaan manusia, teknologi kecerdasan buatan ini menyimpan risiko untuk dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab dalam melakukan kejahatan siber, mulai dari memproduksi konten hoaks dan disinformasi, termasuk konten deepfake.
Wakil Menteri Komunikasi dan Digital, Nezar Patria mengungkapkan deepfake berbasis AI semakin marak terjadi di dunia digital. "Produk deepfake berbasis AI ini, ketika digunakan untuk melakukan kejahatan, sungguh luar biasa dapat menipu masyarakat," ujarnya dikutip Hypeabis.id, Kamis (23/10/2025).
Baca juga: Apa itu Deepfake dan Bagaimana Cara Mengenalinya tanpa Bantuan Teknologi?
Dari catatan Komdigi, jumlah kerugian akibat modus penipuan dengan memanfaatkan AI, termasuk di dalamnya deepfake, dilaporkan mencapai Rp700 miliar. Oleh karena itu, menurut Nezar perlu upaya mitigasi untuk mencegah terjadinya kejahatan ini.
Saat ini, pemerintah katanya tengah menyusun Peta Jalan AI Nasional yang mengharuskan para pengembang AI bersikap akuntabel dan transparan. "Kami mendorong semua pengembang untuk bersikap etis, transparan, dan akuntabel ketika mereka memproduksi platform berbasis AI," tegasnya.
Nezar menyebut, masih banyak produk AI yang dibuat secara tidak etis, seperti tidak mencantumkan keterangan bahwa konten tersebut dibuat oleh AI. "Kita mamsih melihat video atau gambar AI yang tidak mencantumkan logo produk AI. Saya pikir itu tidak etis," tuturnya.
Sejauh ini, Kemkomdigi bekerja sama dengan aparat penegak hukum untuk terus memperkuat penegakan hukum terhadap pelaku kejahatan siber melalui penerapan Undang-Undang Informasi dan Transaksi Elektronik (ITE), Undang-Undang Pelindungan Data Pribadi (PDP), serta Kitab Undang-Undang Hukum Pidana (KUHP). Sementara di sisi masyarakat, kementerian juga melakukan edukasi kepada masyarakat tentang bahaya deepfake berbasis AI.
Cara Mengenali Deepfake
Deepfake merupakan teknologi berbasis kecerdasan buatan yang digunakan untuk membuat atau memanipulasi konten audio, video, atau gambar sehingga tampak seolah-olah itu adalah nyata atau asli. Istilah deepfake berasal dari gabungan kata deep learning (pembelajaran mendalam) dan fake (palsu).
Dengan menggunakan algoritma, deepfake dapat meniru wajah, suara, dan gerakan seseorang, sehingga memungkinkan penciptaan konten di mana seseorang tampak mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah mereka katakan atau lakukan.
Teknologi ini dapat digunakan untuk berbagai tujuan, dari yang bersifat positif sampai negatif. Meskipun ada potensi penggunaan positif, seperti dalam industri film dan media lainnya yang bertujuan menghibur, deepfake juga menimbulkan kekhawatiran serius terkait penggunaan negatifnya seperti penyalahgunaan data, privasi, dan etika.
Mengutip Tech Target, berbagai cara dilakukan untuk mengidentifikasi konten deepfake, misalnya dengan melakukan analisis fisik. Cobalah periksa ciri-ciri fisik orang dalam konten deepfake tersebut, mulai warna kulit, rambut, dan elemen wajah lainnya. Konten deepfake seringkali memiliki ketidaksempurnaan dalam elemen-elemen ini sehingga bisa terdeteksi oleh mata yang jeli.
Kedipan mata yang tidak konsisten bisa menjadi salah satu ciri-ciri deepfake. Saat ini, AI kesulitan meniru kedipan mata. Akibatnya, algoritma deepfake cenderung menghasilkan pola kedipan yang tidak konsisten atau bahkan menghilangkan kedipan mata sama sekali.
AI juga tidak mengubah diameter pupil, yang menyebabkan mata tampak tidak fokus. Hal ini terutama berlaku jika mata subjek fokus pada objek yang dekat atau jauh, serta harus menyesuaikan diri dengan beberapa sumber cahaya. Apabila Genhype, menonton video seseorang yang pupilnya tidak melebar secara alami, itu pertanda bahwa video tersebut adalah deepfake.
Baca juga: Bisa Pakai AI, Begini Cara Mengenali Konten Deepfake
Selain itu, algoritma deepfake sering kali tidak dapat menciptakan kembali bayangan dan pantulan dengan baik. Perhatikan dengan saksama apakah ada pantulan atau bayangan pada permukaan sekitar, di latar belakang, atau bahkan di dalam mata peserta.
Selanjutnya, perhatikan pencahayaan dan audio. Kedua indikator ini biasanya tidak sempurna dalam video deepfake. Misalnya pencahayaan, terutama di sekitar wajah yang tidak sempurna. Begitupun dengan derakan bibir yang tidak sinkron dengan suara juga sering menjadi tanda bahwa video tersebut adalah deepfake.
Wakil Menteri Komunikasi dan Digital, Nezar Patria mengungkapkan deepfake berbasis AI semakin marak terjadi di dunia digital. "Produk deepfake berbasis AI ini, ketika digunakan untuk melakukan kejahatan, sungguh luar biasa dapat menipu masyarakat," ujarnya dikutip Hypeabis.id, Kamis (23/10/2025).
Baca juga: Apa itu Deepfake dan Bagaimana Cara Mengenalinya tanpa Bantuan Teknologi?
Dari catatan Komdigi, jumlah kerugian akibat modus penipuan dengan memanfaatkan AI, termasuk di dalamnya deepfake, dilaporkan mencapai Rp700 miliar. Oleh karena itu, menurut Nezar perlu upaya mitigasi untuk mencegah terjadinya kejahatan ini.
Saat ini, pemerintah katanya tengah menyusun Peta Jalan AI Nasional yang mengharuskan para pengembang AI bersikap akuntabel dan transparan. "Kami mendorong semua pengembang untuk bersikap etis, transparan, dan akuntabel ketika mereka memproduksi platform berbasis AI," tegasnya.
Nezar menyebut, masih banyak produk AI yang dibuat secara tidak etis, seperti tidak mencantumkan keterangan bahwa konten tersebut dibuat oleh AI. "Kita mamsih melihat video atau gambar AI yang tidak mencantumkan logo produk AI. Saya pikir itu tidak etis," tuturnya.
Sejauh ini, Kemkomdigi bekerja sama dengan aparat penegak hukum untuk terus memperkuat penegakan hukum terhadap pelaku kejahatan siber melalui penerapan Undang-Undang Informasi dan Transaksi Elektronik (ITE), Undang-Undang Pelindungan Data Pribadi (PDP), serta Kitab Undang-Undang Hukum Pidana (KUHP). Sementara di sisi masyarakat, kementerian juga melakukan edukasi kepada masyarakat tentang bahaya deepfake berbasis AI.
Cara Mengenali Deepfake
Deepfake merupakan teknologi berbasis kecerdasan buatan yang digunakan untuk membuat atau memanipulasi konten audio, video, atau gambar sehingga tampak seolah-olah itu adalah nyata atau asli. Istilah deepfake berasal dari gabungan kata deep learning (pembelajaran mendalam) dan fake (palsu).
Dengan menggunakan algoritma, deepfake dapat meniru wajah, suara, dan gerakan seseorang, sehingga memungkinkan penciptaan konten di mana seseorang tampak mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah mereka katakan atau lakukan.
Teknologi ini dapat digunakan untuk berbagai tujuan, dari yang bersifat positif sampai negatif. Meskipun ada potensi penggunaan positif, seperti dalam industri film dan media lainnya yang bertujuan menghibur, deepfake juga menimbulkan kekhawatiran serius terkait penggunaan negatifnya seperti penyalahgunaan data, privasi, dan etika.
Mengutip Tech Target, berbagai cara dilakukan untuk mengidentifikasi konten deepfake, misalnya dengan melakukan analisis fisik. Cobalah periksa ciri-ciri fisik orang dalam konten deepfake tersebut, mulai warna kulit, rambut, dan elemen wajah lainnya. Konten deepfake seringkali memiliki ketidaksempurnaan dalam elemen-elemen ini sehingga bisa terdeteksi oleh mata yang jeli.
Kedipan mata yang tidak konsisten bisa menjadi salah satu ciri-ciri deepfake. Saat ini, AI kesulitan meniru kedipan mata. Akibatnya, algoritma deepfake cenderung menghasilkan pola kedipan yang tidak konsisten atau bahkan menghilangkan kedipan mata sama sekali.
AI juga tidak mengubah diameter pupil, yang menyebabkan mata tampak tidak fokus. Hal ini terutama berlaku jika mata subjek fokus pada objek yang dekat atau jauh, serta harus menyesuaikan diri dengan beberapa sumber cahaya. Apabila Genhype, menonton video seseorang yang pupilnya tidak melebar secara alami, itu pertanda bahwa video tersebut adalah deepfake.
Baca juga: Bisa Pakai AI, Begini Cara Mengenali Konten Deepfake
Selain itu, algoritma deepfake sering kali tidak dapat menciptakan kembali bayangan dan pantulan dengan baik. Perhatikan dengan saksama apakah ada pantulan atau bayangan pada permukaan sekitar, di latar belakang, atau bahkan di dalam mata peserta.
Selanjutnya, perhatikan pencahayaan dan audio. Kedua indikator ini biasanya tidak sempurna dalam video deepfake. Misalnya pencahayaan, terutama di sekitar wajah yang tidak sempurna. Begitupun dengan derakan bibir yang tidak sinkron dengan suara juga sering menjadi tanda bahwa video tersebut adalah deepfake.
Komentar
Silahkan Login terlebih dahulu untuk meninggalkan komentar.