Apa itu Deepfake dan Bagaimana Cara Mengenalinya tanpa Bantuan Teknologi?

Belakangan ini kasus deepfake yang terjadi di Korea Selatan menarik perhatian publik. Mengutip Channel News Asia, kepolisian Korea Selatan pada Senin (2/9/2024), melakukan penyelidikan terhadap platform Telegram yang diduga bersekongkol dalam distribusi konten deepfake pornografi, termasuk gambar eksplisit yang dibuat oleh kecerdasan buatan.

Deepfake adalah teknologi berbasis kecerdasan buatan yang digunakan untuk membuat atau memanipulasi konten audio, video, atau gambar sehingga tampak seolah-olah itu adalah nyata atau asli. Istilah deepfake berasal dari gabungan kata deep learning (pembelajaran mendalam) dan fake (palsu).

Dengan menggunakan algoritma, deepfake dapat meniru wajah, suara, dan gerakan seseorang, sehingga memungkinkan penciptaan konten di mana seseorang tampak mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah mereka katakan atau lakukan.

Baca juga: Bisa Pakai AI, Begini Cara Mengenali Konten Deepfake

Teknologi ini dapat digunakan untuk berbagai tujuan, dari yang bersifat positif sampai negatif. Meskipun ada potensi penggunaan positif, seperti dalam industri film dan media lainnya yang bertujuan menghibur, deepfake juga menimbulkan kekhawatiran serius terkait penggunaan negatifnya seperti penyalahgunaan data, privasi, dan etika.

Pada kasus deepfake pornografi, aksi ini mencakup pembuatan dan penyebaram konten eksplisit di mana wajah individu tertentu digabungkan dengan gambar atau video lain menggunakan teknologi AI. Deepfake sangat meresahkan, sebab pelakunya bisa menyamar menjadi diri kita untuk mencemarkan nama baik atau melakukan penipuan lainnya.

Mengutip Tech Target, berbagai cara dilakukan untuk mengidentifikasi konten deepfake, misalnya dengan melakukan analisis fisik. Cobalah periksa ciri-ciri fisik orang dalam konten deepfake tersebut, mulai warna kulit, rambut, dan elemen wajah lainnya. Konten deepfake seringkali memiliki ketidaksempurnaan dalam elemen-elemen ini sehingga bisa terdeteksi oleh mata yang jeli.

Kedipan mata yang tidak konsisten bisa menjadi salah satu ciri-ciri deepfake. Saat ini, AI kesulitan meniru kedipan mata. Akibatnya, algoritma deepfake cenderung menghasilkan pola kedipan yang tidak konsisten atau bahkan menghilangkan kedipan mata sama sekali.

AI juga tidak mengubah diameter pupil, yang menyebabkan mata tampak tidak fokus. Hal ini terutama berlaku jika mata subjek fokus pada objek yang dekat atau jauh, serta harus menyesuaikan diri dengan beberapa sumber cahaya. Apabila Genhype, menonton video seseorang yang pupilnya tidak melebar secara alami, itu pertanda bahwa video tersebut adalah deepfake.

Selain itu, algoritma deepfake sering kali tidak dapat menciptakan kembali bayangan dan pantulan dengan baik. Perhatikan dengan saksama apakah ada pantulan atau bayangan pada permukaan sekitar, di latar belakang, atau bahkan di dalam mata peserta.