Advertisements

Masalah Aplikasi penukar wajah Deepfake

Masalah Aplikasi penukar wajah Deepfake sedang merajalela dimana-mana. Mungkin itulah sebabnya, Facebook membentuk tim editorial profesional. Tim editorial ini akan memilih berita yang dapat diandalkan di Facebook. Dan kemudian merekomendasikannya kepada pengguna Facebook.  Meskipun Facebook selalu memungkiri bahwa mereka tidak akan membuat media berita. Mereka hanya perusahaan medsos. Tetapi mekanisme penyuntingan seperti itu sangat mirip dengan cara kerja media tradisional. Sebagai jejaring sosial yang bertanggungjawab, Facebook harus menciptakan media berita yang bisa dipercaya. Seperti mengatasi Masalah Aplikasi penukar wajah Deepfake atau Zao dari China.

Masalah Aplikasi penukar wajah Deepfake

Ada banyak informasi di Internet. Dan sulit bagi orang biasa untuk membedakan keaslian dan kepalsuannya. Apalagi dengan kematangan teknologi AI untuk membuat video palsu, akan lebih sulit untuk membedakan keaslian suatu berita.

Majalah Scientific American pernah menganalisis dampak besar teknologi penipuan video AI terhadap masyarakat. Bahaya terbesar dari video palsu adalah menghancurkan kehilangan kepercayaan pada internet. Yang akhirnya, mungkin memicu dan meningkatkan berbagai kontradiksi sosial. Bila video palsu disalahgunakan, semua orang akan menjadi korban.

Sebenarnya, sintesis video bukanlah teknologi baru. Sintesis video telah muncul tahun 1960-an. Dan diadopsi secara luas oleh industri film Hollywood di 1980-an. Misalnya, film “Forrest Gump”. Ada adegan jabat tangan antara Forrest Gump dengan Presiden Kennedy yang terlihat sangat realistis. Pada saat itu, teknologi ini tidak membawa masalah sosial karena ambang pembuatan yang cukup tinggi.

Namun, Munculnya teknologi pembelajaran mendalam AI telah mengurangi ambang teknologi sintesis video. Efek mengubah wajah yang dulunya hanya mungkin dilakukan  Hollywood, sekarang dapat dilakukan oleh orang biasa melalui komputer. Atau bahkan ponsel.  Ini adalah Fakta yang dikhawatirkan. Ibarat meletakkan tombol senjata nuklir di tangan publik. Bisa dibayangkan betapa besar konsekuensinya.

Hal ini juga muncul di China. Yakni aplikasi serupa bernama Zao. Aplikasi yang meledak hanya dalam semalam. Pengguna dapat mengganti wajah bintang film dengan wajah mereka sendiri. Yang sulit untuk dibedakan keaslian dan kepalsuannya.

Pada awalnya, Deepfake membutuhkan puluhan ribu foto sebagai bahan pelatihan untuk mencapai gambar nyata dalam video pengganti. Namun seiring perkembangan AI, teknik pemalsuan video secara otomatis menghasilkan gambar video hanya dengan satu foto. Seperti pengalaman yang saya alami di aplikasi ZAO juga.  

Video palsu tidak hanya terlihat realistis, tetapi yang menakutkan adalah mungkin ada orang mampun mengendalikannya dengan sangat presisi. Pada permulaannya, teknik pemalsuan hanya dapat mengubah wajah dalam film porno. Tetapi belum sampai dua tahun, teknik pemalsuan telah bisa mengedit suara dan mulut manusia.  

Dengan kata lain, Anda dapat memalsukan siapa pun untuk berbicara di depan kamera hanya dengan mengikuti skrip yang Anda tulis.

Anda dapat membayangkan Donald Trump baru saja selesai berbicara, dan telah ada video palsu yang beredaran di Internet mengubah pidatonya. Regulator AS khawatir teknologi video palsu ini akan mempengaruhi Pilpres AS 2020 mendatang.

Pada bulan Mei tahun ini, hal serupa terjadi pada Nancy Pelosi Ketua DPR AS. Pidato videonya sengaja diedit dan diperlambat dan kemudian diunggah ke Internet. Pidato Pelosi dalam video itu sangat ambigu. Orang-orang menduga mungkin Pelosi lagi mabuk atau terserang stroke. Ketika video palsu terus muncul berulang kali di depan kita melalui berbagai saluran informasi, ini pasti akan memengaruhi pandangan kita.

Dalam Pilpres AS 2016, banyaknya berita palsu yang bermunculan telah membuat kebanyakan orang Amerika ketakutan. Jika video palsu menjadi kekuatan utama dengan konten memfitnah, dapat dibayangkan bagaimana konsekuensinya.

Teknologi mengidentifikasi keaslian video

Teknologi identifikasi saat ini selalu berjalan terbelakang. Masih belum mampu menyeimbangi kemajuan Masalah Aplikasi penukar wajah Deepfake misalnya.

Video palsu di hari-hari awal memiliki kelemahan besar. Yaitu kedipan mata. Secara normal, Manusia biasanya berkedip setiap dua hingga tiga detik sekali. Namum, karakter dalam video hampir tidak berkedip. Ini karena sebagian besar video palsu diambil dengan gambar statis. Jadi tidak ada kedipan mata.

Saat ini ada teknologi utama yang digunakan untuk mengidentifikasi video palsu. Namanya “MediFor.” Cara otentikasinya ada tiga aspek. Salah satunya melalui “sidik jari elektronik” video. Cara mengidentifikasinya sangat mudah, apakah video tersebut ada cacat halus pada gambar. Metode kedua adalah melihat apakah orang-orang atau objek dalam video ada melanggar hukum fisika. Seperti gerakan atau ekspresi aneh. Atau cahaya disekitarnya tidak alami dll.

Yang ketiga adalah memeriksa informasi tambahan. Misalnya, cuaca yang ditampilkan dalam video apakah sejalan dengan situasi nyata pada hari pengambilan video. Jika tidak benar, maka bisa dipastikan itu adalah video palsu.

Masalah Aplikasi penukar wajah Deepfake
Masalah Aplikasi penukar wajah Deepfake telah mengancam konsensus global

Namun, perkembangan teknologi pendeteksian tidak secepat pengembangan teknologi pemalsuan. Ibarat permainan kucing menangkap tikus yang tidak pernah usai.  Alexei Evros, profesor komputer University of California di Berkeley menegaskan: “Kita mungkin tidak bisa memenangkan permainan ini. Yang bisa kita lakukan hanyalah menciptakan hambatan. Mempersulit orang jahat membuat lebih banyak video palsu.”

Baru-baru ini, Facebook menginvestasikan Dana sebesar 10 juta dolar bergabung dengan Microsoft untuk meluncurkan tantangan deteksi video palsu. Mereka akan bekerja dengan akademisi di MIT, Oxford, dan Berkeley untuk mengembangkan teknologi yang lebih efektif dalam mengidentifikasi video palsu.

Pada saat yang sama, DPR AS mengeluarkan UU mewajibkan pembuatan video sintetis harus menambahkan tanda air atau teks yang tidak dapat dihapus. Yang berfungsi menekankan bahwa itu video palsu. Jika tidak, mereka akan dikenakan hukum pidana.

Just like grandma says, krisis yang ditimbulkan oleh Teknologi AI Masalah Aplikasi penukar wajah Deepfake atau Zao, harus mendapatkan perhatian serius. Karena Teknologi sintesis video atau pemalsuan video tidak hanya melanggar privasi, keamanan informasi, pornografi atau permainan politik. Melainkan telah menantang batas keaslian dan kepercayaan kita terhadap internet. Pemalsuan video telah mengancam kepercayaan dan konsensus kita. Dimana, ini adalah ikatan spiritual yang menopang seluruh masyarakat Dunia. Apabila ikatan ini terputus, teknologi secanggih apapun tidak akan bisa menebus kesalahan ini.

Advertisements
Categories: Masalah Aplikasi penukar wajah Deepfake

Leave a Reply

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d bloggers like this: