Di tengah-tengah era digital, keprihatinan mengenai berita palsu semakin menarik perhatian organisasi awam, media dan keperibadian dari semua jenis. Bukan untuk apa-apa, Fake News memiliki berat tertentu dalam proses pemilihan penting seperti pemilihan presiden Amerika Syarikat pada tahun 2016, referendum mengenai keluarnya United Kingdom dari Kesatuan Eropah atau jeneral Brazil yang memberi kemenangan kepada Bolsonaro.
Tanpa perlu melangkah jauh, di negara kita Facebook baru-baru ini terpaksa menutup tiga rangkaian besar-kanan yang melalui 30 halaman, kumpulan dan akaun pendua mengumpulkan lebih daripada satu setengah juta pengikut dan lebih daripada 7 juta interaksi . Kumpulan-kumpulan ini didedikasikan untuk menyebarkan tipuan dan gambar palsu.
Tetapi sekarang kita menghadapi ancaman digital jenis lain yang menimbulkan sakit kepala baru. Kami berbicara tentang apa yang disebut Deepfake, istilah yang timbul dari gabungan "Pembelajaran Dalam" dan "Palsu". Pada dasarnya ia adalah bentuk kecerdasan buatan yang membolehkan mana-mana pengguna mengedit video dan audio palsu orang yang kelihatan nyata. Untuk ini, rangkaian generatif antagonis (AGR) digunakan , sejenis algoritma yang dapat membuat jenis data baru dari set lain yang sudah ada.
Pada akhirnya, "deepfakes" adalah satu lagi bentuk manipulasi digital , dan salah satu yang paling mungkin digunakan untuk "trolling" dalam kes terbaik. Tetapi bagaimana kita dapat mengesannya? Dan, di atas segalanya, apa yang sedang dilakukan oleh institusi dan syarikat swasta untuk mengelakkan akibatnya yang teruk? Dalam rancangan khas ini, kita akan mengkaji semula usaha yang sedang dilakukan untuk menghentikan bencana digital baru ini.
Mengapa deepfakes begitu berbahaya?
Teknologi "deepfake" membolehkan kita mengganti wajah seseorang dengan mudah dengan wajah yang lain, seolah-olah seperti topeng atau topeng digital, untuk membuat kita percaya bahawa dia telah mengatakan perkara-perkara tertentu yang tidak pernah berlaku . Seperti yang anda sangka, teknik ini mempunyai satu siri implikasi yang cukup signifikan untuk menentukan kesahihan maklumat yang beredar di internet.
Walaupun mereka sering digunakan untuk membuat video lucu, kebenarannya adalah "deepfakes" berpotensi gelap untuk menghancurkan imej awam seseorang atau mempengaruhi pendapat umum melalui penggunaan maklumat yang tidak jelas. Malangnya, kami harus memberitahu anda bahawa penyalahgunaan ini lebih meluas daripada yang kami mahukan, dan dengan kejayaan besar, kami harus menambah.
Contoh yang jelas adalah dalam aplikasi DeepNude, yang membolehkan anda memuat naik gambar seseorang dengan pakaian dan membuat yang baru dengan orang telanjang yang sama . Nasib baik, ia sudah ditutup, tetapi kita mesti menekankan kemudahan penggunaan alat jenis ini yang tidak memerlukan pengetahuan penyuntingan kerana algoritma itu sendiri melakukan semua kerja.
Dalam kes DeepNude, platform ini menawarkan hasil yang sangat realistik dan dapat diakses sepenuhnya melalui laman webnya untuk Windows dan Linux . Dan seperti yang dijangkakan, montaj dengan selebriti seperti Katy Perry atau Gal Gadot tidak butuh waktu lama untuk muncul di rangkaian, sehingga tekanan pengacara pelakon wanita ini tidak berhenti sehingga laman web kandungan dewasa yang penting membuang video .
Ini hanyalah puncak gunung es dari kemampuan pengendalian yang dapat dimiliki oleh jenis aplikasi ini. Sekarang bayangkan akibat dari kempen jenis ini yang ditujukan terhadap tokoh politik tertentu untuk memanipulasi proses pilihan raya di sebuah negara atau wilayah. Jahat tidak mengenal had.
Bagaimanakah deepfakes diperjuangkan?
Salah satu syarikat pertama yang bersuara tidak lain adalah Google, yang mengumumkan kehendak tegasnya untuk memerangi deepfakes dan, seperti yang mereka katakan dalam kes ini, api dapat memadamkan api. Raksasa teknologi itu mengesahkan pelancaran keseluruhan pangkalan data hingga 3.000 video yang dimanipulasi dengan kecerdasan buatan (deepfakes) yang telah dibuat khusus untuk membantu menyempurnakan alat pengesanan penyelidik.
Untuk melakukan ini, Google telah mengupah pelakon sebenar untuk merakam wajah mereka dan menggunakannya sebagai rujukan untuk menentukan sama ada video telah diubah secara buatan. Dengan menggunakan kaedah pembuatan deepfake yang tersedia untuk semua orang, ribuan deepfake dibuat dari rakaman ini.
Video yang dihasilkan, nyata dan palsu, dimuat naik ke platform pengembangan kolaboratif GitHub sehingga penyelidik memahami sepenuhnya apa yang dihasilkan oleh sistem. Pangkalan data ini, seperti yang kami katakan, dapat diakses sepenuhnya, walaupun pertama-tama mereka harus memberi anda kebenaran .
Sebaliknya, Facebook juga merancang untuk membuat pangkalan data yang serupa pada akhir tahun ini. Menurut ketua pegawai eksekutifnya, Mark Zuckerberg, masalah utama adalah industri ini tidak mempunyai sistem piawai untuk mengesannya . Itulah sebabnya ia bekerjasama dengan Persatuan AI, Microsoft, dan akademik dari Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park, dan University of Albany-SUNY untuk membangun Deepfakes Detection Challenge. (DFDC untuk singkatannya dalam bahasa Inggeris).
Projek makro ini akan merangkumi pangkalan data yang luas dan klasifikasi terperinci , serta bantuan kewangan dan sumbangan untuk mendorong sebanyak mungkin kolaborator. Ideanya adalah untuk mewujudkan sejenis komuniti yang membantu mengesan dan mengelakkan video yang dimanipulasi melalui AI.
Tidak ada keraguan bahawa penyebaran "deepfakes" telah menjadi masalah yang sangat serius, dengan akibat buruk yang tidak dapat diabaikan. Walaupun langkah-langkah yang dicadangkan oleh ejen utama yang berkomitmen untuk tujuan ini mungkin kelihatan tidak praktikal, atau bahkan tidak produktif, dalam jangka panjang, mereka mungkin satu-satunya cara untuk membasmi jenayah ini. Walaupun kelihatan seperti berlawanan dengan intuitif, memerangi "deepfakes" dengan lebih banyak "deepfake" akan membantu alat pengesanan menyerap lebih banyak data untuk membantu mereka mencari montaj jenis ini dengan lebih mudah .