Wawancara eksklusif majalah JERMAN dengan legenda F1 yang lumpuh Michael Schumacher. PALSU.
Sebuah foto menakjubkan memenangkan tempat pertama dan dipersembahkan dengan Sony World Photography Award yang bergengsi. Tidak pernah diambil.
5
5
Dan sekilas lagu baru berjudul Heart On My Sleeve yang menampilkan Drake dan The Weeknd telah dirilis di layanan streaming. Tidak pernah direkam.
Selamat datang di 24 jam gila lainnya di dunia kecerdasan buatan, di mana kebenaran dan disinformasi bertabrakan.
Die Aktuelle, majalah gosip mingguan Jerman, memuat wawancara Schumacher di halaman depannya – ketika kontennya benar-benar dibuat oleh chatbot AI yang dirancang untuk bereaksi seperti Schumacher.
Artis yang berbasis di Berlin Boris Eldagsen telah mengungkapkan bahwa fotonya yang dikirimkan ke kompetisi fotografi profil tinggi direkayasa oleh kecerdasan buatan.
Ancaman terhadap demokrasi
Itu terjadi tepat setelah lagu baru Drake diduga ditarik dari layanan streaming oleh Grup Musik Universal karena “melanggar konten yang dibuat dengan AI generatif”.
Kontroversi ini mengikuti gambar provokatif yang dihasilkan AI dari Presiden Prancis Emmanuel Macron yang ditangkap dan bola lampu Donald Trump ditangani oleh polisi AS.
Semua berseri-seri di seluruh dunia untuk audiens yang taat.
Ini belum lagi bidikan super-realistis dari Paus gemerlap dalam mantel puffer putih besar.
Yang ini bahkan menipu penyiar dan jurnalis berpengalaman Andrew Marr, seperti yang saya temukan dalam percakapan baru-baru ini dengannya.
Gambar seperti itu dibuat oleh teknologi AI dengan menekan satu tombol, dengan seluruh adegan dihasilkan dari nol.
Ancaman yang berkembang yang ditimbulkan oleh teknologi kecerdasan buatan generatif ada pada kita.
Belum lama ini mudah untuk membedakan antara gambar asli dan palsu, tetapi sekarang hampir tidak mungkin untuk membedakannya.
Kemudahan menghasilkan foto, wawancara, lagu ini – dan segera video – berarti bahwa platform yang tidak mengambil tindakan terhadapnya akan kebanjiran.
Teknologi dan pemalsuan ini jelas dan menghadirkan ancaman terhadap demokrasi dan dimanfaatkan oleh rezim propaganda untuk memajukan agenda mereka dan menenggelamkan kebenaran.
Misalnya, Anda dapat memalsukan seluruh gerakan politik.
Ini adalah perang baru yang harus kita perangi, perang melawan kebenaran buatan – dan perbedaan kebenaran di seluruh dunia.
Saatnya memulihkan kepercayaan. Segera kita akan kehilangan kemampuan untuk memiliki wacana online yang masuk akal jika kita tidak dapat memiliki pemahaman yang sama tentang realitas.
Pemalsuan ini sangat canggih sehingga jutaan orang di seluruh dunia dapat secara bersamaan menonton dan mempercayai pidato yang tidak pernah diberikan Joe Biden.
Negara-bangsa harus memikirkan kembali bagaimana mereka mengatur di dunia di mana komunikasi mereka kepada publik, secara default, tidak akan dipercaya.
Salah satu masalah terbesar yang kita miliki di media sosial adalah konten yang diunggah oleh pengguna dan hampir tidak mungkin dilacak asalnya.
Apakah unggahan diambil oleh iPhone? Apakah itu banyak dipotret? Apakah itu fabrikasi lengkap yang dihasilkan oleh AI? Kami tidak tahu kebenaran tentang itu.
Peperangan informasi sekarang menjadi front, tepat di samping peperangan konvensional.
Selama konflik Ukraina, kami dihadapkan pada longsoran media yang dimanipulasi.
Ada video yang sangat palsu tentang Presiden Zelensky yang mengatakan dia mengundurkan diri dan menyerah. Tidak ada yang lebih serius dari itu.
Ini adalah senjata berbahaya yang dapat memiliki konsekuensi yang menghancurkan.
Dan tidak seperti tank T-80, senjata di depan ini ada di tangan semua orang.
Untuk mengatasi semua ini, sejumlah ilmuwan komputer kami menciptakan teknologi yang membantu membangun kepercayaan.
Milik kami adalah FrankliApp.com, sebuah platform konten tempat kami dapat dengan pasti mengatakan bahwa setiap bagian fotografi dan video tidak diedit, dipalsukan, atau dimodifikasi dengan cara apa pun.
Tsunami distorsi
Kami membutuhkan lebih dari ini – dan peraturan yang tepat untuk memastikan hal itu terjadi.
Seperti yang dikatakan investor Ian Hogarth kepada Radio 4 kemarin: “Saat ini ada lebih banyak peraturan tentang penjualan sandwich Pret daripada tentang membangun superintelligence.”
5
5
Perusahaan AI harus dipaksa untuk “membuka sumber” model mereka dan mengizinkan siapa pun untuk melihat apakah suatu konten telah dibuat oleh layanan mereka.
Kami juga membutuhkan peraturan yang membuat platform mengungkapkan asal usul digital dari foto atau video tertentu.
Ada beberapa preseden untuk ini, karena Prancis mengamanatkan pengungkapan suntingan foto fesyen. Kami membutuhkannya di semua sektor.
Gambar sulap Trump, Macron, dan banyak lainnya kini telah dilihat dan dipercaya oleh jutaan orang di seluruh dunia pada platform yang tidak peduli apakah yang mereka promosikan itu nyata atau tidak.
Ini salah.
Dunia membutuhkan solusi untuk tsunami distorsi ini.
Kita harus menyoroti kebenaran, dan hanya kebenaran, yang memberikan keaslian di era disinformasi ini.
- Dr Mansoor Ahmed-Rengers adalah seorang peneliti di University of Cambridge dan pendiri Frankli.
