“Wawancara” Michael Schumacher yang dibuat oleh AI SHAMELESS menunjukkan bagaimana bot “beracun” dapat dijadikan senjata, seorang pakar telah memperingatkan.
Majalah Jerman Die Aktuelle mendapat kecaman setelah mengklaim menampilkan “wawancara eksklusif pertama” sang legenda F1 sejak kecelakaan ski yang mengerikan.
3
Namun artikel tersebut tidak seperti yang terlihat, karena terungkap bahwa artikel tersebut membuat klaim seram tentang kesehatan Schumacer – setelah dibuat oleh chatbot yang didukung kecerdasan buatan.
Majalah tersebut dicap “hambar” karena menerbitkan wawancara palsu dan keluarga pembalap ikonik tersebut kini mempertimbangkan tindakan hukum terhadap perusahaan tersebut.
Lisa Palmer, seorang analis dan pakar AI, mengatakan kepada The Sun Online betapa berbahayanya bot digital dalam situasi seperti ini – dan bagaimana bot digital dapat digunakan dengan cara yang semakin berbahaya.
Dia memperingatkan bahwa konten seperti wawancara palsu yang dibuat oleh AI hanya akan menjadi semakin umum seiring dengan berkembangnya teknologi dan disalahgunakan oleh aktor-aktor “buruk”.
Dan meskipun “wawancara” dengan Schuey menjijikkan – AI dapat digunakan dengan cara yang lebih berbahaya, seperti memalsukan percakapan dengan politisi.
Dia menambahkan bahwa dengan banyaknya manusia yang menyalahgunakan AI, versi sistem di masa depan akan “diracuni” oleh pembelajaran mesin mereka.
Palmer mengatakan kepada The Sun Online: “Beberapa dari produk palsu ini memiliki kualitas yang sangat tinggi sehingga hanya komputer yang dapat membedakan mana yang palsu dan mana yang asli.”
Pakar tersebut menjelaskan bahwa tuntutan hukum yang diajukan oleh keluarga Schumacher adalah putaran terbaru litigasi yang berpusat pada AI – sesuatu yang juga akan menjadi semakin umum.
“Tuntutan hukum atas pencemaran nama baik sudah tertunda karena ‘kebohongan’ yang dilakukan oleh alat AI generatif seperti ChatGPT,” katanya kepada The Sun Online.
Ketika ditanya apakah ini adalah sesuatu yang akan kita lihat lebih banyak lagi di masa depan, dia menjawab: “Ya, kepalsuan dalam segala bentuk – tertulis, suara dan video – semuanya meledak.”
‘Eksklusif dunia’ palsu menampilkan versi ciptaan AI dari juara F1 tujuh kali Schumacher yang ‘terbuka’ tentang kehidupannya sejak menderita cedera otak parah saat liburan keluarga di Pegunungan Alpen Prancis pada Desember 2013.
Dalam artikel tersebut, yang menurut majalah tersebut “terdengar seperti nyata”, Schuey mengatakan, “Hidup saya telah berubah total sejak (kecelakaan itu).
“Itu adalah saat yang mengerikan bagi istri saya, anak-anak saya, dan seluruh keluarga.”
Palmer memperingatkan bahwa aktor jahat yang mencari pemirsa setelah publikasi mengejutkan ini akan tergoda untuk lebih banyak menggunakan metode wawancara AI.
Ia bahkan menghubungkan situasi mimpi buruk tersebut dengan keseriusan seorang koki yang menjual makanan busuk kepada pelanggannya.
“Koki yang menyajikan makanan busuk tidak etis dan membahayakan kesehatan pelanggannya,” katanya.
“Makanan busuk menyebabkan penyakit pribadi. Pemberitaan yang busuk menyebabkan penyakit sosial.”
Setelah terungkap bahwa karya tersebut disatukan dengan chatbot AI, pembaca kagum dengan banyaknya detail yang dijelaskan tentang dugaan pemulihan Schumacher.
Ketika ditanya bagaimana perasaan “dia” hari ini, AI berkata: “Jauh lebih baik dibandingkan tahun lalu. Dengan bantuan tim saya, saya bahkan dapat berdiri sendiri lagi dan bahkan berjalan beberapa langkah perlahan.”
Artikel tersebut hanya mengungkapkan di akhir “wawancara” yang kacau bahwa semuanya diciptakan dengan AI.
Ini adalah kombinasi terburuk dari teknologi canggih yang mungkin terjadi di tangan orang-orang yang tidak etis.
Lisa Palmer
Palmer berkata, “Bayangkan jika sebuah outlet berita besar memuat berita politik palsu yang menyebabkan pemberontakan warga? Jenis pemberitaan tidak etis seperti ini sangat berbahaya.
“Ini adalah kombinasi terburuk dari teknologi canggih yang mungkin terjadi di tangan orang-orang yang tidak etis.
“Sekarang bayangkan cerita palsu ini menjadi data pelatihan untuk sistem AI.
“AI versi baru kini ‘diracuni’ dengan kebohongan.”
Dr Tim Stevens, pakar keamanan siber dari Kings College London, juga menunjukkan tantangan yang ditimbulkan oleh AI yang disoroti oleh “wawancara” Schumacher.
“Akan menarik untuk melihat kasus ini untuk diambil tindakan hukumnya,” katanya kepada The Sun Online.
Dia mengatakan kepada The Sun Online: “Anda pasti bertanya-tanya apa yang dipikirkan Die Aktuelle.”
Dr Stevens melanjutkan: “Bahkan jika ini merupakan semacam eksperimen dalam produksi konten, pembaca Die Aktuelle tidak akan mengetahuinya sampai mereka membaca sampai akhir artikel.
“Ini adalah tindakan curang yang dilakukan majalah tersebut, yang malah menempelkan cerita di sampulnya.
“Pembaca majalah tersebut seharusnya merasa dirugikan, meski tentu saja tidak sebesar Schumacher dan keluarganya.
“Status Schumacher sebagai superstar olahraga tidak bisa dijadikan alasan untuk tindakan majalah tersebut. Dia adalah orang yang rentan dan seharusnya diberi martabat yang pantas diterimanya.”
Dia menambahkan: “Dalam kaitannya dengan implikasi yang lebih besar, hal ini seharusnya membuat penerbit berpikir.
“Menerbitkan materi palsu tentang orang yang masih hidup atau sudah meninggal adalah praktik yang mengerikan, tidak peduli bagaimana cara materi tersebut diproduksi.”
Meskipun Die Aktuelle mengakui bahwa mereka belum benar-benar berbicara dengan Michael atau keluarganya, cerita tersebut diakhiri dengan penulis anonim yang mengatakan bahwa jika mereka berhasil berbicara sendiri dengan Michael, itu akan menjadi “keajaiban yang nyata”.
Michael telah mengalami koma yang diinduksi secara medis sejak tahun 2013 dan hanya sedikit yang diketahui tentang kesehatannya sejak saat itu.
3
