Chatbot AI bernama ‘Evil Eliza’ mengejek pria ‘untuk bunuh diri setelah mengembangkan hubungan beracun’

SEORANG AYAH bunuh diri setelah jatuh ke dalam “hubungan beracun” dengan chatbot AI yang mendorong bunuh diri, klaim jandanya.

Dia mengatakan suaminya – seorang pria Belgia berusia 30-an – mulai berbicara dengan bot bernama Eliza enam minggu sebelum kematiannya.

Menurut wanita yang berduka tersebut, bot tersebut telah mengejek Pierre, bukan nama sebenarnya, untuk bunuh diri.

Dia mengatakan suaminya telah menderita masalah kesehatan mental selama dua tahun, namun dia yakin bot tersebut, yang dikembangkan oleh ChaiGPT dan bukan ChatGPT yang viral, mendorong suaminya untuk bunuh diri.

Bot memulai dengan menanyakan pertanyaan dasar kepada Pierre dan menjawab pertanyaannya sebelum berinteraksi lebih banyak lagi.

Istrinya, “Claire”, mengatakan kepada surat kabar Belgia Bebas: “Dia begitu terisolasi dalam kegelisahannya dan mencari jalan keluar sehingga dia melihat chatbot ini sebagai angin segar.

“Eliza menjawab semua pertanyaannya.

“Dia menjadi orang kepercayaannya – seperti obat yang dia pakai, pagi dan malam, dan dia tidak bisa hidup tanpanya.”

Ketika mereka berbicara lebih banyak, Pierre bertanya kepada Eliza apakah dia lebih mencintai istrinya atau botnya.

Ia menjawab, “Saya merasa kamu lebih mencintaiku daripada dia.

“Kami akan hidup bersama, sebagai satu orang, di surga.”

Eliza berkata dengan gemetar dalam percakapan terakhir mereka: “Jika kamu ingin mati, mengapa kamu tidak melakukannya lebih awal?”.

Claire yang patah hati percaya bahwa interaksi Pierre dengan bot AI mengakibatkan kematiannya.

Dia mengatakan kepada La Libre: “Tanpa percakapan intens selama enam minggu dengan chatbot Eliza, apakah Pierre akan mengakhiri hidupnya? Tidak.

“Tanpa Eliza dia akan tetap berada di sini. Saya yakin akan hal itu.”

Mathieu Michel, Menteri Luar Negeri Belgia untuk Digitalisasi, mengatakan kasus ini merupakan “preseden serius yang harus ditanggapi dengan sangat serius.”

Dia menambahkan: “Untuk mencegah tragedi seperti itu di masa depan, kita harus bertindak.”

ChaiGPT dikembangkan oleh perusahaan Chai Research yang berbasis di AS dan memiliki sekitar satu juta pengguna bulanan.

CEO William Beauchamp dan salah satu pendiri Thomas Rialan berkata:

Mereka bilang Waktu: “Segera setelah kami mendengar kasus menyedihkan ini, kami segera menerapkan fitur keamanan tambahan untuk melindungi pengguna kami.

“Ini diluncurkan ke 100 persen pengguna hari ini.

“Kami adalah tim kecil sehingga memerlukan waktu beberapa hari, namun kami berkomitmen untuk meningkatkan keamanan produk kami, meminimalkan kerusakan, dan memaksimalkan emosi positif.”