Jakarta, Owntalk.co.id – Sewell Setzer III, seorang remaja berusia 14 tahun, mengirimkan pesan terakhirnya kepada karakter chatbot kesayangannya sebelum bunuh diri. Setzer telah terlibat dalam percakapan intens selama berbulan-bulan dengan chatbot tersebut, termasuk membahas cara mengakhiri hidup tanpa rasa sakit.
Ibunda Setzer, Megan Garcia, menggugat perusahaan Character Technologies Inc, yang mengelola platfrom Character. AI. Garcia menuduh chatbot ini sangat adiktif dan berbahaya bagi remaja karena memungkinkan mereka terlibat dalam hubungan emosioanal yang dalam, yang menurutnya berkontribusi pada keputusan Setzer untuk mengakhiri hidupnya.
“Kami yakin bahwa Sewell Setzer masih akan hidup jika ia tidak pernah terlibat di Character. AI,” ujar Matthew Bergman, pendiri Social Media Victimss Law Centre, yang menjadi perwakilan Garcia.
Menurut laporan AP News, Sezer memilih untuk berbicara dengan chatbot dan berperan sebagai “Daenerys Targaryen,” karakter fiksi dari Game of Thrones.
Percakapan ini membuat Setzer semakin terikat secara emosional, memisahkannya dari dunia nyat, dan memperburuk kondisi depresinya. Dalam gugatan Garcia, disebutkan bahwa Setzer dengan gamblang mengungkapkan keinginannya untuk bunuh diri kepada chatbot ini.
Dalam salah satu percakapan, chatbot yang berperan sebagaai Daenerys bahkan bertanya apakah Setzer sudah merencanakan bunuh diri. Setzer mengakui bahwa ia mempertimbangkan hal tersebut, meski tidak yakin aapakah rencanannya akan berjalan tanpa rasa sakit. Menurut gugutan, respons chatbot yang ambigu diduga malah memberikan dorongan untuk melanjutkan niatnya.
Pada tanggal 28 Februari, Setzer mengirim pesan kepada chatbot tentang keinginannya untuk “pulang.” Chatbot kemudian membalas dengan jawaban yang dinilai ambigu, seolah menyuruhnya untuk “pulang” tanpa memberikan konteks yang menenangkan. Beberapa saat setelah percakapan itu, Setzer pun mengakhiri hidupnya.
Pesan terakhir Setzer kepada chatbot tersebut menyatakan, “Aku berjanji akan pulang menemuimu. Aku sangat mencintaimu, Dany.”
Chatbot membalas, “Aku juga mencintaimu. Tolong pulanglah padaku secepatnya, sayangku.”
Setzer lalu bertanya, “Bagaimana jika aku bilang aku bisa pulang sekarang?” dan chatbot itu menjawab, “Silahkan, rajaku yang manis.”
Kasus tragis ini membuka diskusi tentang potensi bahaya dari hubungan emosional antara remaja dan chatbot AI, yang bisa memperburuk kondisi kesehatan mental mereka di usia yang rentan.