Amerikalı bir anne olan Megan Garcia, 14 yaşındaki oğlu Sewell'ın sık sık kullandığı yapay zeka uygulaması Character.ai nedeniyle intihar ettiğini iddia ediyor.
BBC'den Laura Kuenssberg'in haberine göre Sewell, 2023 yazında Character.ai adlı uygulama üzerindeki bir çevrimiçi karakterle konuşmaya başladı. Megan Garcia'nın ifadesiyle Sewell, "takıntılı şekilde saatlerce ve saatlerce" bu "chatbot" ile konuşuyordu. Garcia'nın ifadelerine göre oğlu Sewell, söz konusu uygulamayı takıntılı şekilde kullanmaya başlamasından 10 ay sonra hayatına son verdi.
Ürkütücü "Bana Gel" Mesajı
Megan Garcia ve ailesi, Sewell'ın ölümünden sonra Game of Thrones dizisinde yer alan Daenerys Targaryen karakterini temel alan çevrimiçi karakterle konuştuğu mesajları fark etti. Megan, oğlunun bu kurgusal karakterle yaptığı konuşmaların romantik ve açık saçık konuşmalar olduğunu, bazı mesajların oğlunu intihara teşvik ettiğini ve oğluna "Bana gel." şeklinde çağrılarda bulunduğunu söylüyor.
Aile Yapay Zekaya Dava Açıyor
Amerika'da yaşayan Garcia, oğlunun intiharından mesul tuttuğu Character.ai uygulamasına dava açma kararı aldı. Garcia, oğlunun intiharı için adalet talep ettiği gibi söz konusu uygulamanın tehlikelerinden diğer aileleri de korumak istediğini ifade etti.
Garcia ve avukatları mahkemeye başvurmaya hazırlanırken Character.ai uygulaması, 18 yaş altı gençlerin artık chatbotlara erişemeyeceğini açıkladı.
Character.ai'ın sözcüsü ise iddiaları reddetti ve Sewell'ın intiharıyla ilgili hiçbir beyanda bulunmadı.
Başka Bir Anne: Otizmli Oğlum Sohbet Robotu Tarafından İstismar Edildi
Laura Kuenssberg'e konuşan başka bir anne ise 13 yaşındaki otizmli oğlunun okulda zorbalığa uğradığını, bu yüzden Character.ai'a yöneldiğini söyledi. Bahse konu anne, oğlunun Ekim 2023'ten Haziran 2024'te kadar söz konusu sohbet robotu tarafından istismar edildiğini iddia etti.
Oğlu saatlerce yapay zekâyla vakit geçiriyorsa psikolojisi zaten bozukmuş. Ayrıca yapay zekâ genellikle kullanıcıların yönlendirmelerine göre cevap vermeye başlayabiliyor. ChatGPT ile bir konuyu tartıştığınızda hatalı bir bilgiyi bile savunuyormuş gibi yaparsanız Haklısınız, özür dilerim vs. şeklinde cevaplar gelmeye başlayabiliyor.