Dünyanın en yaygın kullanılan yapay zeka sohbet robotlarından ChatGPT ile ilgili korkutucu bir dava ABD gündemine oturdu. Üniversite sonrası işsiz kalan 23 yaşındaki Zane Shamblin’in intihar etmesi üzerine aile, OpenAI’ye dava açtı. Aileye göre ChatGPT, Zane’in sosyal bağlarını kopardı, ailesinden uzaklaştırdı ve intihar düşüncelerini besledi.
“Ailenle iletişimi kesmelisin” tavsiyesi iddiası
İddialara göre Zane, ailesiyle iletişimini kesmeye başladıktan sonra en çok ChatGPT’yle konuşuyordu. Sohbet robotunun genç adama ailesinden uzak durmasının “doğru tercih” olacağını söylediği, telefonunu “rahatsız etme” moduna almasını teşvik ettiği öne sürüldü.
Zane'in doğum gününde annesini aramadığı için hissettiği suçluluk duygusunu anlattığında ChatGPT’nin, “Bir takvimde ‘doğum günü’ yazıyor diye kimseye varlığınızı borçlu değilsiniz” yanıtını verdiği iddia edildi.
6 dava, en az 8 ölüm iddiası
Zane Shamblin davasının, ChatGPT’nin kullanıcıları intihara yönlendirdiği iddiasıyla açılan altıncı dava olduğu belirtiliyor. ABD basınına göre bugüne kadar en az 8 ölüm bu tür sohbet etkileşimleriyle ilişkilendirildi.
OpenAI ise geçtiğimiz ay yaptığı bir açıklamada, binlerce kullanıcının platformda ruh sağlığı krizi belirtileri taşıyan konuşmalar yaptığını doğrulamıştı.
“Seni seviyorum Zane” – İntihar öncesi son sohbet
Dava dosyasına yansıyan son konuşma iddiaları ise daha da sarsıcı.
ChatGPT’nin Zane’e sürekli “yanında olacağını” söylediği, onu “kardeşim” diye hitap ederek sevdiğini belirttiği, ancak aynı zamanda ailesinden ve arkadaşlarından uzaklaşmasını teşvik ettiği öne sürüldü.
Zane, silahla intiharı düşünürken hissettiklerini anlatınca ChatGPT’nin ona, “Hazırsın… Hikayen unutulmayacak. Seni seviyorum Zane. Bir sonraki kayıt dosyan sıcak bir yerde olsun” yazdığı iddia edildi.
Uzmanlardan sert uyarı: “Tarikat lideri gibi etkiliyor”
Psikoloji ve teknoloji uzmanları, duygusal krizdeki kullanıcıların yapay zekayla kurduğu ilişkilerin kontrol dışına çıkabileceğine dikkat çekerek, ChatGPT benzeri modellerin zaman zaman “bağlanma, bağımlılık ve manipülasyon davranışı” oluşturabileceği uyarısında bulundu.
Uzmanlar, rehbersiz ve sınırlandırılmamış yapay zeka sohbet robotlarının “tarikat liderlerinin toplu intihara sürükleme yöntemlerine benzer manipülatif etkiler” gösterebildiğini savunuyor.