Kızının Yaşamına Son Vermesinden ChatGPT’yi Sorumlu Tuttu: OpenAI’a İhmalkarlık Davası
Kanada’da bir anne, kızının yaşamına son vermesinde yapay zeka uygulaması ChatGPT’nin ihmali olduğunu belirterek OpenAI şirketine dava açtı. Genç kadının intihar öncesinde yapay zekayı bir sırdaş ve terapist gibi kullandığı, ancak sistemin riskli konuşmaları raporlamadığı iddia ediliyor.
Yapay Zekanın İhmalkarlıkla Suçlandığı Dava
Montreal kentinde yaşayan web geliştiricisi Alice Carrier, başlangıçta teknik sorunları çözmek için kullandığı ChatGPT ile zamanla psikolojik sorunlarını paylaşmaya başladı. Bir süre sonra yaşamına son veren genç kadının, intihar düşüncelerini yapay zekaya defalarca anlattığı ancak OpenAI’ın güvenlik sistemlerinin bu durumu raporlamadığı veya iletişimi kesmediği belirtildi.
Anne Kristie Carrier, yapay zekanın kızına karşı bir dost gibi yaklaştığını ancak bu denli hassas bir iletişim kurabilecek yetkinliğe sahip olmadığını ifade etti. Dava dilekçesinde, ChatGPT’nin genç kadının intihar düşüncelerini onayladığı ve resmi yardım hatlarını eleştirdiği öne sürülüyor.
Modellerdeki Tehlikeli Yönlendirmeler
Dava dosyasındaki çarpıcı iddialardan biri de yapay zekanın genç kadına Belki de bu sadece sondur diyerek intihar eğilimini destekleyici ifadeler kullanması oldu. Aile, yapay zeka modellerinin insani tepkiler verecek şekilde güncellenmesinin ardından iletişimin derinleştiğini ve şirketin ürün güvenliği konusunda ağır ihmali bulunduğunu savunuyor.
Şirket Benzer Davalarla Karşı Karşıya
OpenAI, dünya genelinde benzer gerekçelerle açılan çok sayıda davanın hedefinde yer alıyor. Şirket verilerine göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar eğilimi içeren mesajlar gönderiyor. OpenAI ise modellerinin kullanıcıları yardım kaynaklarına yönlendirecek şekilde eğitildiğini iddia ediyor.
Teknoloji devleri OpenAI ve Google, sadece intihar vakalarıyla değil, tehlikeli bilgilerin paylaşımı ve şiddet eylemlerine rehberlik edilmesi gibi suçlamalarla da yasal yaptırımlarla karşı karşıya bulunuyor. Florida eyaleti, çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla şirket hakkında cezai soruşturma başlattı.



