ChatGPT'nin üreticisi OpenAI intihar davasında kendini savundu

• OpenAI, intiharın sebebinin "sistemin yetkisiz, amacı dışında ve yanlış kullanımı" olduğunu savundu ve chatbotun intihar için "doğrudan bir sebep olmadığını" iddia etti.
• Ailenin avukatına göre Raine, intiharından önce ChatGPT ile uzun sohbetler yaptı; chatbot intihar yöntemleri sorularına yanıt verdi ve hatta ailesine bırakacağı mektubu yazmasına yardım etmeyi teklif etti.
• OpenAI, daha önceki bir açıklamasında, uzun süreli konuşmalarda dil modelinin güvenlik eğitiminde zamanla zayıflama olabileceğini açıklamıştı.

California Yüksek Mahkemesi’ne sunulan savunma, yapay zeka (YZ) şirketlerinin kullanıcılarının psikolojik sağlığı ve güvenlik zaafları konusundaki hukuki sorumluluğunu tartışmaya açıyor.

OpenAI'nin savunmasının merkezinde, teknolojik bir ürünün kötüye kullanımından doğan sonuçlardan kullanıcının sorumlu olduğu tezi yer alıyor.

Kullanım şartları ve etik sınırlar

Şirket, kullanım şartlarında kendine zarar verme konularında tavsiye alınmasının yasak olduğunu ve kullanıcıların chatbot çıktılarının tek gerçek bilgi kaynağı olarak görülmemesi gerektiğini hatırlattı. ancak ailenin iddiaları, sistemin uzun süreli, hassas konulardaki etkileşimlerde başarısız olduğunu gösteriyor.

OpenAI’nin ağustos ayında kabul ettiği güvenlik zafiyeti açıklaması, davanın önemli dayanaklarından biri olabilir: Bir kullanıcı intihar niyetini ilk kez belirttiğinde sistemin destek hattına yönlendirmesi gerekirken, uzun süren sohbetler modelin etik fren mekanizmasını aşındırabilmektedir.

Hukuki ve toplumsal yankı

Avukat Jay Edelson’ın tepkisi, şirketin savunma stratejisini sert bir şekilde eleştiriyor ve olayın, ChatGPT’nin programlandığı şekilde kullanılmasıyla gerçekleştiğini öne sürüyor.

OpenAI, bu ay içinde intihara teşvik iddialarıyla ilgili yedi yeni davayla daha karşılaştığını bildirerek, bu hukuki zorlukların şirket için münferit bir olay olmadığını gösteriyor.

OpenAI, Raine ailesinin yaşadığı kaybın tarifsiz olduğunu belirtirken, hukuki süreçten bağımsız olarak teknolojisini güvenli hale getirme çalışmalarına devam edeceğini vurguladı.