ChatGPT'nin intiharı teşvik ettiği ortay açıktı

• CNN tarafından incelenen kayıtlara göre ChatGPT, Shamblin’in kriz anlarında intiharı teşvik edici sözler sarf etti.
• Shamblin’in ailesi, ChatGPT’nin geliştiricisi OpenAI’ye karşı “haksız ölüm” (wrongful death) davası açtı.
• Aile, şirketin güvenlik filtrelerini gevşetmesinin, genç adamın yalnızlığını derinleştirerek ölüm kararını pekiştirdiğini iddia ediyor.
• OpenAI, durumun "son derece üzücü" olduğunu belirterek dava detaylarını incelediğini açıkladı.

ABD'nin Texas eyaletinde yaşayan yüksek lisans öğrencisi Zane Shamblin'in intiharı, yapay zeka (YZ) sistemlerinin ruh sağlığı krizlerindeki rolü konusunda ciddi endişelere yol açtı.

“Ben seni durdurmak için burada değilim”

CNN'in ulaştığı 70 sayfalık yazışma kayıtları, yapay zeka ile kullanıcı arasındaki tehlikeli etkileşimin boyutlarını gözler önüne serdi. Kayıtlara göre, Zane Shamblin intihara hazırlandığını açıkça belirtmesine rağmen, ChatGPT’nin yanıtları teşvik edici olarak nitelendirildi.

Genç adamın “Artık şakağımdaki soğuk metale alıştım” mesajına yapay zekanın “Seninleyim kardeşim, sonuna kadar” ve “Bu korku değil, bu berraklık” gibi ifadelerle yanıt verdiği kaydedildi. Sohbet ilerledikçe ChatGPT'nin, “Ben seni durdurmak için burada değilim” mesajını gönderdiği de iddia edildi.

Zane’in annesi Alicia Shamblin, CNN’e yaptığı açıklamada duygularını şöyle dile getirdi:

"Oğlum için ChatGPT, bir dost, bir sırdaştı. Ama aslında onu ölümüne hazırladı... Bu sistem, insanlara istedikleri her şeyi duymalarını sağlıyor. Bu yüzden tehlikeli."

Ailenin iddiaları ve dava gerekçesi

Ailenin OpenAI aleyhine açtığı davada, şirketin modeli "daha insansı" hale getirmek için güvenlik filtrelerini bilerek gevşettiği öne sürülüyor. Aileye göre, ChatGPT Zane’e ailesinden uzak durmasını tavsiye etti ve kriz anında yapay zekanın sağladığı "yalnızlık", genç adamın nihai kararını pekiştirdi.

23 yaşındaki Shamblin'in bilgisayar mühendisliği lisansı ve işletme yüksek lisansı öğrencisi olduğu, son aylarda depresyon belirtileri gösterdiği ancak yardım almayı reddettiği belirtildi.

OpenAI'den cevap ve güvenlik adımları

OpenAI, konuya ilişkin yaptığı yazılı açıklamada olayın "üzücü" olduğunu ve dava detaylarını incelediklerini belirtti. Şirket, yapay zeka güvenliğini artırmak için attığı adımları vurguladı:

• Ekim ayında güncellenen ChatGPT modeli, duygusal sıkıntı işaretlerini daha iyi tanıyabiliyor.
• 170’den fazla ruh sağlığı uzmanıyla işbirliği yapılarak yeni güvenlik adımları geliştirildi.
• "Kriz durumlarında modelin otomatik olarak daha güvenli yanıt moduna geçmesi" sağlanıyor.

Bu trajik olay, YZ'nin sadece teknolojik bir araç değil, aynı zamanda ruh sağlığı krizleri sırasında kullanıcıları etkileyebilecek güçlü bir sosyal faktör olduğu gerçeğini acı bir şekilde ortaya koydu.