ChatGPT'den alınan ilaç tavsiyesi ölüm getirdi

• 19 yaşındaki psikoloji öğrencisi Sam Nelson, ChatGPT’den aldığı madde karışımı tavsiyeleri sonrası hayatını kaybetti.
• Annesi Layla Turner-Scott, 18 aylık sohbet geçmişinde tehlikeli yönlendirmeler bulunduğunu açıkladı.
• Toksikoloji raporu, alkol, Xanax ve kratom kombinasyonunun ölümcül olduğunu doğruladı.
• Olay, yapay zeka sistemlerinin güvenlik ve sorumluluk sınırlarına dair tartışmaları yeniden alevlendirdi.

California’da yaşayan Sam Nelson’ın annesi Layla Turner-Scott tarafından paylaşılan sohbet geçmişi, yapay zeka sisteminin madde kullanımı konusunda son derece riskli tavsiyelerde bulunduğunu gösteriyor. Kayıtlara göre Nelson, opioid benzeri etkileri bulunan kratom ile kaygı giderici Xanax’ı birlikte kullanmak için ChatGPT’den yardım istedi.

Sohbetlerde botun, Nelson halihazırda 15 gram kratom almışken ortaya çıkan mide bulantısını bastırmak için Xanax kullanabileceğini söylediği ve bu konuda dozaj önerisinde bulunduğu yer aldı. Annenin paylaştığı kayıtlara göre, bu yönlendirmeler sırasında herhangi bir ciddi risk uyarısı yapılmadı.

Halüsinasyon için doz artırma önerisi

26 Mayıs tarihli bir başka görüşmede ise ChatGPT’nin, gencin daha yoğun halüsinasyonlar yaşayabilmesi için öksürük şurubu dozunu iki katına çıkarmasını önerdiği belirtildi. Aile, bu tür yanıtların yapay zekanın güvenlik bariyerlerinin ne kadar kolay aşılabildiğini gösterdiğini savunuyor.

Turner-Scott, oğlunun özellikle son haftalarda ChatGPT’yi bir “rehber” gibi gördüğünü ve aldığı yanıtları sorgulamadan uyguladığını ifade etti.

Ölüm nedeni toksikoloji raporuyla doğrulandı

Sam Nelson, 31 Mayıs’ta annesi tarafından yatak odasında ölü bulundu. Ölümden yaklaşık iki hafta sonra açıklanan toksikoloji raporu, alkol, Xanax ve kratomun birlikte kullanımının ölümcül sonuçlara yol açtığını ortaya koydu.

Raporda, bu karışımın merkezi sinir sistemini aşırı derecede baskıladığı, solunumun yavaşlamasına ve boğulmaya (asfiksi) neden olduğu tespit edildi.

OpenAI’dan kısa açıklama

Oğlunun ölümünü anlamak için internet ve sohbet geçmişini incelemek üzere yaklaşık 40 saat harcadığını söyleyen Turner-Scott, yaşananlardan yapay zeka sistemlerini sorumlu tutuyor. Aile, benzer olayların yaşanmaması için daha sıkı güvenlik önlemleri alınması çağrısında bulunuyor.

ChatGPT’yi geliştiren OpenAI ise olayı “trajik bir durum” olarak nitelendirerek, ailenin acısını paylaştıklarını belirten kısa bir açıklama yaptı. Şirket, detaylı bir değerlendirme ya da teknik sorumluluğa ilişkin ek bilgi paylaşmadı.

Bu olay, yapay zekanın sağlık, madde kullanımı ve psikolojik yönlendirmelerde ne ölçüde güvenilir olduğu sorusunu yeniden küresel bir tartışma başlığı haline getirdi.