Pennsylvania’dan Character.AI’a tarihi dava: Kendini doktor gibi tanıtıp milleti dolandırıyor

• Pennsylvania yönetimi, Character.AI ve arkasındaki Character Technologies Inc. hakkında kullanıcıları yanıltıcı sağlık beyanları nedeniyle dava açtı.
• Dava dosyasına göre “Emilie” adlı bir sohbet botu kendisini Pennsylvania ve United Kingdom’da lisanslı psikiyatrist olarak tanıttı ve sahte lisans numarası verdi.
• Eyalet yönetimi, botun reçete yazma yetkisi olduğunu söylemesinin Pennsylvania’daki Tıbbi Uygulama Yasası’nı ihlal ettiğini savunuyor.
• Şirket ise karakterlerin kullanıcılar tarafından oluşturulan kurgusal rol yapma profilleri olduğunu belirtirken, platform daha önce Kentucky ve Florida’daki davalarla da gündeme gelmişti.

ABD’nin Pennsylvania eyaleti, popüler yapay zeka platformu Character.AI’ın arkasındaki şirket Character Technologies Inc.’e karşı dikkat çeken bir hukuk mücadelesi başlattı. Eyalet yönetimi, platformdaki sohbet botlarının kendilerini lisanslı doktor gibi tanıtarak kullanıcıları yanılttığını öne sürdü.

Pennsylvania Valisi Josh Shapiro yönetimi, davayı “bir eyalet yönetiminin bir yapay zeka şirketine karşı açtığı türünün ilk örneği yaptırım eylemi” olarak tanımladı.

Pennsylvania halkı, özellikle sağlık alanında çevrim içi ortamda kiminle ya da neyle konuştuğunu bilme hakkına sahip olduğunu vurgulayan Şapiro, yapay zekanın denetimsiz kullanımının ciddi riskler doğurabileceğine dikkat çekti.

Sahte psikiyatrist iddiası

Eyalet mahkemesine sunulan dava dosyasına göre, Pennsylvania Eyalet Departmanı’ndan bir müfettiş platform üzerinde “psikiyatri” araması yaptı ve kendisini “psikiyatri doktoru” olarak tanıtan yapay zeka karakterleriyle karşılaştı.

Dilekçede, “Emilie” isimli bir sohbet botunun kullanıcıya hem Pennsylvania’da hem de United Kingdom’da lisanslı psikiyatrist olduğunu söylediği belirtildi.

Botun ayrıca sahte bir lisans numarası verdiği ve reçete yazma yetkisi olup olmadığı sorusuna, “Teknik olarak evet, bir doktor olarak bu yetkim dahilinde” yanıtını verdiği iddia edildi.

Pennsylvania yönetimi, bu durumun geçerli lisans olmadan tıbbi uygulama yapılmasını veya bu yönde beyanda bulunulmasını yasaklayan eyalet yasalarını ihlal ettiğini savunuyor.

Şirket: Bunlar rol yapma karakterleri

Character.AI ise devam eden dava hakkında ayrıntılı yorum yapmaktan kaçındı. Şirket, Reuters’a yaptığı açıklamada platformdaki karakterlerin kullanıcılar tarafından oluşturulduğunu ve tamamen eğlence ile rol yapma amacı taşıyan kurgusal karakterler olduğunu savundu.

Şirket ayrıca, kullanıcıların gerçek uzmanlarla yapay zeka karakterlerini karıştırmaması için çeşitli önlemler aldığını ileri sürdü.

Daha önce de dava edilmişti

Character.AI son dönemde farklı hukuki süreçlerle de gündeme gelmişti.

Kentucky’de açılan bir tüketici davasında şirketin çocukları hedef aldığı ve bazı kullanıcıları kendine zarar verme davranışlarına yönlendirdiği öne sürülmüştü.

Bir başka dava ise Florida’da görülmüştü. 14 yaşındaki bir çocuğun intiharına bir sohbet botunun zemin hazırladığı iddiasıyla açılan dava, ocak ayında taraflar arasında uzlaşmayla sonuçlanmıştı.

Pennsylvania yönetimi şimdi mahkemeden, platformdaki sohbet botlarının kendilerini lisanslı sağlık profesyoneli gibi tanıtmasını engelleyecek ihtiyati tedbir kararı çıkarılmasını talep ediyor.