ChatGPT'nin son sürümlerinde halüsinasyonlar arttı
OpenAI’nin geliştirdiği GPT-o3 ve GPT o4-mini modelleri, daha gelişmiş düşünme teknikleriyle donatıldı. Ancak yapılan testler, bu modellerin daha fazla yanıltıcı bilgi ürettiğini ortaya koyuyor.
0:00
--:--
Son Güncelleme: 08.05.2025 - 14:41
ChatGPT - AA
- GPT-o3 modeli yanıtlarının %33’ünde, o4-mini ise %48’inde yanlış bilgi verdi.
- Yeni modellerde adım adım düşünme tekniği, halüsinasyonları azaltmak yerine artırdı.
- OpenAI, hataları anlatım cesareti ve kapsamlılıkla ilişkilendiriyor.
- Yanıltıcı bilgiler hukuk, sağlık ve kamu politikası gibi alanlarda ciddi riskler taşıyor.
OpenAI'nin son yapay zeka modelleri GPT-o3 ve o4-mini, insan benzeri düşünce yapısını taklit edebilmek için adım adım düşünme mekanizmasıyla tasarlandı. Ancak beklentilerin aksine, bu modeller daha fazla halüsinasyon; yani gerçekte olmayan ama inandırıcı görünen bilgiler üretmeye başladı.
Bir kamu figürleri testinde, GPT-o3 modelinin yanıtlarının yüzde 33'ü hatalıydı. Bu oran, önceki GPT-o1 modeline kıyasla iki kat daha fazla. Daha kompakt ve verimli olması amaçlanan GPT o4-mini ise %48 oranında yanlış bilgi verdi.
"Çok düşünmek" sorunun kendisi olabilir
Yeni modeller, basit metin üretiminin ötesine geçerek mantık yürütmeye çalışıyor. Fakat yapay zekanın düşündükçe hata yapma ihtimali artıyor. Araştırmacılara göre, bu modeller düşünce zincirlerini genişlettikçe, doğruluk oranı düşüyor.
Daha önceki modeller kısa ve öz cevaplar üretirken, bu yeni sistemler daha cesur, ayrıntılı ve teorik açıklamalara yöneliyor. Bu da onları ikna edici ama yanlış kılabiliyor.
Yapay zekanın hataları tehlikeli sonuçlar doğurabilir
Hukuki belgelerde, tıbbi tanılarda ya da devlet belgelerinde yapay zekanın üreteceği en küçük bir hata bile ciddi sonuçlar doğurabiliyor. Yakın zamanda, bazı avukatlar ChatGPT'den aldıkları uydurma mahkeme kararlarını sununca cezalandırıldı.
Benzer şekilde, eğitimde, iş dünyasında ya da kamu yönetiminde kullanılan yapay zeka sistemlerinin hataları daha da geniş çaplı etkiler yaratabilir.
Yapay zeka sistemleri daha fazla görev üstlendikçe, hatasız çalışmaları bekleniyor. Ancak ironik olarak, yapay zeka ne kadar kapsamlı ve detaylı hale gelirse, hata yapma riski de o kadar artıyor.
Kaynak:
GDH Haber
etiketler
İLGİLİ HABERLER
ChatGPT'ye inanıp evliliğini sonlandırma kararı aldı

ChatGPT, yeni özelliğini duyurdu: Derin araştırma
ChatGPT ile bağlanan silahın ateş açtığı görüntüler tartışma yarattı
Pentagon ile Elon Musk’ın yapay zeka robotu arasında Grok anlaşması iddiası
Lockheed Martin F-35 Lightning II’de yapay zekâ destekli muharebe tanımlamayı uçuşta test etti
ABD’den okyanus ötesi operasyon: Karayipler’den kaçan tankere Hint Okyanusu’nda el konuldu
DİĞER HABERLER
ABD’den okyanus ötesi operasyon: Karayipler’den kaçan tankere Hint Okyanusu’nda el konuldu
Fransa'dan Gazze'ye yardım girişlerinin ulaştırılması çağrısı
Pentagon ile Elon Musk’ın yapay zeka robotu arasında Grok anlaşması iddiası
İran Cumhurbaşkanı Pezeşkiyan'dan toplumsal birlik çağrısı
İran'da savaş hazırlıkları: Ülkeyi Ali Laricani mi yönetecek?
Seul'den Pyongyang'a "BM kararlarına uyun" çağrısı
NASA'nın Ay görevi Nisan ayına ertelendi
Avustralya Başbakanı Albanese güvenlik gerekçesiyle tahliye edildi
Brezilya'nın Juiz de Fora kentini vuran selde can kaybı artıyor
USS Gerald R. Ford’da kronik kanalizasyon arızası kriz yarattı



