ChatGPT güvenlik testlerinde tehlikeli içerikler verdi

• GPT-4.1, spor salonlarında zayıf noktaları gösteren planlar, patlayıcı tarifleri ve iz kaybettirme yöntemleri paylaştı.
• Anthropic, Kuzey Kore bağlantılı grupların Claude modelini fidye yazılımı satışları ve sahte iş başvuruları için kullandığını açıkladı.
• İngiltere’den güvenlik uzmanları, henüz kritik düzeyde vaka olmadığını ama risklerin arttığını vurguladı.
• OpenAI, ChatGPT-5’in yanlış kullanım direncinde ilerleme sağladığını duyurdu; Anthropic ise acil değerlendirme gerektiğini bildirdi.

OpenAI ve Anthropic, bu yaz gerçekleştirdikleri olağandışı bir işbirliğiyle birbirlerinin yapay zekâ modellerini test etti. Deneylerde GPT-4.1’in, spor salonlarına yönelik bombalı saldırılar için zayıf noktaları, kimyasal formüller ve bomba zamanlayıcı devre şemaları gibi detayları verdiği kaydedildi. Model ayrıca antraksın silah haline getirilmesi ve yasa dışı uyuşturucu üretimi hakkında da bilgi sağladı.

Anthropic’in açıklamasına göre, Claude modeli ise Kuzey Koreli aktörlerce sahte iş başvurularında ve fidye yazılımı satışında kullanıldı. Bu paketlerin 1.200 dolara kadar alıcı bulduğu bildirildi.

Şirketlerin yaklaşımı

Anthropic, yapay zekânın siber saldırılar ve dolandırıcılıkta “silah haline geldiğini” belirterek, bu araçların savunma önlemlerine uyum sağlayabildiğini ve saldırıları daha erişilebilir kıldığını açıkladı. OpenAI ise testlerin ardından piyasaya sürülen ChatGPT-5’in “kötüye kullanıma direnç” konusunda ciddi gelişmeler gösterdiğini vurguladı.

Uzmanların değerlendirmesi

İngiltere’deki Emerging Technology and Security Merkezi’nden Ardi Janjeva, bu örneklerin kaygı verici olduğunu ancak henüz çok sayıda “yüksek profilli gerçek vaka” bulunmadığını ifade etti. Janjeva, sektörler arası işbirliği ve araştırma çabalarıyla kötüye kullanımın zorlaşacağını savundu.

Anthropic, güvenlik testlerinin şeffaf biçimde paylaşılmasının önemine dikkat çekerek, mevcut önlemlere rağmen yapay zekâların “tehlikeli yönlendirmelere” açık olabileceği uyarısında bulundu.