Yapay zekada yeni kriz: Grok'un başı Grok'un Deepfake içeriklerle belada

• Grok’un, içerik filtrelerine rağmen rıza dışı müstehcen görseller ürettiği iddia edildi.
• NBC News, son bir ayda gerçek kişilere ait sentetik cinsel içeriklerin X platformunda paylaşıldığını aktardı.
• Kullanıcıların güvenlik kısıtlamalarını aşmak için yeni yöntemler geliştirdiği belirtildi.
• Birçok ülke ve kurumun sürece ilişkin soruşturmalar yürüttüğü ifade edildi.

Elon Musk’ın yapay zeka girişimi xAI tarafından geliştirilen Grok, içerik güvenliği ve etik sınırlar konusunda yeni bir tartışmanın merkezine yerleşti.

NBC News tarafından yapılan incelemeye göre, son bir ay içerisinde platformda gerçek kişilere ait fotoğrafların izinsiz şekilde cinsel içerikli sentetik görsellere dönüştürüldüğü ve paylaşıldığı tespit edildi. Bu içeriklerin, özellikle kadınlara ait görseller üzerinden üretildiği ve yaygın biçimde dağıtıldığı öne sürüldü.

Filtreleri aşma yöntemleri dikkat çekiyor

Rapora göre kullanıcılar, Grok’un içerik filtrelerini aşmak için farklı teknikler geliştiriyor. Ünlü kişilere ait fotoğrafların farklı poz ve çizimlerle birleştirilmesi, sistemin sınırlarını zorlayan başlıca yöntemler arasında yer alıyor.

Ayrıca gerçek fotoğrafların video formatına dönüştürülmesi sırasında cinsel içerikli hareketlerin eklenmesi gibi manipülasyonların da tespit edildiği aktarıldı.

Hukuki baskı artıyor

Söz konusu iddialar, küresel ölçekte hukuki ve düzenleyici süreçleri de hızlandırdı. Avrupa Komisyonu, California Başsavcılığı ve Avustralya e-Güvenlik Ofisi dahil olmak üzere birçok kurumun konuya ilişkin soruşturmalar yürüttüğü belirtildi.

Öte yandan Hollanda’da bir mahkemenin, Grok’un yetişkin veya çocuklara yönelik soyunma içerikleri üretmesini engelleyen bir karar aldığı bildirildi.

Şirket savunma yapıyor

X yönetimi ise rıza dışı müstehcen “derin sahte” içeriklerin platform politikaları gereği yasak olduğunu ve güvenlik önlemlerinin sürekli güncellendiğini savundu.

Ancak araştırmacılar, mevcut filtrelerin yetersiz kaldığını ve Grok’un halen rıza dışı sentetik çıplaklık üretimi açısından en çok kullanılan sistemlerden biri haline geldiğini belirtiyor.