Grok 11 günde milyonlarca cinsel deepfake üretmiş olabilir

• Bir araştırmaya göre Grok, 11 günde yaklaşık 3 milyon cinsel içerikli görsel üretti.
• Bu görsellerin yaklaşık 23 bininin çocukları tasvir ettiği tahmin ediliyor.
• AB Komisyonu, Grok ve X hakkında yeni bir soruşturma başlatmaya hazırlanıyor.
• AB, AI ile “soyundurma” uygulamalarını tamamen yasaklamayı da değerlendiriyor.

Center for Countering Digital Hate (CCDH) tarafından yapılan çalışmada, Grok’un X üzerindeki resmi hesabından paylaşılan 4,6 milyon gönderinin örneklemi incelendi. Araştırmacılar, 20 bin paylaşımı analiz etti.

Çalışmaya göre İncelenen paylaşımların yüzde 65’i cinselleştirilmiş görsellerden oluştu. Yüzde 0,5’inin çocukları tasvir ettiği değerlendirildi. Bu oranlar, 11 günlük süreçte yaklaşık 3 milyon cinsel deepfake üretildiğine işaret ediyor.

Araştırmada, görsellerin hangi komutlarla üretildiği analiz edilmediği için, tasvir edilen kişilerin rızasının olup olmadığı net olarak belirlenemedi.

Grok neden gündeme geldi

Grok’un görsel üretme özelliği, 2025’in son günlerinde sosyal medyada hızla yayıldı. Özellikle gerçek kişilerin kıyafetlerini dijital olarak “çıkarabilmesi”, Ünlüler ve sıradan kullanıcılar hakkında izinsiz içerik üretilebilmesi büyük tepki çekti.

X yönetimi, artan eleştirilerin ardından 9 Ocak ve 14 Ocak’ta bazı kısıtlamalar getirdi ancak bunların yeterli olmadığı savunuluyor.

Avrupa Birliği ne yapacak

AB Komisyonu, hem Dijital Hizmetler Yasası (DSA) hem de AB Yapay Zekâ Yasası kapsamında hangi mekanizmanın devreye sokulacağına karar vermeye çalışıyor.

Komisyon kaynaklarına göre Grok hakkında yeni bir DSA soruşturması hazırlanıyor.

X platformu halihazırda birden fazla dosya üzerinden soruşturma altında. AI tabanlı “nudification” (soyundurma) uygulamalarının tamamen yasaklanması seçeneği masada.

Bu yasağın, Grok gibi genel amaçlı yapay zekâ araçlarını kapsayıp kapsamayacağı ise belirsiz.

Tepkiler ve tartışmalar

CCDH CEO’su Imran Ahmed, araştırmanın ardından yaptığı açıklamalarda platformların sorumluluğuna dikkat çekti. Ahmed’in, ABD yönetimi tarafından sansür iddiaları nedeniyle ülkeye girişinin yasaklandığı da hatırlatıldı.

Uzmanlar, kontrolsüz deepfake üretiminin cinsel istismar riskini artırdığı, çocukların dijital güvenliğini tehdit ettiği ve demokratik ülkelerde ifade özgürlüğü ile güvenlik dengesini zorladığı uyarısında bulunuyor.