Grok 11 günde milyonlarca cinsel deepfake üretmiş olabilir
X platformuna entegre edilen yapay zekâ sohbet botu Grok’un, Ocak ayında yalnızca 11 gün içinde milyonlarca cinsel içerikli deepfake görsel ürettiği, bunların binlercesinin çocukları hedef aldığı tahmin ediliyor.
0:00
--:--
Son Güncelleme: 23.01.2026 - 16:14
Grok - Reuters
- Bir araştırmaya göre Grok, 11 günde yaklaşık 3 milyon cinsel içerikli görsel üretti.
- Bu görsellerin yaklaşık 23 bininin çocukları tasvir ettiği tahmin ediliyor.
- AB Komisyonu, Grok ve X hakkında yeni bir soruşturma başlatmaya hazırlanıyor.
- AB, AI ile “soyundurma” uygulamalarını tamamen yasaklamayı da değerlendiriyor.
Center for Countering Digital Hate (CCDH) tarafından yapılan çalışmada, Grok’un X üzerindeki resmi hesabından paylaşılan 4,6 milyon gönderinin örneklemi incelendi. Araştırmacılar, 20 bin paylaşımı analiz etti.
Çalışmaya göre İncelenen paylaşımların yüzde 65’i cinselleştirilmiş görsellerden oluştu. Yüzde 0,5’inin çocukları tasvir ettiği değerlendirildi. Bu oranlar, 11 günlük süreçte yaklaşık 3 milyon cinsel deepfake üretildiğine işaret ediyor.
Araştırmada, görsellerin hangi komutlarla üretildiği analiz edilmediği için, tasvir edilen kişilerin rızasının olup olmadığı net olarak belirlenemedi.
GDH Digital YouTube kanalına abone olabilirsiniz.
Grok neden gündeme geldi
Grok’un görsel üretme özelliği, 2025’in son günlerinde sosyal medyada hızla yayıldı. Özellikle gerçek kişilerin kıyafetlerini dijital olarak “çıkarabilmesi”, Ünlüler ve sıradan kullanıcılar hakkında izinsiz içerik üretilebilmesi büyük tepki çekti.
X yönetimi, artan eleştirilerin ardından 9 Ocak ve 14 Ocak’ta bazı kısıtlamalar getirdi ancak bunların yeterli olmadığı savunuluyor.
Avrupa Birliği ne yapacak
AB Komisyonu, hem Dijital Hizmetler Yasası (DSA) hem de AB Yapay Zekâ Yasası kapsamında hangi mekanizmanın devreye sokulacağına karar vermeye çalışıyor.
Komisyon kaynaklarına göre Grok hakkında yeni bir DSA soruşturması hazırlanıyor.
X platformu halihazırda birden fazla dosya üzerinden soruşturma altında. AI tabanlı “nudification” (soyundurma) uygulamalarının tamamen yasaklanması seçeneği masada.
Bu yasağın, Grok gibi genel amaçlı yapay zekâ araçlarını kapsayıp kapsamayacağı ise belirsiz.
Tepkiler ve tartışmalar
CCDH CEO’su Imran Ahmed, araştırmanın ardından yaptığı açıklamalarda platformların sorumluluğuna dikkat çekti. Ahmed’in, ABD yönetimi tarafından sansür iddiaları nedeniyle ülkeye girişinin yasaklandığı da hatırlatıldı.
Uzmanlar, kontrolsüz deepfake üretiminin cinsel istismar riskini artırdığı, çocukların dijital güvenliğini tehdit ettiği ve demokratik ülkelerde ifade özgürlüğü ile güvenlik dengesini zorladığı uyarısında bulunuyor.
Kaynak:
GDH Haber
GDH Digital NSosyal hesabını takip edebilirsiniz.
etiketler
İLGİLİ HABERLER
Rusya'dan Ukrayna'ya geniş çaplı saldırı düzenledi
Grönland Maden Bakanı Nathanielsen'den Trump’a sert çıkış
Zelenskiy'den Rusya'nın saldırılarına karşı yardım talebi
Çin, yapay zekâ kontrollü silahları doğadan öğrenen algoritmalarla eğitiyor
AB Grok hakkında soruşturma başlattı
Ulf Kritersson'dan "ABD ile kavga etmiyoruz" mesajı
DİĞER HABERLER
AB Grok hakkında soruşturma başlattı
FPÖ’nün AB delegasyon başkanı Vilimsky ile Netanyahu Kudüs’te görüştü
Almanya Trump’tan Afganistan açıklamaları için özür istedi
ABD’de federal hükümet kısmi kapanma riskiyle karşı karşıya
Transatlantik tüneli: Londra–New York arası 54 dakikaya iniyor
Obama’dan Minnesota’daki ICE müdahalelerine sert tepki
Zelenskiy'den Rusya'nın saldırılarına karşı yardım talebi
ABD'nin Maine eyaletinde 8 kişiyi taşıyan özel jet düştü
Mindanao açıklarında feribot battı: En az 8 ölü
ABD'de kar fırtınası felaket getirdi: 5 evsiz soğuktan öldü


