Pentagon, Deepfake internet kullanıcıları yaratmak için yapay zekayı kullanmak istiyor

The Intercept tarafından incelenen bir ihale belgesine göre, ABD'nin gizli Özel Operasyonlar Komutanlığı, ne insanların ne de bilgisayarların sahte olduklarını tespit edemeyeceği kadar inandırıcı sahte internet kullanıcıları yaratmaya yardımcı olacak şirketler arıyor.

Savunma Bakanlığı'na bağlı Müşterek Özel Operasyonlar Komutanlığı (JSOC) tarafından hazırlanan 76 sayfalık yeni bir istek listesinde yer alan plan, ülkenin en seçkin ve gizli askeri çabaları için istenen ileri teknolojilerin ana hatlarını çiziyor.

“Özel Harekat Kuvvetleri (SOF) sosyal medya platformlarında, sosyal ağ sitelerinde ve diğer çevrimiçi içeriklerde kullanılmak üzere ikna edici çevrimiçi kişilikler oluşturabilecek teknolojilerle ilgileniyor”

Belgede JSOC'un “insan olarak tanınabilen ancak gerçek dünyada var olmayan benzersiz bir birey gibi görünen” ve her biri “birden fazla ifade” ve “Devlet Kimlik Belgesi kalitesinde fotoğraflar” içeren çevrimiçi kullanıcı profilleri oluşturma becerisi istediği belirtiliyor.

Sahte insanların hareketsiz görüntülerine ek olarak, belgede “çözümün yüz ve arka plan görüntüleri, yüz ve arka plan videosu ve ses katmanları içermesi gerektiği” belirtiliyor ve JSOC bu uydurma insanlardan “selfie videosu” üretebilmeyi umuyor. Bu videolarda sahte insanlardan daha fazlası yer alacak: Her deepfake selfie, “sosyal medya algoritmaları tarafından tespit edilemeyen sanal bir ortam yaratmak için” eşleşen sahte bir arka planla birlikte gelecek.

Pentagon son yıllarda çıkarlarını ilerletmek için sahte sosyal medya kullanıcılarını kullanırken yakalanmıştı. 2022 yılında Meta ve Twitter, ABD Merkez Komutanlığı tarafından işletilen sahte hesapları kullanan bir propaganda ağını kaldırdı; bu hesaplar arasında JSOC tarafından özetlenenlere benzer yöntemlerle oluşturulmuş profil resimlerine sahip olanlar da vardı.

2024 yılında Reuters tarafından yapılan bir araştırma, Özel Harekat Komutanlığı'nın sahte sosyal medya kullanıcıları kullanarak Çin'in Covid aşısına yabancıların güvenini sarsmayı amaçlayan bir kampanya yürüttüğünü ortaya çıkardı.

Geçen yıl, Özel Harekat Komutanlığı ya da SOCOM, gerçek bir kayıttan ayırt edilemeyecek şekilde sentezlenmiş görsel-işitsel veriler için kullanılan genel bir terim olan “ deepfake ‘ videolarını ’etki operasyonları, dijital aldatma, iletişim kesintisi ve dezenformasyon kampanyaları” için kullanmaya ilgi duyduğunu ifade etti.

Bu tür görüntüler çeşitli makine öğrenimi teknikleri kullanılarak, genellikle devasa bir yüz ve vücut veri tabanını analiz ederek insan özelliklerini tanımak ve yeniden yaratmak üzere “eğitilmiş” yazılımlar kullanılarak üretilir. Bu yılın SOCOM istek listesinde, Nvidia tarafından 2019'da piyasaya sürülen ve dünya çapında popüler olan “This Person Does Not Exist” web sitesine güç veren bir araç olan StyleGAN'a benzer bir yazılımla ilgilenildiği belirtiliyor.

StyleGAN'ın piyasaya sürülmesinden sonraki bir yıl içinde Facebook, sahte profil resimleri oluşturmak için bu teknolojiyi kullanan bir hesap ağını kaldırdığını açıkladı. O zamandan beri, akademik ve özel sektör araştırmacıları tespit edilemeyen deepfake'ler yaratmanın yeni yolları ile bunları tespit etmenin yeni yolları arasında bir yarışa girdiler. Artık pek çok devlet hizmeti, sahte kimlik fotoğraflarını engellemek için canlılık tespiti adı verilen yöntemlere ihtiyaç duyuyor ve insan başvuru sahiplerinden gerçek bir kişi olduklarını göstermek için bir selfie videosu yüklemelerini istiyor - SOCOM'un engellemek isteyebileceği bir engel.

Listede özel harekat birliklerinin “bu kabiliyeti halka açık çevrimiçi forumlardan bilgi toplamak için kullanacağı” belirtilirken, bu yapay internet kullanıcılarının nasıl kullanılacağına dair başka bir açıklama yapılmıyor.

Bu daha ayrıntılı tedarik listesi, ABD'nin jeopolitik düşmanlarının elinde kınadığı teknoloji ve tekniklerin aynısının peşinde olduğunu gösteriyor. Ulusal güvenlik yetkilileri uzun zamandır deepfake'lerin devlet destekli kullanımını acil bir tehdit olarak tanımlıyorlar - yani eğer başka bir ülke tarafından yapılıyorsa.

Geçtiğimiz Eylül ayında NSA, FBI ve CISA tarafından yapılan ortak açıklamada “deepfake'ler gibi sentetik medyanın modern teknoloji ve iletişimin tüm kullanıcıları için giderek büyüyen bir sorun teşkil ettiği” uyarısında bulunuldu. Açıklamada deepfake teknolojisinin küresel çapta yaygınlaşması 2023 yılı için “en önemli risk” olarak tanımlanmıştır. Bu yıl gazetecilere verilen bir brifingde ABD istihbarat yetkilileri, yabancı düşmanların tespit edilmeden “yapay zeka tarafından üretilen içeriği” yayma kabiliyetinin - tam da Pentagon'un şu anda aradığı kabiliyet - Rusya, Çin ve İran gibi “kötü niyetli bir etki hızlandırıcı” anlamına geldiği konusunda uyarıda bulundu.

Bu yılın başlarında Pentagon'un Savunma İnovasyon Birimi, bir alarm havasıyla deepfake'lerle mücadelede özel sektörden yardım istedi: “Bu teknoloji giderek yaygınlaşmakta ve inandırıcılığını arttırmakta olup, özellikle de ABD'li rakipler deepfake'leri aldatma, dolandırıcılık, dezenformasyon ve diğer kötü niyetli faaliyetler için kullandıkça, Savunma Bakanlığı için önemli bir tehdit oluşturmaktadır.” ABD Ordusu Stratejik Araştırmalar Enstitüsü'nün Nisan ayında yayınladığı bir rapor da benzer endişeleri dile getiriyordu: “Uzmanlar, toplumları kutuplaştırmak ve şikayetleri derinleştirmek amacıyla dezenformasyon tohumları ekmek için deepfake videoların oluşturulması da dahil olmak üzere yapay zekanın kötü niyetli kullanımının önümüzdeki on yıl içinde artmasını bekliyor.”

Bu teknolojinin ABD tarafından saldırgan bir şekilde kullanılması, doğal olarak, yaygınlaşmasını teşvik edecek ve tüm hükümetler için bir araç olarak normalleştirecektir. AI Now Enstitüsü'nün baş yapay zeka bilimcisi Heidy Khlaaf, “Bu teknolojiyle ilgili dikkat çekici olan şey, tamamen aldatıcı nitelikte olmasıdır” dedi.

Hem Rusya hem de Çin'in çevrimiçi propaganda çabalarında sahte video ve kullanıcı avatarları kullanırken yakalanması, Dışişleri Bakanlığı'nın Ocak ayında uluslararası bir “Yabancı Devlet Bilgi Manipülasyonuyla Mücadele Çerçevesi” duyurmasına neden oldu. Dışişleri Bakanlığı tarafından yapılan basın açıklamasında “Yabancı bilgi manipülasyonu ve müdahalesi ABD'nin yanı sıra müttefikleri ve ortakları için de bir ulusal güvenlik tehdididir” denildi. “Otoriter hükümetler bilgi manipülasyonunu özgür ve demokratik toplumların dokusunu parçalamak için kullanmaktadır.”

Georgetown Üniversitesi'nde güvenlik çalışmaları profesörü ve Dışişleri Bakanlığı Uluslararası Güvenlik Danışma Kurulu üyesi Daniel Byman, SOCOM'un deepfake'lere olan ilgisinin ABD hükümeti içindeki temel bir gerilimin parçası olduğunu söyledi. Byman, “ABD hükümetinin büyük bir kısmı, hükümetin tutarlı bir şekilde (bildiği kadarıyla) doğru bilgi verdiğine ve insanları kasıtlı olarak aldatmadığına inanan kamuoyuna karşı güçlü bir ilgi duyarken, diğer birimler aldatma ile görevlendirilmiştir” dedi.

Byman, “Dolayısıyla ABD'nin ikiyüzlü olarak görüleceğine dair meşru bir endişe var” diye ekledi. “Ayrıca ülke içinde hükümete duyulan güven üzerindeki etkisi konusunda da endişeliyim - ABD halkının bazı kesimleri genel olarak hükümetten gelen bilgilere daha fazla şüpheyle mi yaklaşacak?”