İsrail, hava saldırıları için yapay zekayı kullanmaya başladı

Ordu belirli operasyonlar hakkında yorum yapmasa da, yetkililer şu anda hava saldırıları için hedef seçmek üzere büyük miktarda veriyi işleyebilen bir yapay zeka öneri sistemi kullandığını söylüyor.

Ardından, askeri onaylı hedeflerle ilgili verileri kullanarak mühimmat yüklerini hesaplayan, binlerce hedefi önceliklendirerek uçaklara ve insansız hava araçlarına atayan ve bir program öneren Fire Factory adlı başka bir yapay zeka modeliyle saldırılar hızla bir araya getirilebiliyor.

Bir IDF yetkilisine göre her iki sistem de tek tek hedefleri ve hava saldırısı planlarını inceleyen ve onaylayan insan operatörler tarafından denetlenirken, teknoloji hala herhangi bir uluslararası veya devlet düzeyinde düzenlemeye tabi değil.

Teknolojinin savunucuları gelişmiş algoritmaların insan yeteneklerini aşabileceğini ve ordunun kayıpları en aza indirmesine yardımcı olabileceğini savunurken, eleştirmenler giderek daha otonom hale gelen sistemlere güvenmenin potansiyel olarak ölümcül sonuçları konusunda uyarıyor.

Kudüs İbrani Üniversitesi'nde uluslararası hukuk öğretim üyesi ve ordunun eski hukuk danışmanı Tal Mimran, "Yapay zekanın hesaplamasında bir hata varsa ve yapay zeka açıklanabilir değilse, o zaman hata için kimi suçlayacağız?" dedi.

"Bir hataya dayanarak bütün bir aileyi yok edebilirsiniz."

Ordunun yapay zekayı operasyonel kullanımına ilişkin ayrıntılar büyük ölçüde gizli kalsa da askeri yetkililerin açıklamaları, IDF'nin İsrail'in roket saldırılarına yanıt olarak sık sık hava saldırıları düzenlediği Gazze Şeridi'ndeki periyodik alevlenmeler yoluyla tartışmalı sistemlerle savaş alanı deneyimi kazandığını gösteriyor.

IDF 2021 yılında Gazze'deki 11 günlük çatışmayı dünyanın ilk "yapay zeka savaşı" olarak tanımlamış ve roket fırlatma rampalarını tespit etmek ve drone sürülerini konuşlandırmak için yapay zeka kullandığını belirtmişti.

İsrail ayrıca Suriye ve Lübnan'da da saldırılar düzenleyerek Hizbullah gibi İran destekli milislere silah sevkiyatı yapıldığını iddia ettiği hedefleri vuruyor.

İsrail son aylarda İran'ı uranyum zenginleştirmesi konusunda neredeyse her gün uyarıyor ve bu ülkenin hiçbir koşulda nükleer silah elde etmesine izin vermeyeceğini söylüyor.

İki ülkenin askeri bir çatışmaya girmesi halinde IDF, Gazze, Suriye ve Lübnan'daki İran vekillerinin misilleme yapacağını ve 50 yıl önce Mısır ve Suriye'nin sürpriz saldırısının Yom Kippur Savaşı'nı tetiklemesinden bu yana İsrail için ilk ciddi çok cepheli çatışmaya zemin hazırlayacağını öngörüyor.

IDF yetkililerine göre Fire Factory gibi yapay zeka tabanlı araçlar böyle bir senaryo için tasarlandı.

Ordunun dijital dönüşüm biriminin başında bulunan ve Tel Aviv'deki IDF karargahında güvenlik nedeniyle sadece ilk adının kullanılması şartıyla konuşan Albay Uri, "Eskiden saatler süren işlemler artık dakikalar alıyor ve insan incelemesi için birkaç dakika daha gerekiyor" dedi.

"Aynı sayıda insanla çok daha fazlasını yapıyoruz."

Bu yetkililer sistemin topyekûn savaş için tasarlandığını vurguluyor.

IDF uzun zamandır yapay zekadan faydalanıyor, ancak son yıllarda kendisini otonom silahlarda küresel bir lider olarak konumlandırmaya çalışırken bu sistemleri çeşitli birimlerde genişletti.

Bu sistemlerden bazıları İsrailli savunma şirketleri tarafından üretildi; insanları ve nesneleri tanımlamak için binlerce saatlik görüntü üzerinde eğitilen StarTrack sınır kontrol kameraları gibi diğerleri ise ordu tarafından geliştirildi.

Hepsi birlikte, muazzam miktarlardaki drone ve CCTV görüntülerini, uydu görüntülerini, elektronik sinyalleri, çevrimiçi iletişimleri ve askeri kullanım için diğer verileri yorumlamaya adanmış geniş bir dijital mimari oluşturmaktadır.

Ordunun 8200 birimi tarafından yönetilen Veri Bilimi ve Yapay Zeka Merkezi'nin amacı bu bilgi seliyle başa çıkmaktır.

İstihbarat bölümü içinde yer alan bu birim, aralarında Palo Alto Networks Inc'den Nir Zuk ve Check Point Software Technologies Ltd'nin kurucusu Gil Shwed'in de bulunduğu ülkenin teknoloji alanındaki multi-milyonerlerinin birçoğunun başarılı girişimler kurmadan önce zorunlu askerlik hizmetlerini yaptıkları yer.

Bir sözcüye göre Merkez, "IDF'deki tüm hedef kavramını dönüştüren" sistemin geliştirilmesinden sorumluydu.

Bu tür araçların nasıl geliştirildiğinin gizli tutulması, yarı otonom sistemler ile tamamen otomatik ölüm makineleri arasındaki uçurumun bir gecede daraltılabileceği de dahil olmak üzere ciddi endişelere yol açmıştır. Böyle bir senaryoda, makineler hedefleri hem bulma hem de vurma yetkisine sahip olacak ve insanlar karar verme pozisyonlarından tamamen çıkarılacaktır.

Aralarında İnsan Hakları İzleme Örgütü ve Uluslararası Af Örgütü'nün de bulunduğu sivil toplum örgütlerinin oluşturduğu bir koalisyon olan Stop Killer Robots'ta otomatik karar araştırmacısı olarak çalışan Catherine Connolly, "Bu sadece bir yazılım değişikliğiyle yarı otomatik olmaktan çıkıp tamamen otonom hale gelmelerini sağlayabilir" dedi.

İsrail önümüzdeki yıllarda insan gözetimini kaldırmayı planlamadığını söylüyor.

Bir başka endişe de yapay zekanın hızla benimsenmesinin, iç işleyişine yönelik araştırmaları geride bırakmasıdır. Birçok algoritma özel şirketler ve özel bilgileri ifşa etmeyen ordular tarafından geliştiriliyor ve eleştirmenler algoritmaların sonuçlara nasıl ulaştığına dair yerleşik şeffaflık eksikliğinin altını çiziyor.

IDF sorunu kabul etti, ancak çıktıların askerler tarafından dikkatle incelendiğini ve askeri yapay zeka sistemlerinin teknik kırıntıları geride bırakarak insan operatörlere adımlarını yeniden yaratma yeteneği verdiğini söyledi.

"Bazen daha karmaşık yapay zeka bileşenleri, sinir ağları ve benzerlerini devreye soktuğunuzda, mecazi anlamda 'aklından ne geçtiğini' anlamak oldukça karmaşıktır. Bazen de açıklanabilirlikten değil, izlenebilirlikten memnun olduğumu söylemek istiyorum. Yani, her 'nöronun' ne yaptığını anlamasam bile, süreç hakkında anlamam ve izlemem için neyin kritik olduğunu anlamak istiyorum" dedi.

IDF, insan hakları grupları tarafından şiddetle eleştirilen yüz tanıma teknolojisi hakkında konuşmayı reddetti, ancak kadınlara ve daha düşük sosyoekonomik geçmişe sahip potansiyel öğrencilere karşı ayrımcılık yapabileceği endişesiyle yapay zekayı işe alım yazılımına entegre etmekten kaçındığını söyledi.

Bazı uzmanlara göre yapay zekanın savaş sistemlerine entegre edilmesinin en büyük avantajı sivil kayıpları azaltma potansiyeli.

"Bu teknolojileri doğru kullanmanın bir verimlilik ve etkinlik faydası olduğunu düşünüyorum. Ve iyi işleyen teknolojik," diyor Londra merkezli Uluslararası Stratejik Araştırmalar parametreler içinde, çok çok yüksek hassasiyet olabilir Enstitüsü'nde araştırma görevlisi olan Simona R. Soare.

"Hareket halindeyken, savaş sisi içinde yapmanız gereken pek çok şeyde size yardımcı olabilir. Ve bunu en iyi günlerde yapmak çok zordur."

"Ayrıca yanlış gidebilecek pek çok şey de var" diye ekledi.

İsrailli liderler ülkeyi bir "yapay zeka süper gücü" haline getirme niyetlerini açıklarken, ayrıntılar konusunda belirsiz kaldılar.

Savunma Bakanlığı, yapay zekaya ne kadar yatırım yaptığı konusunda yorum yapmayı reddetti ve ordu, Fire Factory'nin İsrailli savunma şirketi Rafael tarafından geliştirildiğini doğrulamasına rağmen belirli savunma sözleşmelerini tartışmadı.

Nükleer silahlanma yarışı sırasında, silahların yeteneklerine ilişkin ayrıntıların sızdırılmasının caydırıcılığın önemli bir unsuru olmasının aksine, otonom ve yapay zeka destekli sistemlerin hükümetler, ordular ve özel savunma şirketleri tarafından gizlilik içinde geliştiriliyor olması tabloyu daha da belirsizleştiriyor.

İsrail merkezli Ulusal Güvenlik Çalışmaları Enstitüsü'nde kıdemli araştırmacı olan Liran Antebi, "Amerikalıların ve hatta Çinlilerin ve belki de diğer birkaç ülkenin de bu alanlarda gelişmiş sistemlere sahip olduğunu varsayabiliriz" dedi.

Ancak İsrail'in aksine, "bildiğim kadarıyla hiçbir zaman operasyonel kullanım ve başarı göstermediler."

Şimdilik herhangi bir sınırlama yok.

On yıldır süren BM destekli görüşmelere rağmen, bir bilgisayar yanlış karar verdiğinde sivil kayıplar, kazalar ya da istenmeyen gerginliklerin sorumluluğunu kimin üstleneceğini belirleyen uluslararası bir çerçeve yok.

Stop Killer Robots koalisyonundan Connolly, "Ayrıca testler ve bu sistemlerin eğitildiği verilerle ilgili bir sorun da var" dedi.

"Daha önce eğitilmemiş ve insanlar üzerinde test edilmemiş bir sistemin ne kadar kesin ve doğru olacağını bilebilirsiniz?"

İbrani Üniversitesi'nde hukuk dersleri veren Mimran'ın IDF'nin yapay zekayı sadece savunma amaçlı kullanması gerektiğine inanmasının nedeni de bu tür endişeler.

Ordudaki görevi sırasında Mimran, saldırıların uluslararası hukuka uygun olduğundan emin olmak için hedefleri elle inceledi.

Bu ona, teknolojiden bağımsız olarak, "değer temelli bir karar vermeniz gereken bir nokta olduğunu" öğretti.

"Ve bunun için" dedi, "yapay zekaya güvenemeyiz."