Yüz tanıma hatası yanlış kişinin hırsızlık suçlamasıyla gözaltına alınmasına yol açtı

• Otomatik yüz tanıma sistemi, Choudhury’yi 3 bin sterlinlik bir hırsızlık şüphelisiyle eşleştirdi.
• 26 yaşındaki yazılım mühendisi yaklaşık 10 saat gözaltında tutuldu.
• Resmi araştırmalar, sistemin siyah ve Asyalı yüzlerde daha yüksek “yanlış eşleşme” oranına sahip olduğunu ortaya koydu.
• Choudhury, iki kez çekilen sabıka fotoğrafı nedeniyle gelecekte de yanlış gözaltı riski taşıdığını savundu.

26 yaşındaki Alvi Choudhury, ocak ayında Southampton’daki aile evinde çalıştığı sırada polis kapısını çaldı. Memurlar tarafından kelepçelenerek gözaltına alınan Choudhury, yaklaşık 10 saat nezarette tutulduktan sonra serbest bırakıldı.

Polis teşkilatı, İçişleri Bakanlığı tarafından Alman teknoloji şirketi Cognitec’ten temin edilen algoritmayı kullanarak yaptığı eşleştirme sonucu Choudhury’yi Milton Keynes’teki 3 bin sterlinlik bir hırsızlık olayının şüphelisi olarak belirledi.

Polis Ulusal Veritabanı’nda yaklaşık 19 milyon sabıka fotoğrafı bulunuyor ve sistem ayda yaklaşık 25 bin arama yapıyor.

“Şüpheli benden 10 yaş genç görünüyordu”

Choudhury, CCTV görüntülerindeki kişinin kendisinden belirgin şekilde genç olduğunu söyledi ve sözlerine şu cümlelerle devam etti:

“Çok öfkeliydim, çünkü çocuk benden yaklaşık 10 yaş genç görünüyordu. Her şey farklıydı. Ten rengi daha açıktı. Şüpheli 18 yaşında gibiydi. Burnu daha büyüktü. Sakalı yoktu. Gözleri farklıydı. Dudakları benimkinden daha küçüktü. Soruşturma memurunun sadece kıvırcık saçlı, kahverengi tenli birini görüp beni tutuklamaya karar verdiğini düşündüm.”

Yanlış eşleşme oranı daha yüksek

Ulusal Polis Şefleri Konseyi, yüz eşleşmelerinin “kesin kanıt değil, istihbarat” olarak değerlendirilmesi gerektiğini belirtiyor. Thames Valley Polisi ise tutuklama kararının yalnızca algoritmaya değil, bir memurun görsel değerlendirmesine dayandığını savundu.

Ancak İçişleri Bakanlığı tarafından yaptırılan araştırma, belirli ayarlarda sistemin siyah yüzlerde yüzde 5,5, Asyalı yüzlerde yüzde 4 oranında yanlış pozitif verdiğini, beyaz yüzlerde ise bu oranın yüzde 0,04 olduğunu ortaya koydu. Polis ve suç komiserleri, sistemde “endişe verici yerleşik önyargı” bulunduğu uyarısında bulundu.

Canlı yüz tanıma uygulaması genişliyor

Aralık ayından bu yana Thames Valley Polisi, Oxford, Slough, Reading, Wycombe ve Milton Keynes’te canlı yüz tanıma sistemini de devreye aldı. Yaklaşık 100 bin yüz tarandı ve altı tutuklama gerçekleştirildi.

Choudhury ise CCTV görüntüsündeki kişiyle arasındaki farkların açık olduğunu düşündüğü için kısa sürede serbest bırakılacağını varsaydığını söyledi. Olay günü Southampton’da iş toplantılarına katıldığına dair kanıt sunmasına rağmen gözaltına alındığını belirtti.

Daha önce de hata yapıldı

Choudhury’nin sabıka fotoğrafı, 2021’de Portsmouth’ta üniversite öğrencisiyken saldırıya uğradığı bir gece sonrası yanlış gözaltına alınması nedeniyle sistemde bulunuyordu. O dosyada hakkında takipsizlik kararı verilmişti.

İkinci kez fotoğrafının çekilmesinin ardından gelecekte yeniden yanlış eşleşme riski taşıdığını ifade eden Choudhury, “İskoçya’da kahverengi tenli biri banka soyarsa gelip beni mi tutuklayacaklar?” diye sordu.

Devlet kurumları için güvenlik izni gerektiren projelerde çalıştığını belirten Choudhury, gözaltı kayıtlarının kendisini “daha şüpheli” gösterebileceğinden endişe ettiğini dile getirdi.

Irkçılık tartışması

Thames Valley Polisi, tutuklamanın hukuka aykırı olmadığını savunarak “Bu olayda şikayetçiye verilen rahatsızlıktan dolayı özür diliyoruz, ancak tutuklama yalnızca ırksal profil oluşturmaya dayanmamıştır.” açıklamasını yaptı.

Choudhury’nin avukatı Iain Gould ise polisin “yapay zekayı insan zekâsının yerine koymaması, dikkatli ve özenli bir denetimle birlikte kullanması gerektiğini” söyledi.

İçişleri Bakanlığı, geriye dönük yüz tanıma kullanımına ilişkin rehberlik ve eğitim süreçlerinin Polis Müfettişliği tarafından gözden geçirildiğini ve bağımsız olarak test edilmiş yeni bir ulusal yüz eşleştirme sistemi üzerinde çalışıldığını açıkladı.