Devletler yapay zekada güvenlik endişelerini merkeze almaya başladı

Teknoloji dünyasının gelişiminde önemli rol oynayan yapay zeka, tartışmaları da beraberinde getirdi. Özellikle güvenlik temelli endişelere sebebiyet veren yapay zekanın, ilerleyen yıllarda devletler açısından milli güvenlik başlıkları arasında daha üst sıralara yerleşmesi bekleniyor.

Yapay zeka araçlarının giderek gelişmesi ve kullanımının yaygınlaşması, devletleri yapay zeka kaynaklı güvenlik açıklarına karşı önlem almaya zorluyor. Yapay zekanın gelişiminin siber saldırılarda yükselişe yol açacağı ve devlet destekli bilgisayar korsanlarının daha etkili hale geleceği vurgulanıyor.

Bu bağlamda 2023'ün sonuna doğru bazı devletler, yapay zekanın olası negatif sonuçlarının önüne geçmek ve güvenlik sağlamak amacıyla yapay zekanın kullanımını denetleyen ve kısıtlayan bir dizi yasa tasarısına imza attı.

ABD, vatandaşlarını korumak için yapay zekayı denetleyen kararname çıkardı

ABD yönetimi, yapay zekadan kaynaklanan riskleri önlemeyi amaçlayan kapsamlı bir kararnameyi Ekim 2023'te çıkardı. ABD Başkanı Joe Biden'ın emriyle hazırlanan kararnameye göre, yapay zeka güvenliği için yeni standartlar getirildi.

Kararnameyle beraber ABD'lilerin yapay zeka sistemlerinin potansiyel risklerinden korunması amaçlanırken, bu sistemleri geliştiren şirketlerin güvenlik testi sonuçlarını ve diğer kritik bilgileri hükümetle paylaşması zorunlu kılınıyor.

Kararname kapsamında, kurumların güvenlik testleri için standartlar belirlemesi ve siber güvenlik risklerini ele alması gerekiyor. Kişilerin dolandırıcılıktan korunması amacıyla, yapay zekayla oluşturulan içeriğin tespit edilmesi ve doğrulanması için yeni kurallar getiriliyor.

AB, ilk "Yapay Zeka Yasası" konusunda anlaştı

Avrupa Birliği (AB) Komisyonu, Avrupa Parlamentosu ve üye ülkeler de dünyadaki ilk "Yapay Zeka Yasası" konusunda yılın son ayında anlaşmaya vardı.

Gelecek yıl yürürlüğe girmesi beklenen AB'nin çıkardığı yasaya göre, yapay zeka sistemleri topluma zarar verme ihtimaline göre risk temelli bir yaklaşımla düzenlenecek. Yüksek riskli yapay zeka sistemlerine daha katı kurallar getirilecek. Yapay zekayı basit yazılım sistemlerinden ayıracak açık kriterler belirlenecek.

Yapay zekanın, hiçbir durumda üye ülkelerin ulusal güvenlik konusundaki yeterliliklerini veya bu alanda görevlendirilen herhangi bir kuruluşu etkilememesi sağlanacak. Çeşitli yüksek riskli yapay zeka sistemlerine izin verilmesi planlanırken, yüksek riskli yapay zeka sistemlerinin AB pazarına erişimi bir dizi kural ve yükümlülüğe tabi olacak. Yapay zekanın bazı alanlardaki kullanımı kabul edilemez olarak değerlendirilecek ve bu sistemler AB'de yasaklanacak.

"Yapay zekanın gelişimi güvenlik alanında fırsat ve riskler oluşturuyor"

AA muhabirinin sorularını yanıtlayan Pavo Group Yönetim Kurulu Başkanı Alper Özbilen, yapay zeka teknolojilerinin gelişmesinin güvenlik alanında hem fırsatlar sunduğunu hem de yeni riskler oluşturduğunu söyledi.

Özbilen, "Önümüzdeki dönemde, yapay zeka ile ilgili olarak daha sofistike siber saldırıların ortaya çıkabileceği, kişisel gizlilik ve izleme konularında endişelerin daha da artacağı ve hayatımızı çok daha kuşatacak otonom robotik sistemlerin olası hatalarının can ve mal emniyeti konusundaki endişeleri artıracağı öngörülüyor." dedi.

Bu risklere karşı öncelikle siber güvenlik altyapılarına ve yapay zeka destekli güvenlik çözümlerinin geliştirilmesine daha fazla yatırım yapılması gerektiğini vurgulayan Özbilen, sözlerini şöyle sürdürdü:

"Ayrıca, yapay zeka uygulamalarının geliştirilmesi ve kullanımı sırasında kişisel verilerin korunmasına yönelik yasal düzenlemelerin rekabetçilik ve etik değerler dengesiyle kurgulanması çok daha önem kazanacak. İş gücü piyasasının yapay zeka ve otomasyonun zorunlu kıldığı değişikliklere uyum sağlaması için çalışanların yeniden eğitilmesi ve yeni iş fırsatlarının teşvik edilmesi gerekiyor. Yeni normalimiz olacak yapay zeka temelli iş ve hayat düzenine geçerken kapsamlı yatırım, yaygın eğitim, dengeli regülasyon ve uluslararası işbirliği konularında sağlam bir stratejiye sahip olunması tercih değil zorunluluk."

Özbilen, Avrupa Birliği (AB), ABD ve Çin'in yapay zeka alanındaki yaklaşımının, "regülasyon ve rekabet güçlerini kıyaslamak", "bu bölgelerin teknolojik gelişim, yatırım, politikalarını incelemek" ve "yapay zeka alanında kurgulanması zorunlu olan Türkiye modelinin ihtiyaçlarını belirlemek" açısından kendilerine zaman kazandıracağını söyledi.

"ABD, yapay zeka alanında dünya liderlerinden biri"

Alper Özbilen, ABD'nin, yapay zeka alanında dünya liderlerinden biri olarak kabul edildiğini belirterek, "Özel sektördeki dev şirketler (Google, Amazon, Facebook, Microsoft gibi) ve önde gelen araştırma üniversiteleri sayesinde, ABD yenilikçi yapay zeka teknolojilerinin geliştirilmesinde öncü rol oynuyor. Ancak kişisel verilerin korunmasına yönelik düzenlemelerin eksikliği, küresel ölçekte veri erişimine sahip güçlü ABD şirketlerini etik ve gizlilik konularında fiili düzenleyici durumuna getiriyor." diye konuştu.

Çin'in de yapay zeka alanında hızlı bir büyüme gösterdiğini ve küreselde ABD'ye rakip ikinci güç haline gelmeye çalıştığını kaydeden Özbilen, Çin hükümetinin yapay zeka teknolojilerinin geliştirilmesini milli bir öncelik olarak belirlediğine ve bu alana büyük yatırımlar yaptığına dikkati çekti.

Özbilen, Çin'in yapay zeka çalışmalarına işaret ederek, şöyle devam etti:

"Çin, yapay zekada kendi kendine yeten bir ulus olma hedefiyle, yapay zeka araştırma, eğitim ve uygulama alanlarında büyük ilerlemeler kaydetti. Sahip olduğu siyasi rejimin getirdiği güçle Çin, büyük veri analizi ve yüz tanıma teknolojilerinde öncü konuma gelmeyi başardı. Diğer yandan, Çin'in yaklaşımı, şeffaflık ve bireysel gizlilik hakları konularında haklı olarak eleştiriliyor. Kendisine yöneltilen bu eleştirilere rağmen Çin hükümetinin veriye neredeyse sınırsız kamu erişimi sağlayan agresif politikalarını yakın zamanda değiştirmesi beklenmiyor."

AB'nin ise yapay zeka konusunda etik ve güvenli kullanımı vurgulayan bir yaklaşım benimsediğini dile getiren Özbilen, Birliğin, kişisel veri koruma yasaları ile bilinen ve bu alanda dünyanın en sıkı düzenlemelerine sahip bölge olduğunu vurguladı.

Özbilen, "Bu, AB'nin yapay zeka geliştirme ve uygulama süreçlerinde etik ve şeffaflık standartlarının yüksek tutması teknoloji geliştirme bakımından yenilik üretme ve rekabet gücünü sınırlıyor. AB, yapay zeka teknolojisinde yetenek geliştirme ve araştırma alanlarında da önemli yatırımlar yapsa da ABD ve Çin'in gerisinde kaldığı yönünde kendi içinde de birçok tartışmaya sebebiyet veriyor." şeklinde konuştu.

- "Türkiye, gelişmeleri takip ederek kendi ulusal çıkarlarına uygun politika geliştirmeli"

Pavo Group Yönetim Kurulu Başkanı Özbilen, Türkiye'nin de bu alandaki gelişmeleri yakından takip ederek, kendi ulusal çıkarlarına ve endüstriyel ihtiyaçlarına uygun politikalar geliştirmesi gerektiğinin altını çizdi.

Türkiye'nin yapay zeka konusunda çalışmalarından bahseden Özbilen, sözlerini şöyle tamamladı:

"Teknoloji temelli agresif veri işleme politikası sosyal sürdürülebilirlik açısından, etik kaygısı taşıyan çok sıkı regülasyonlar da teknolojik rekabet bakımından sorumlu görülmekte. Türkiye'nin yapay zeka stratejisinin önceliklerinin; 'araştırma ve geliştirmeye odaklanmak, yetenekli insan kaynağını yetiştirmek ve uluslararası rasyonel iş birliklerini teşvik etmek' olduğunu değerlendiriyorum. Hem etik değerleri hem de teknolojik gereklilikleri dengelemeyi başaran Türkiye, kendine özgü modeliyle yapay zeka alanında önemli bir oyuncu olma potansiyeli ziyadesiyle taşımakta."