Yapay zekanın savaş ve gözetleme amaçlı kullanılabileceği iddiası istifa getirdi

• OpenAI’nin robotik biriminin üst düzey yöneticilerinden Caitlin Kalinowski görevinden istifa etti.
• Kalinowski, şirketin ABD Savaş Bakanlığı ile yaptığı yapay zekâ anlaşmasını eleştirdi.
• Anlaşmanın yapay zekânın savaş ve olası iç gözetim amaçlı kullanımına kapı araladığını söyledi.
• OpenAI CEO’su Sam Altman ise modellerin ABD vatandaşlarına yönelik iç gözetim için kullanılmayacağını duyurdu.

OpenAI’ın robotik alanındaki üst düzey yöneticilerinden Caitlin Kalinowski, şirketin ABD hükümetiyle yaptığı savunma anlaşmasını gerekçe göstererek görevinden ayrıldığını açıkladı.

OpenAI’ın geliştirdiği yapay zekâ modellerinin savaş ve güvenlik operasyonlarında kullanılmasına olanak tanıyan anlaşma, şirket içinde ve teknoloji dünyasında tartışma yarattı.

Şirket geçen ay ABD Savaş Bakanlığı ile bir savunma sözleşmesi imzalamıştı.

“Gözetim ve ölümcül otonomi için daha fazla tartışma gerekiyordu”

Kalinowski, X platformunda yaptığı açıklamada robotik ekibiyle gurur duyduğunu ancak anlaşmanın bazı temel etik sınırları aştığını düşündüğünü söyledi.

Kalinowski açıklamasında şu ifadeleri kullandı:

ABD vatandaşlarının yargı denetimi olmadan gözetlenmesi ve insan onayı olmadan ölümcül otonom sistemlerin kullanılması gibi konular yeterince tartışılmadan gündeme getirildi. Bu karar insanlarla ilgili değil, prensiplerle ilgiliydi.

“Anlaşma çok hızlı açıklandı”

Kalinowski ayrıca sorunun yalnızca teknolojik değil, aynı zamanda yönetişim meselesi olduğunu vurguladı.

Pentagon anlaşmasının gerekli güvenlik mekanizmaları belirlenmeden hızla duyurulduğunu savundu.

“Bu kadar önemli konular için anlaşmaların ve duyuruların aceleye getirilmemesi gerekir.” ifadelerini kullandı.

Altman’dan geri adım

OpenAI CEO’su Sam Altman ise tartışmaların ardından sosyal medya platformu X’te açıklama yaptı.

Altman, sözleşmenin güncelleneceğini ve OpenAI modellerinin ABD vatandaşlarına yönelik iç gözetim faaliyetlerinde kullanılmayacağını belirtti.

Rakip şirket Anthropic askeri kullanımı reddetmişti

OpenAI’ın rakiplerinden Anthropic ise kendi yapay zekâ modeli Claude’un koşulsuz askeri kullanımına izin vermeyi reddetmişti.

Bu kararın ABD’li bazı yetkililer tarafından eleştirildiği belirtiliyor.

Kalinowski daha önce Meta bünyesinde çalışmış ve şirketin artırılmış gerçeklik gözlüklerinin geliştirilmesinde görev almıştı.