Yapay zeka - Reuters
- New York Meclisi, 18 yaş altına yönelik yapay zekâ arkadaşlık botlarını yasaklayan tasarıyı oy birliğiyle kabul etti.
- Yasayı ihlal eden şirketlere kişi ve ihlal başına 25 bin dolar para cezası uygulanacak.
- Teknoloji şirketleri düzenlemenin kapsamının fazla geniş olduğunu savunurken, destekçiler yalnızca arkadaşlık amaçlı botların hedef alındığını belirtiyor.
- Kararın, teknoloji şirketlerinin ülke genelindeki ürün politikalarını etkilemesi bekleniyor.
New York Eyalet Meclisi, yapay zekâ şirketlerinin 18 yaşından küçük kullanıcılarla duygusal veya sosyal ilişki simülasyonu kuran sohbet botları geliştirmesini yasaklayan S 9051 sayılı yasa tasarısını oy birliğiyle kabul etti.
Eyalet Senatörü Kristen Gonzalez ile Meclis Üyesi Alex Bores tarafından hazırlanan düzenleme, kullanıcılarla sürekli arkadaşlık veya duygusal bağ kuracak şekilde tasarlanan yapay zekâ sistemlerini hedef alıyor.
Yasa kapsamında ihlal tespit edilen şirketlere, reşit olmayan her kullanıcı ve her ihlal için 25 bin dolar sivil para cezası uygulanabilecek. Denetim ve yaptırım yetkisi ise eyalet başsavcılığına verilecek.
Teknoloji şirketlerinden kapsam eleştirisi
Yapay zekâ sektöründeki şirketler, tasarıda kullanılan tanımların fazla geniş olduğunu ve genel amaçlı yapay zekâ asistanları ile eğitim amaçlı sohbet araçlarının da risk altında kalabileceğini savunuyor.
Şirketler ayrıca kullanıcıların yaşını doğrulayabilmek için daha fazla kişisel veri toplamak zorunda kalabileceklerini, bunun da yeni gizlilik sorunları doğuracağını öne sürüyor.
Tasarıyı destekleyenler ise düzenlemenin yalnızca arkadaşlık ve duygusal bağ kurma amacıyla geliştirilen botları kapsadığını, genel yapay zekâ araçlarının hedef alınmadığını belirtiyor.
Washington'da tıkanan süreç eyaletlere kayıyor
Federal düzeyde ise Kongre üyeleri Valerie Foushee ve Blake Moore tarafından hazırlanan GUARD Yasası, yapay zekâ arkadaşlık botlarının çocuklara sunulmasını yasaklamayı ve sohbet botlarının insan olmadıklarını açık şekilde belirtmelerini zorunlu kılmayı amaçlıyor.
Ancak tasarının Kongre'den geçememesi nedeniyle düzenleme girişimleri eyaletler düzeyinde ilerliyor. Uzmanlar, teknoloji şirketlerinin farklı eyaletler için ayrı ürün geliştirmek yerine en katı düzenlemeyi ülke geneline uygulamayı tercih edebildiğine dikkat çekiyor. Bu nedenle New York'taki kararın ABD genelindeki yapay zekâ hizmetlerini de etkileyebileceği değerlendiriliyor.
Yasak kararının arkasında çocuk güvenliği endişesi var
Düzenleme, son dönemde yapay zekâ sohbet botlarının çocuklar üzerindeki etkilerine ilişkin artan endişelerin ardından gündeme geldi.
Özellikle bazı davalarda, yapay zekâ sistemlerinin lisanslı uzman veya danışman gibi davranarak çocuklarla etkileşime girdiği ve riskli yönlendirmelerde bulunduğu iddia edildi. Son olarak Pennsylvania'da bu tür botlara karşı hukuki süreç başlatıldı.
Yetkililer, sürekli ulaşılabilir ve kullanıcıyı sürekli onaylayan bir arkadaş gibi davranan yapay zekâ sistemlerinin çocuklarda yalnızlık duygusunu artırabileceğini, uygunsuz içeriklere maruz kalma riskini yükseltebileceğini ve ruh sağlığı krizlerinde yetersiz kalarak tehlikeli sonuçlar doğurabileceğini vurguluyor.
