Meta, yapay zeka sohbet robotları için çocuk güvenliği önlemlerini güncelledi

• Meta, sohbet robotlarının çocuklarla romantik veya duygusal konuşmalara girmesini yasakladı.
• Çocuk cinsel istismarını teşvik eden, onaylayan ya da kolaylaştıran içerikler tamamen engellendi.
• Sohbet robotlarının istismar hakkında konuşabilmesine izin verildi, ancak teşvik edici senaryolara katılmaları yasaklandı.
• FTC, Meta dahil birçok teknoloji devine çocuk güvenliği konusunda soruşturma açtı.

Politikalarda yapılan değişikliklerin nedeni

Meta, Ağustos ayında Reuters’ın raporunun ardından yapay zeka politikalarını revize etti. Söz konusu raporda, sohbet robotlarının çocuklarla romantik ya da duygusal konuşmalara girebileceği belirtilmişti. Meta bu durumun kendi politikalarıyla “çelişkili ve hatalı” olduğunu kabul ederek ifadeyi kaldırdı.

Hangi içerikler yasaklandı

Business Insider’ın yayımladığı belgeler, şirketin yüklenicilerine verdiği yönergeleri açığa çıkardı. Çocuk cinsel istismarını teşvik eden içeriklerin yanı sıra, kullanıcı reşit değilse romantik rol yapma, yakın temas tavsiyesi verme ve benzeri durumlar kesin olarak yasaklandı.

Sektörde geniş yankı uyandırdı

Meta’nın sohbet robotları son aylarda çocuklara yönelik riskleri nedeniyle gündeme geldi. ABD Federal Ticaret Komisyonu (FTC), Ağustos ayında Meta ile birlikte Alphabet, Snap, OpenAI ve X.AI gibi şirketler hakkında yapay zekâ güvenliği kapsamında resmi bir soruşturma başlattı.