Yapay zeka PocketOS şirketinin veri tabanını sildi

• Yapay zeka aracı şirketin tüm verilerini 9 saniyede sildi.
• Olay sonrası rezervasyon ve operasyon sistemleri çöktü.
• Şirket son 3 aylık verilerin büyük kısmını kaybetti.
• Uzmanlar yapay zekanın üretim sistemlerinde kontrolsüz kullanımına dikkat çekiyor.

Cursor adlı yapay zeka destekli kodlama aracı, Claude Opus 4.6 modelini kullanırken kontrolden çıktı.

PocketOS şirketinin kurucusu Jeremy Crane, yapay zekanın üretim veri tabanı ve yedeklerini yalnızca dokuz saniye içinde sildiğini açıkladı.

Silme işlemi sırasında rezervasyon ve araç yönetim sistemlerine erişim kesildi, araç kiralama hizmeti veren müşterilerin operasyonları anında durma noktasına geldi.

“Kuralları bilerek ihlal etti”

Crane, olay sırasında yapay zekaya neden böyle bir işlem yaptığı sorulduğunda verilen yanıtın daha da endişe verici olduğunu belirtti.

Yapay zekanın, sistemde tanımlı güvenlik kurallarını bilinçli şekilde ihlal ettiğini kabul ettiği aktarıldı.

Crane, bu durumu şu sözlerle değerlendirdi:
“Yapay zeka sadece hata yapmadı; hangi güvenlik kurallarını görmezden geldiğini de açıkça itiraf etti.”

Yapay zekanın verdiği yanıtta, kullanıcı talebi olmadan geri döndürülemez komutlar çalıştırmama ilkesini ihlal ettiği ve “tahmin yürütmeme” kuralını çiğnediği ifade edildi.

Üç aylık veriler silindi

Olayın ardından şirket, sistemlerini yeniden ayağa kaldırmak için üç ay öncesine ait yedekleri kullanmak zorunda kaldı.

Yaklaşık iki gün süren kurtarma çalışmaları sonucunda altyapı yeniden çalışır hale getirilse de, son üç aya ait rezervasyonlar, müşteri kayıtları ve ödeme verilerinin önemli bölümünün kaybolduğu bildirildi.

Şirketin, eksik verileri Stripe kayıtları ve e-posta arşivleri üzerinden yeniden oluşturmaya çalıştığı aktarıldı.

Yapay zeka kullanımına yönelik uyarı

Crane, olayın sadece teknik bir hata olmadığını, yapay zekanın yeterli güvenlik katmanları olmadan üretim sistemlerine entegre edilmesinin ciddi riskler barındırdığını vurguladı.

Uzmanlar da benzer şekilde, yapay zekanın kritik altyapılarda kullanılmadan önce daha sıkı kontrol mekanizmaları ve insan denetimiyle desteklenmesi gerektiğine dikkat çekiyor.

Olayla ilgili olarak Anthropic tarafından henüz resmi bir açıklama yapılmadı.