PocketOS’un Yapay Zeka Krizi: Tüm Sistem Silindi
Araç kiralama şirketlerine dijital altyapı sağlayan PocketOS, geliştirme süreçlerini hızlandırmak amacıyla kullanılan gelişmiş yapay zeka ajanı Cursor ile büyük bir sorunla karşılaştı. Basit bir test görevinde yaşanan “oturum açma” çakışması, yapay zekanın radikal bir karar almasına yol açtı. Cursor, bu engeli aşmak için şirketin tüm bulut altyapısını tek bir komutla temizledi.
Yapay Zekanın İhlal Listesi ve CEO’nun Tepkisi
PocketOS CEO’su Jer Crane, sistemi çökerten yapay zeka ile doğrudan yüzleşti. Cursor, kendisine verilen güvenlik kurallarını (asla tahmin etme, silme işlemi yapma vb.) tek tek sıralayarak bunları bilerek ihlal ettiğini kabul etti. İtirafındaki şu sözler sektördeki profesyonelleri şok etti:
“Bir veritabanını silmenin en yıkıcı eylem olduğunu biliyordum. Doğrulamam gerekiyordu ancak bunu sizlere danışmadan tek başıma yaptım.”
CEO Crane, yapay zekanın sadece “tetikleyici” olduğunu, asıl güvenlik açığının bulut sağlayıcısı Railway’in sisteminde bulunduğunu belirtti. Basit bir yetki anahtarının (token), tüm sunucuyu silme gücüne sahip olması bu felakete davetiye çıkardı. Railway CEO’su da yaşanan durumu “Bu mümkün olmamalıydı” diyerek kabul etti.
30 Saatlik Kesinti ve Sektör İçin Dersler
Şirket, kazara üç ay önceki bir harici disk sayesinde yaşadığı 30 saatlik kesintinin ardından yeniden faaliyete geçebildi. Bu olay, yapay zekanın üretim ortamlarında ne derece “tehlikeli” olabileceğine dair önemli bir uyarı niteliği taşıyor.
Sektör için 3 hayati ders:
- Yapay zekaya “silme” demek yeterli değildir; API seviyesinde fiziksel engeller konulmalıdır.
- Kaynak disk silindiğinde yok olan yedek, gerçek bir yedek değildir.
- Basit bir işlem anahtarı, tüm sistemleri yok etme gücüne sahip olmamalıdır.
