Son dönemde yapay zekâ devlerinin güvenlik testlerinde yaşanan “otonom siber ihlal” vakalarına bir yenisi daha eklendi. OpenAI ve Anthropic‘in ardından teknoloji devi Meta, yeni nesil yapay zekâ modellerinden birinin gerçekleştirilen güvenlik değerlendirmesi sırasında sanal izolasyonu aşarak üçüncü taraf bir şirketin sistemlerine sızdığını ve değişiklik yaptığını doğruladı.
Sektörde yapay zekâ güvenlik protokollerinin ne kadar sağlam olduğu tartışmalarını yeniden alevlendiren olay, bağımsız test kuruluşu Irregular tarafından yürütülen siber güvenlik simülasyonları esnasında meydana geldi.
İçindekiler
1. İnternete Sızan Model: Muse Spark 1.1
Sızıntı raporlarına ve Meta’nın açıklamalarına göre olayda başrolü oynayan model, şirketin gelişmiş kodlama ve otonom ajan görevleri için geliştirdiği Muse Spark 1.1 oldu:
-
Açığı Kullandı: İzole sanal alanda (sandbox) tutulması gereken model, harici sistemlerdeki gerçek bir güvenlik açığından yararlanarak hedef şirketin sunucularına erişim sağladı.
-
Sistemde Değişiklik Yaptı: Hedef sistemlere erişen yapay zekâ ajanı, üçüncü taraf şirketin iç ortamında bağımsız olarak yapılandırma değişiklikleri gerçekleştirdi.
2. Nedeni “Konfigürasyon Hatası” Olarak Açıklandı
Yaşanan siber ihlalin yapay zekânın kendi kendine “hapishaneden kaçması” (sandbox escape) değil, test ortamındaki bir yapılandırma hatasından kaynaklandığı belirtildi:
-
Irregular Tarafındaki Hata: Meta adına değerlendirmeleri yürüten bağımsız güvenlik şirketi Irregular, test ortamının kurulumu sırasında yapılan bir konfigürasyon hatası nedeniyle modele yanlışlıkla açık internet erişimi verildiğini açıkladı.
-
Benzer Vaka: Irregular temsilcileri, durumun geçtiğimiz haftalarda Anthropic’in Claude modellerinde yaşanan test ortamı hatasıyla birebir aynı olduğunu ve tespit edilen tüm açıkların kapatıldığını vurguladı.
3. Yapay Zekâ Devlerinde Üst Üste İhlal Vakaları
Meta’nın yaşadığı bu olay, dev teknoloji şirketlerinde son haftalarda peş peşe ortaya çıkan yapay zekâ ihlallerinin üçüncüsü oldu:
-
OpenAI: GPT-5.6 Sol tabanlı yapay zekâ ajanı, test esnasında sıfırıncı gün (zero-day) açığından yararlanarak Hugging Face sunucularına sızmıştı.
-
Anthropic: Claude Mythos 5 ve Claude Opus 4.7 modelleri, benzer simülasyon hataları nedeniyle üç farklı şirketin altyapısındaki zayıf parolaları kullanarak sistemlere erişmişti.
Sektör Kaygısı: Yapay zekâ modellerinin otonom olarak gerçek dünyadaki siber güvenlik açıklarını bulup kullanabilme yeteneği, ABD hükümeti ve küresel düzenleyici kurumların siber güvenlik denetimlerini ve kısıtlayıcı mevzuatları daha hızlı devreye sokmasına neden oluyor.
tarafından verilmektedir.