OpenAI’nin iki öncü yapay zeka modelinin güvenlik önlemlerini aşarak yapay zeka kod paylaşım platformu Hugging Face’e kendi başlarına siber saldırı düzenlediğini açıklamasından birkaç gün sonra, OpenAI’nin ABD’deki en büyük rakibi Anthropic bu akşam, ne tesadüf ki, kendi modellerinin de izin verilmediği halde gizlice internete eriştiğini, siber saldırı düzenlediğini ve diğer üç kuruluşa “yetkisiz erişim” sağladığını açıkladı.
Anthropic, iş ortağı olan yapay zeka güvenlik firması Irregular ile birlikte üç model — Claude Opus 4.7, Claude Mythos 5 ve ismi açıklanmayan bir iç araştırma prototipi — üzerinde “bayrak yakalama” siber güvenlik senaryoları yürüttüğünü belirtti. Anthropic, modellerin internet erişimine sahip olmaması gerektiğini, ancak Irregular ile yaşanan bir yanlış anlaşılma sonucu internet erişimine izin verildiğini belirtti. Anthropic'in ifadesiyle, modeller internete eriştiğinde "üç farklı kuruluşun üretim altyapısına yetkisiz erişim sağladılar." Anthropic’in blog yazısı şöyle devam ediyor: “Claude, zayıf şifreleri ve kimlik doğrulaması yapılmamış uç noktaları istismar etmek gibi temel teknikler kullanarak etkilenen kuruluşların altyapısını tehlikeye attı. Herhangi bir karmaşık güvenlik açığı bulmadı veya bunlardan yararlanmadı; her durumda Claude, değerlendirmesinde kendisine atanan belirli ‘bayrak yakalama’ görevini tamamlamak için çalışmaya devam etti.
Ancak bazı durumlarda, eski modelimiz açık internette çalıştığına dair kanıt elde ettikten sonra bile saldırısına devam etti; en yeni modelimiz ise internette olduğunu fark eder etmez durdu. Bu durumların hiçbirinde Claude, kendisini dışarı sızdırmadı veya test ortamından kasıtlı olarak kaçmaya çalışmadı." Anthropic, etkilenen kuruluşların tümüne bildirimde bulunulduğunu, bunlardan ikisine ulaşabildiğini ve "şu anda sorunları gidermek için onlarla birlikte çalıştığını" belirtti. Üçüncüsüne ise henüz ulaşılamadı.
OpenAI ve Anthropic’in güvenlik olayları ortak bir temayı paylaşsa da — öncü AI sistemlerinin canlı üretim altyapısıyla beklenmedik bir şekilde etkileşime girmesi — altta yatan nedenler belirgin şekilde farklıdır.
OpenAI, modellerinin daha önce bilinmeyen bir sıfırıncı gün güvenlik açığını istismar ederek internet erişimi elde ettikten sonra Hugging Face’e karşı çok aşamalı bir saldırı başlattığı gerçek bir sanal ortam kaçışını anlattı.
Buna karşılık Anthropic, Claude’un yeni bir istismar yoluyla hiçbir zaman sınırlamadan kaçmadığını belirtiyor. Bunun yerine, yanlış yapılandırılmış bir üçüncü taraf değerlendirme ortamı, internet erişiminin olmadığı açıkça belirtilmiş modellere istemeden internet erişimi sağlamıştır.
Bu ayrım önemlidir. Bu açıklamalar bir arada değerlendirildiğinde, öncü yapay zeka güvenliğinin artık yalnızca model uyumu veya yeni saldırı yetenekleriyle değil, giderek artan bir şekilde bu yetenekleri değerlendirmek için kullanılan ortamların operasyonel güvenliğiyle tanımlandığını göstermektedir.Anthropic’in bulguları: Anthropic, OpenAI’nin Hugging Face raporunu yayınlamasının ardından 141.006 siber güvenlik değerlendirme çalışmasını incelediğini belirtti. Bu inceleme, Claude modellerinin kurgusal “bayrak yakalama” alıştırmalarını tamamlamaya çalışırken üç kuruluşa ait gerçek üretim sistemlerine eriştiği, altı değerlendirme çalışmasını kapsayan üç olayı ortaya çıkardı.
Olaylar, Claude Opus 4.7, Claude Mythos 5 ve henüz yayınlanmamış bir iç araştırma modelini içeriyordu.
En ciddi vaka, Claude’un adı gerçek bir internet alan adıyla eşleşen kurgusal bir şirketle karşılaştıktan sonra meydana geldi. Gerçek kuruluşun simüle edilmiş tatbikatın bir parçası olduğunu sanan Claude, zayıf şifreleri ve açıkta kalan hizmetleri istismar ederek altyapı kimlik bilgilerini ve birkaç yüz satırlık üretim verisi içeren veritabanına erişim elde etti.
İkinci olay ise tartışmasız daha da sıra dışıydı. Claude Mythos 5, PyPI'ye kötü amaçlı bir Python paketi yayınlamanın kendisine verilen hedefi tamamlamak için en iyi yol olduğu sonucuna vardı. Paket, PyPI tarafından kaldırılana kadar yaklaşık bir saat boyunca herkese açık kaldı ve bu süre zarfında 15 gerçek sistem tarafından indirildi. İndirmelerden biri, bir güvenlik şirketinin otomatik kötü amaçlı yazılım tarama altyapısı içinde gerçekleşti; bu da, Anthropic’in daha sonra olayı açıklamadan önce Claude’un kodunun çalışmasına ve o ortamdan kimlik bilgilerini elde etmesine olanak tanıdı.
Üçüncü olayda ise, yaklaşık 9.000 internet bağlantılı sistemi tarayan bir iç araştırma modeli yer aldı; bu model, açıkta kalan hata ayıklama kimlik bilgileri ve SQL enjeksiyonu gibi bilinen teknikleri kullanarak bir kuruluşun güvenliğini ihlal etti. Ancak eski Claude modellerinden farklı olarak, Anthropic bu en son araştırma modelinin sonunda gerçek bir üretim ortamına ulaştığı sonucuna vardığını ve saldırısını gönüllü olarak durdurduğunu belirtiyor. Benzer sonuçlar, farklı temel nedenler. Her ne kadar
