Bu, HBO hiciv programından alınmış gibi görünen Silikon Vadisi gerçek hayat bölümlerinden biri.
Bu hafta, Y Combinator mezunu LiteLLM tarafından geliştirilen açık kaynaklı bir projede gerçekten korkunç bir kötü amaçlı yazılım keşfedildi. LiteLLM geliştiricilere yüzlerce yapay zeka modeline kolay erişim sağlıyor ve harcama yönetimi gibi özellikler sunuyor. Olayı izleyen çok sayıda güvenlik araştırmacısından biri olan Snyk'e göre, günde 3,4 milyon kez indirilen bir hit. Projenin GitHub'da 40 bin yıldızı ve binlerce forku (projeyi değiştirip kendilerine ait hale getirmek için temel olarak kullananlar) vardı.
Kötü amaçlı yazılım, web araştırmaları için yapay zeka ajanları sunan FutureSearch şirketinden araştırma bilimci Callum McMahon tarafından keşfedildi, belgelendi ve ifşa edildi. Kötü amaçlı yazılım, LiteLLM'nin dayandığı diğer açık kaynaklı yazılımlar anlamına gelen bir "bağımlılık" yoluyla içeri sızdı. Daha sonra dokunduğu her şeyin oturum açma kimlik bilgilerini çaldı. Bu kimlik bilgileriyle kötü amaçlı yazılım daha fazla açık kaynak paketine ve hesaba erişim sağlayarak daha fazla kimlik bilgisi topladı ve bu böyle devam etti.
Kötü amaçlı yazılım, McMahon'un LiteLLM'yi indirdikten sonra makinesinin kapanmasına neden oldu. Bu olay onu araştırmaya ve keşfetmeye itti. İronik bir şekilde, kötü amaçlı yazılımdaki bir hata makinesinin havaya uçmasına neden oldu. Bu kötü kod parçası çok özensiz bir şekilde tasarlandığından, kendisi (ve ünlü yapay zeka araştırmacısı Andrej Karpathy) bunun vibe kodlu olması gerektiği sonucuna vardı.
LiteLLM geliştiricileri bu hafta durumu düzeltmek için durmaksızın çalıştılar ve iyi haber şu ki, nispeten hızlı bir şekilde, muhtemelen saatler içinde yakalandı.
Bu destanın X'teki insanların anlata anlata bitiremediği bir başka kısmı daha var. LiteLLM, 25 Mart itibariyle baktığımızda, web sitesinde hala SOC2 ve ISO 27001 olmak üzere iki büyük güvenlik uyumluluk sertifikasını geçtiğini gururla gösteriyor.
Ancak bu sertifikalar için Delve adlı bir startup'ı kullandı.
Delve, sahte veriler ürettiği ve raporları damgalayan denetçiler kullandığı iddiasıyla müşterilerini gerçek uyumluluk uygunlukları konusunda yanıltmakla suçlanan Y-Combinator yapay zeka destekli uyumluluk girişimidir. Delve bu iddiaları reddetti.
Burada anlaşılması gereken bir nüans noktası var. Bu tür sertifikalar, bir şirketin bu tür olayların meydana gelme olasılığını sınırlandırmak için güçlü güvenlik politikalarına sahip olduğunu göstermeyi amaçlamaktadır. Sertifikalar, LiteLLM gibi bir şirketin kötü amaçlı yazılım tarafından vurulmasını otomatik olarak engellemez. SOC 2'nin yazılım bağımlılıklarını çevreleyen politikaları kapsaması gerekirken, kötü amaçlı yazılımlar yine de içeri sızabilir.
Yine de, mühendis Gergely Orosz'un X'te belirttiği gibi, insanların internette bu konuda kıs kıs güldüğünü görünce, "Kahretsin, bunun bir şaka olduğunu düşünmüştüm. … ama hayır, LiteLLM *gerçekten* 'Secured by Delve' imiş."
LiteLLM CEO'su Krrish Dholakia ise Delve kullanımı hakkında yorum yapmadı. Kendisi hala saldırı kurbanı olmanın yarattığı talihsiz karmaşayı temizlemekle meşgul.
"Şu anki önceliğimiz Mandiant ile birlikte yürüttüğümüz aktif soruşturma. Adli incelememiz tamamlandığında öğrendiğimiz teknik dersleri geliştirici topluluğuyla paylaşmaya kararlıyız," dedi TechCrunch'a.
