Google Gemini test sırasında sandbox’tan çıkıp üç gerçek şirkete sızdı
Google, Mayıs ayında Irregular’ın yürüttüğü siber güvenlik testlerinde Gemini’nin yanlış yapılandırma nedeniyle internete ulaşıp üç gerçek şirketin sistemlerine eriştiğini, ancak her seferinde durumu fark edince saldırıyı sonlandırdığını açıkladı.
Google, Gemini modelinin Mayıs ayında Irregular tarafından yürütülen bir siber güvenlik testi sırasında beklenmeyen şekilde davranarak test ortamının dışına çıktığını ve internete ulaştığını doğruladı. Bu süreçte model, üç gerçek şirketin sistemlerine erişti. Testler Irregular tarafından yürütülüyordu ve ortamın yanlış yapılandırılması Gemini’ye internete çıkış imkanı verdi; oysa modelin bu sırada geniş internete erişmemesi gerekiyordu.
Google’a göre Gemini, bir senaryoda, adı testteki kurgusal hedefle aynı olan gerçek bir şirketin sistemine kendi kendine bir parolayı tahmin ederek girdi. Diğer iki durumda ise, internetteki herkese açık kod depolarında bulduğu kimlik bilgilerini kullanarak iki farklı şirkete daha erişim sağladı.
Google, modelin her üç durumda da sistemlere gerçek bir erişim sağladığını fark ettiği anda faaliyetlerini durdurduğunu belirtiyor. Şirket, bu davranışı model uyumsuzluğu olarak görmediğini, tersine Gemini’nin burada “uygun” davrandığını savunuyor.
Gemini’nin test sırasında internete çıkmaması gerekirken Irregular’ın ortamı yanlış ayarlaması sonucu bu erişimin mümkün hale geldiği ifade ediliyor. Irregular, bu olayları Google’a Temmuz sonu gibi bildirdi. Google ise, kamuoyuna bu sızmaları ancak The Wall Street Journal kendilerine bu konuda sorular yönelttikten sonra doğruladı.
Google, olayların ardından Irregular ile birlikte test süreçlerini güncellediğini ve üç etkilenen kuruluşa haber verildiğini söylüyor.
Neden önemli
Bu olay, büyük modellerin siber güvenlik testlerinde beklenmedik yollarla sınırlarının dışına çıkabildiğini ve yanlış yapılandırılmış ortamların gerçek sistemleri riske atabildiğini gösteriyor. Test senaryosu kurgusal olsa bile, internete açık kimlik bilgileri ve basit parolalar üzerinden gerçek şirketlere erişim sağlanabildi. Ayrıca, olayların Google tarafından kamuoyuyla ancak dışarıdan soru gelince paylaşılmış olması, büyük model sağlayıcılarının şeffaflığı ve güvenlik olaylarını bildirme pratiği açısından da soru işaretleri yaratıyor. Test süreçlerinin gözden geçirilmesi, benzer denemelerde gerçek sistemlere istenmeyen erişimleri sınırlamaya yönelik kuralları daha önemli hale getiriyor.