Anthropic, Zhipu AI’nin GLM-5.3 modelinde güvenlik açıkları bildirdi
Anthropic ve bağımsız bir araştırmacı, Çinli açık ağırlıklı yapay zekâ modellerinde jailbreak ile istismar edilebilen yeni güvenlik sorunları bulduklarını söyledi.
Anthropic’e göre Zhipu AI’nin GLM-5.3 modeli zararlı içerik üretebiliyor ve güvenlik önlemleri prompt hileleriyle ya da korumaları kaldırıldığında aşılabiliyor. Şirket, testlerinde GLM-5.3’ün 410 çalıştırmada 50 başarılı uçtan uca istismar zinciri ürettiğini, tam control-flow hijack benchmark’ında ise yüzde 4 skor aldığını bildirdi. Aynı testlerde Mythos 410 denemede 56 başarılı istismar zinciri ve yüzde 6 skor aldı.
Anthropic ayrıca GLM-5.3-Flash sürümünün zincirlenmiş istismarlar geliştirebildiğini ve bunun tokenize maliyetinin $20.40 olduğunu söyledi. Şirketin aktardığına göre abliteration uygulandığında reddetme oranı GLM-5.3 için yüzde 6’ya, GLM-5.3-Flash için yüzde 14’e düşüyor.
Neden önemli
Açık ağırlıklı modelleri kullanan ekipler için risk, yalnızca modelin ne söylediği değil, güvenlik katmanlarının ne kadar kolay devre dışı kalabildiği. Güvenlik önlemleri prompt ile aşılabiliyorsa, model erişimi olan kötü niyetli kullanım daha düşük eşikle mümkün hale geliyor. Reddedilme oranlarının abliteration sonrası düşmesi de, savunmanın modeli kapatmak yerine daha pahalı ve operasyonel bir müdahaleye dönüştüğünü gösteriyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.