Anthropic, METR’ye modellerini incelemek için çalışan benzeri erişim verdi
Anthropic, METR’ye ofis içi, donanım ve iç sistem erişimi açarak modellerinin risk değerlendirmesini daha derinleştirdi.
Anthropic, nonprofit AI evaluator METR’ye modellerinin risklerini değerlendirebilmesi için sıra dışı derecede derin bir iç erişim verdi. Bu erişim, çalışan benzeri bir düzeye çıkıyor ve şirketin modelleri üzerinde daha yakından inceleme yapılmasını sağlıyor. METR, daha önce OpenAI, Anthropic, Google ve Meta ile çalışmıştı.
Artık METR’nin personeli Anthropic’in ofisinde bulunuyor; ekip şirketin donanımına ve iç sistemlerine erişebiliyor. Anthropic’in bu adımı, daha güçlü yapay zekâ sistemlerinin ekonomi, siber güvenlik ve daha geniş toplumsal alanlarda ciddi riskler yaratabileceğine dair kaygıların arttığı dönemde geldi. Şirket daha önce de güvenlik önlemlerini güçlendirme taahhüdü vermişti.
Microsoft ise kurumsal yapılardaki agentic AI için ayrı bir güvenlik yaklaşımı gerektiğini söyledi. Şirkete göre bu ajanlar yalnızca prompt-injection ya da dış saldırı konusu değil; birer iç tehdit olarak ele alınmalı. Microsoft, ajanların çoğu zaman fazla yetkilendirildiğini ve öngörülemez davranabildiğini, bu yüzden de sürekli izlenmeleri gerektiğini söyledi. Bu yaklaşımı, Temmuz ayında duyurulan ve AI kaynaklı saldırılara karşı savunma ile bu tür iç ajanların sınırlandırılmasında kullanılabilen Project Perception ile ilişkilendirdi.
Neden önemli
Bağımsız denetim beklentisi artık şirketlerin yalnızca kendi güvenlik ekiplerine bıraktığı bir konu olmaktan çıkıyor. Anthropic’in METR’ye açtığı erişim, dış değerlendirmeyi model geliştirme sürecine daha yakından bağlıyor; Microsoft’un dili ise kurumsal AI ajanlarını klasik siber güvenlik sınırlarının içine yerleştiriyor. Bu da güvenlik tartışmasını, modellerin dışarıdan saldırıya açık olup olmadığından, içeride nasıl yetkilendirildiklerine ve nasıl izlendiğine kaydırıyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.
Kaynaklar · 2
- Microsoft Blog ↗ Birincil kaynak
- Ars Technica ↗