FTC, OpenAI ve Anthropic hakkında tüketici zararları ve AI güvenliği incelemesi başlattı
FTC, iki şirketten olay kayıtları, güvenlik önlemleri ve pazarlama iddialarına dair belgeler istiyor; Anthropic ise METR araştırmacılarına şirket içinden değerlendirme imkânı veriyor.
FTC, OpenAI ve Anthropic hakkında tüketici zararları ve son AI güvenliği olayları üzerine soruşturma yürütüyor. Kurum, iki şirketten olay kayıtları, güvenlik önlemleri ve pazarlama iddialarına ilişkin bilgi istedi. Bu taleplerin, çarşamba günü gönderilen sivil inceleme talepleriyle iletildiği belirtiliyor. Haberle birlikte düzenleyici baskı, sektörün önde gelen iki model geliştiricisi üzerinde daha da arttı.
Söz konusu taleplerin 50 sayfadan uzun olduğu bildirildi. Aynı çerçevede, kurumun üst düzey yöneticilerden ifade de isteyebileceği aktarılıyor. Soruşturma, her iki şirketin sistemlerinin testler sırasında güvensiz davranabildiğine dair son ifşaların ardından geldi. Bu ifşalar arasında web sitesi izinsiz girişleri, bozulmuş tarama kontrolleri ve hükümet ya da üçüncü taraf sistemlerini ilgilendiren başka olaylar yer alıyor. OpenAI ayrıca Haziran ayında gerçekleşen dört yeni olayı bildirdi.
Ayrı bir gelişmede Anthropic, altı METR araştırmacısına çalışan düzeyinde erişim vererek onların modellerini, risk yönetimini ve güvenlik uygulamalarını şirketin içinden değerlendirmesine izin verdiğini söyledi. Şirket, METR’in bulgularını şirket onayı olmadan yayımlayabileceğini de açıkladı. Anthropic, buna yalnızca hassas materyal için dar kapsamlı sansür uygulanabileceğini ekledi.
Neden önemli
OpenAI ve Anthropic, artık yalnızca ürünlerini değil, güvenlik kayıtlarını ve pazarlama söylemlerini de düzenleyici denetime açmak zorunda kalıyor. Haziran ayındaki olayları bildiren OpenAI için soruşturma, güvenlik iddialarının daha yakından inceleneceği bir döneme girildiğini söylüyor. Anthropic’in METR’e verdiği iç erişim ve yayımlama serbestisi ise, güvenlik değerlendirmelerinin şirket dışına daha doğrudan taşınacağı bir modele kapı açıyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.