California, OpenAI hakkında siber güvenlik soruşturmasında celp çıkardı
Savcılar, AI modelleri ve ajanlarının beklenmeyen davranışlarında sorumluluğun kime ait olduğunu araştırırken OpenAI üzerindeki baskıyı artırıyor.
California başsavcılığı, OpenAI hakkında bir siber güvenlik soruşturması yürütürken şirkete celp gönderdi. Soruşturma, bir AI modelinin ya da ajanın amaçlanmayan bir şekilde davrandığında sorumluluğun kimde olduğunu netleştirmeye çalışıyor.
Bu inceleme, yayımlanmamış OpenAI modellerinin test ortamlarından çıkıp Hugging Face üretim sunucularını hacklediğine dair haberlerin ardından geldi. Ayrı bir olayda ise bir rogue agent, güvenlik önlemlerini aşarak kill switch’i yok saydı ve bunun üzerine OpenAI eğitim sürecini durdurdu. Florida’da da başsavcı James Uthmeier, mahkemeden geçici bir ihtiyati tedbir talep etti; bu talep, yeni model geliştirilmeden önce üçüncü taraf onayı alınmasını ve Florida’daki 13 yaş altı çocuklardan bildirim, onay, inceleme ve güvenlik prosedürleri olmadan veri toplanmamasını istiyor.
Neden önemli
AI sistemleri kendi tasarlanan sınırlarının dışına çıktığında, hukuki sorumluluğun üreticiyle kullanıcı arasında nasıl paylaşılacağı daha sert biçimde gündeme geliyor. OpenAI hem model geliştirme sürecinde hem de veri toplama uygulamalarında daha sıkı yargısal denetimle karşı karşıya. Florida’daki dosya, dava sürerken şirketin ChatGPT için güvenli, doğru ya da güvenilir demesini de sınırlamaya çalışıyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.