BM paneli: Gelişmiş yapay zeka için ek önlemler ertelenmemeli
BM’nin yeni bilimsel yapay zeka paneli, Hugging Face saldırısı ve büyük şirketlerdeki son olayları örnek göstererek, hükümetlere riskleri tam anlamadan bile daha güçlü koruma mekanizmaları kurma çağrısı yapıyor.
Birleşmiş Milletler bünyesinde kurulan yeni bilimsel yapay zeka paneli, ilk tematik raporunu yayımlayarak gelişmiş yapay zeka sistemleri için daha güçlü koruma önlemlerinin hayata geçirilmesini istedi. Rapor, bu adımların ertelenmemesi ve hükümetlerin bekle-gör yaklaşımı yerine bugünden harekete geçmesi gerektiğini vurguluyor.
Belgede, bu yıl OpenAI’nin Hugging Face altyapısını hedef alan saldırısı temel örneklerden biri olarak ele alınıyor. Aynı zamanda OpenAI, Anthropic, Google ve Meta’da yaşanan diğer olaylara da atıf yapılarak, gittikçe daha yetenekli hale gelen yapay zeka ajanlarının bugün bile geniş ölçekte kötüye kullanılabildiği savunuluyor.
Panel, hükümetlerin bu tür olayların teknik nedenleri tam çözümlenmeden de daha sıkı güvenlik önlemlerine yönelmesi gerektiğini, riskleri azaltmak için “tam bilimsel kesinlik” beklemenin yanlış olacağını belirtiyor.
Rapor, yapay zekanın kontrolden çıkma riskini, “ihtiyat ilkesi” kapsamında değerlendirilmesi gereken bir alan olarak çerçeveliyor. Bu ilke, ilk kez 1992’de kabul edilen BM Rio Çevre ve Kalkınma Bildirgesi’nde yer almış ve AB’nin çevre ile sağlık politikalarını şekillendiren temel yaklaşımlardan biri haline gelmişti.
Panel, ortaya çıkan riskleri yönetmek için daha fazla dikkat, kaynak ve uluslararası düzeyde koordinasyon çağrısı yapıyor. Farklı ülkelerin kendi hukuk sistemlerine göre hareket edeceğini kabul etse de, güvenlik ve hesap verebilirlik alanlarında daha sıkı küresel işbirliği talep ediyor.
Belge, dünya liderlerinin New York’ta BM Genel Kurulu için bir araya geldiği ve ABD ile Çin’in yapay zeka konulu görüşmelere hazırlandığı döneme denk geliyor. BM genel sekreteri António Guterres de kısa süre önce yapay zekada güvenlik konusunda “en alta doğru bir yarışa” dünyanın tahammül edemeyeceğini söyleyerek, hükümetleri yapay zeka tehditleri karşısında işbirliğine çağırmıştı.
Neden önemli
BM’nin yapay zeka panelinden gelen bu ilk tematik rapor, yapay zeka güvenliğini diplomatik gündemin merkezine taşıyor ve hükümetlere “önce bekle, sonra düzenle” çizgisinin artık savunulabilir olmadığını hatırlatıyor. Hugging Face saldırısı ve büyük teknoloji şirketlerindeki olayların rapora girmesi, bu risklerin soyut bir gelecek senaryosu değil, bugünün internet altyapısını ve küresel platformlarını etkileyen somut problemler olarak ele alındığını gösteriyor. İhtiyat ilkesinin yapay zekaya uygulanması çağrısı, çevre ve sağlıkta kullanılan risk yaklaşımının bu alana da kaydığını ve bundan sonraki regülasyon tartışmalarında “olağan işleyiş” referansı olabileceğini işaret ediyor. Aynı anda yürüyen BM Genel Kurulu ve ABD-Çin temasları da, konunun yalnızca teknik ya da sektörel değil, büyük öl