OpenAI yeni bir sınıflandırıcı ve destek araçlarıyla çevrimiçi çocuk istismarıyla mücadeleyi güçlendiriyor
Şirket, daha önce tespit edilmemiş çocuk istismarı materyallerini bulmaya yardımcı olacak yeni bir sınıflandırıcıyı kuruluşların kullanımına sunuyor ve ChatGPT'de kullanıcıları yerel destek hizmetlerine yönlendirecek müdahaleler uyguluyor.
OpenAI, çevrimiçi çocuk cinsel istismarını ve sömürüsünü önlemeye, tespit etmeye ve bu konuda müdahale etmeye yönelik yeni araçlar, pratik rehberlik ve ortaklıklar duyurdu. Açıklamanın merkezinde, kuruluşların daha önce tanımlanmamış çocuk istismarı materyallerini (CSAM) bulmasına yardımcı olmak için geliştirilen yeni bir sınıflandırıcı yer alıyor. Daha fazla kuruluşun bu tür araçlara erişmesi amaçlanıyor.
Bir ortak olan SafetyKit'in testlerinde, OpenAI'ın sınıflandırıcısı karma eşleştirmenin kaçırdığı bilinmeyen CSAM'i yakaladı. Yasal yetişkin içeriklerinde yanlış pozitif oranı yüzde 1'in altında kaldı. Bu sınıflandırıcı çizim ve animasyonlardaki materyalleri de yakalayabiliyor.
Şirket ayrıca ChatGPT'de dış uzmanlarla birlikte geliştirdiği uyarı müdahalelerini uyguluyor. Bu müdahaleler, kullanıcıları mümkün olduğunca çok yargı bölgesinde yerel destek seçeneklerine yönlendirmeyi hedefliyor. Öte yandan eyalet başsavcıları, yapay zeka konusundaki görev gücünde teknoloji şirketlerinden sentetik çocuk istismarı materyallerini önlemek için günün her saatinde çalışmalarını istedi.
Neden önemli
Karma eşleştirmenin kaçırdığı materyalleri bulabilen bir sınıflandırıcının daha geniş kuruluş kitlesine açılması, bilinen görüntülerin veri tabanlarının ötesinde tespit kapasitesi anlamına geliyor. Sentetik ve çizim tabanlı materyallerin de kapsama alınması, bu alandaki denetim sınırlarını genişletiyor. ChatGPT'deki yönlendirme müdahaleleri ise kullanıcıların yardım aramaya yönlendirilmesini doğrudan bir ürün davranışına dönüştürüyor. Bu gelişmelerin etkisi, yeni araçları benimseyen kuruluşların ve yerel destek hizmetlerinin kapsamına bağlı olarak değişecek.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.
Kaynaklar · 1
- OpenAI News ↗ Birincil kaynak