Yapay zekâ şirketlerinin modellerini dışarıdan incelemeye açması yönündeki baskılar ilk somut adımlarından birini getirdi. The Decoder'ın aktardığına göre OpenAI, dört bağımsız denetim kuruluşuna güvenlik risklerini ve model davranışlarını yerinde incelemeleri için iç yapay zekâ sistemlerine doğrudan erişim veriyor.
Yayımlanmamış modeller ve kaynak kodu
OpenAI, bu kapsamda Apollo Research, METR, Transluce ve Goodfire ile çalışıyor. Program, şirketin izleme sistemlerinin daha önce yerinde incelenmesinin üzerine inşa ediliyor ve Beyaz Saray'daki Süper Zekâ Mutabakatı'nda verilen taahhütleri yerine getiriyor. Kuruluşlar, görevlerine bağlı olarak OpenAI'ın ofislerinde yayımlanmamış modellere, kaynak koduna, eğitim verilerine ve izleme sistemlerine erişebilecek. Denetçiler geliştiricilerle gizli görüşmeler de yapabilecek.
Her kuruluşun ayrı görevi var
Apollo Research, modellerin geliştiricilerinin niyetlerine karşı gizlice çalışıp çalışmadığını inceleyecek. METR, modellerin ödüllerle öğrendiği en büyük pekiştirmeli öğrenme eğitim sürecindeki yapay zekâ yanlış davranışlarını gözden geçirecek. Goodfire modellerin iç işleyişini analiz ederken Transluce eğitim sonrası güvenlik kontrollerini değerlendirecek. OpenAI ve Transluce, 2027'nin başı için sekiz haftalık bir takip incelemesi de planlıyor.
Bulgular bağımsız yayımlanacak
Sürecin tamamını bağımsız bir güvenlik kurulu denetleyecek. Kurul sansürsüz raporları alacak ve anlaşmazlıklarda arabuluculuk yapacak. Denetçiler bulgularını bağımsız olarak yayımlayacak, ancak OpenAI gizli bilgileri karartabilecek ve riskleri önce gidermek için raporların yayımını geciktirebilecek. Şirket, başlangıçta bazı sürtüşmeler beklediğini ama şirket kültürü ve iç süreçlere odaklanan yeni incelemeleri de şimdiden düşündüğünü belirtti. Yapay zekâ modellerinin bağımsız denetimi siyasetin de gündeminde, İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
OpenAI güvenliğini dört dış ekibe denetletecek
OpenAI, Apollo Research, Goodfire, METR ve Transluce'tan güvenlik değerlendiricilerini bir pilot program kapsamında şir…
İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor
İngiltere Parlamentosu'nun bir komitesi, tehlikeli yapay zekâ modellerinin eğitimini durdurabilecek, yayınlanmasını eng…
Öncü yapay zekâ modelleri düşüncelerini gizlemeye başladı
OpenAI'ın güvenlik ekibinin yeni analizine göre GPT-6 Astra gibi öncü modeller, akıl yürütme adımlarının giderek daha f…

Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik
Windows Server 2028 varsayılan olarak kilitli geliyorYazılım



