İçeriğe atla
Büyük kırmızı bir acil durdurma düğmesi, fişi prizden çekilmiş bir kablo, bir sunucu dolabı, eski bir pirinç terazi ve mühürlü bir belge zarfı, yırtık kâğıt katmanları. İnsan figürü yok.

İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor

İngiltere Parlamentosu'nun bir komitesi, tehlikeli yapay zekâ modellerinin eğitimini durdurabilecek, yayınlanmasını engelleyebilecek ve hizmetlerini askıya alabilecek bir denetim kurumu kurulmasını önerdi. Komite başkanı Liam Byrne, yapay zekâ şirketlerine "modern Dr. Frankensteinler gibi" davranma özgürlüğü verilemeyeceğini söyledi.

Selin Y.ohafalan editörüYayın · 1 dk okuma
Büyük kırmızı bir acil durdurma düğmesi, fişi prizden çekilmiş bir kablo, bir sunucu dolabı, eski bir pirinç terazi ve mühürlü bir belge zarfı, yırtık kâğıt katmanları. İnsan figürü yok.

İngiltere'de yapay zekâ güvenliği için daha sert kurallar isteniyor. The Register'ın aktardığına göre İngiltere Parlamentosu'nun İşletme, Yenilik, Bilim ve Ticaret Komitesi, tehlikeli yapay zekâ modellerinin fişini çekme yetkisine sahip bir denetim kurumu kurulmasını önerdi. Komiteye göre yapay zekâ şirketlerinin ne zaman fazla ileri gittiklerine kendilerinin karar vermesine izin verilmemeli.

Eğitim, yayın ve hizmet durdurulabilecek

Komite, bir denetim kurumuna modeller henüz geliştirilirken müdahale yetkisi verecek bir Yapay Zekâ Güvenliği Yasası çağrısında bulunuyor. Önerilen kurum, yüksek riskli eğitim ve testleri durdurabilecek, modellerin kullanıma sunulmasını engelleyebilecek ve riskler kontrol altına alınamazsa yapay zekâ hizmetlerini askıya alabilecek.

Komite. Araştırmacıları, sektörden ayrılan çalışanları ve OpenAI, Google DeepMind, Anthropic ve Meta temsilcilerini dinledi. Dört şirket de güvensiz buldukları modelleri yayımlamayacaklarına dair güvence verdi. Ancak sorun, şirketlerin güvenliği aynı ölçütle değerlendirmemesi ve İngiliz yasalarının genel olarak yayından önce bağımsız bir görüş alınmasını zorunlu tutmaması.

İLGİLİFTC, Anthropic ve OpenAI dahil yapay zekâ laboratuvarlarını soruşturuyor→

"Modern Dr. Frankensteinler"

Komite başkanı Liam Byrne, "Bugünün yapay zekâ liderlerine kimsenin kontrol edemeyeceği tehlikeler yaratan modern Dr. Frankensteinler gibi davranma özgürlüğü veremeyiz" dedi. Byrne, "Bazı modeller yayınlandıktan sonra güvenilir biçimde geri çağrılamıyor. Koruma, sistemler geliştirilip test edilirken başlamalı" diye ekledi. Komitenin raporu, zorunlu olay bildiriminin olmaması ve bağımsız test uzmanlarının sınırlı erişimi dahil İngiltere'nin yaklaşımında on açık tespit ediyor.

Yasa önümüzdeki dönem isteniyor

İngiltere'nin mevcut Yapay Zekâ Güvenliği Enstitüsü güçlü modelleri test ediyor, ancak çalışmaları gönüllü işbirliğine dayanıyor ve bir modelin yayınlanmasını durdurma yetkisi yok. Komite, enstitünün testlere devam etmesini ve yaptırım sorumluluğunun ayrı bir düzenleyicide olmasını istiyor. Milletvekilleri ihbarcılar için daha güçlü yasal koruma ve yapay zekâ olaylarının zorunlu bildirimini de talep ediyor. Komite, yasanın bir sonraki yasama döneminde çıkmasını istiyor. Ancak öneriler bağlayıcı değil ve hükümet önerilen yasaya henüz bir taahhütte bulunmadı. Yapay zekâ güvenliği tartışması mahkemelere de taşınmış durumda, Kaliforniya başıboş ajanlar yüzünden OpenAI'a dava açtı.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir