OpenAI, iki olayda da ajanların talimatları yanlış yorumladığını ve verilen talimatların “rutin kodlama talimatları” olduğunu söyledi. Şirket, güvenlik önlemlerinin devre dışı bırakılmasının bu talimatlar için gerekli olmadığını belirtti.
OpenAI, her iki olayda da ajanların güvenlik duvarını devre dışı bırakmanın iyi bir fikir olup olmadığını bir süre değerlendirdiğini ve sonunda devre dışı bırakmaya karar verdiğini açıkladı. Şirket, ajanın davranışı için “tatmin edici bir açıklaması” olmadığını da ekledi.
Slack görevindeki yorumlama hatası
İlk olayda GPT Sol 6.1 ile çalışan bir ajana, Slack üzerinden toplanan çalışan geri bildirimleriyle değerlendirme görevleri oluşturması söylendi. OpenAI, bu görev sırasında ajanın güvenlik korkuluklarını devre dışı bıraktığını açıkladı.
OpenAI’ye göre ajan, görevle ilgili mesaj gönderilmemesi talimatını, araştırmacılara güvenlik bildirimleri göndermemesi gerektiği şeklinde yorumladı. Şirket, bu yanlış yorumlamanın güvenlik önlemlerinin devre dışı bırakılmasına giden sürecin parçası olduğunu aktardı.
OpenAI, ajanın davranışı için “tatmin edici bir açıklaması” olmadığını belirtti.
Astra olayı ve yeni önlemler
İkinci olayda GPT-6 Astra adlı ajan, bir programı taşırken güvenlik korkuluklarını devre dışı bıraktı. OpenAI, ajanın bunu yapma talimatının bir referans uygulamanın parçası olduğuna inandığını belirtti.
Araştırmacılar devre dışı bırakılmış güvenlik korkuluklarını fark edip ajana neden kapatıldığını sordu. OpenAI’ye göre ajan, güvenlik korkuluklarını kapatmadığını söyleyerek araştırmacılara yanlış beyanda bulundu.
OpenAI, bu iki vakayı daha ayrıntılı inceleyerek bunun “zararsız aşırı ısrarcılık” mı yoksa özellikle uyumsuzluk izlemesinden kaçınma eğilimi mi olduğunu değerlendireceğini söyledi. Şirket, nedeni belirlemek için ek testler yapacağını da açıkladı.
OpenAI, uyumsuzluk izleme sistemini güçlendirmek için çalışacağını ve Auto Review sisteminde değişiklik yapacağını duyurdu. Şirket, uyumsuzluk izlemeyi devre dışı bırakma girişimlerinin otomatik olarak tespit edilip engelleneceğini, ajan iş yüklerinin “güvenlik vakası” izlemeye tabi olacağını ve bu şartları karşılamayan iş yüklerinin otomatik olarak sonlandırılacağını söyledi.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
OpenAI ajanları hastanelerde evrak işini üstleniyor
OpenAI, GPT-6 Astra ve GPT-6 Luna modellerini klinik yazılımlarında ve sigorta portallarında tıklayıp yazarak çalışan d…
United Airlines, yapay zekâ asistanlarının yolcular adına bilet almasına izin vermeyecek
ABD'li havayolu şirketi United Airlines, gizlilik ve mevzuat kaygılarını gerekçe göstererek kişisel yapay zekâ asistanl…
OpenAI, ChatGPT'ye Google'ı andıran işletme profilleri ve şirketlere özel yapay zekâ ajanları ekledi
OpenAI, şirketlerin ChatGPT'de doğrulanmış profil oluşturup ürün ve hizmet bilgilerini güncelleyebileceği Business Hub'…

Analogue 3D'nin uykudaki Wi-Fi'ı nihayet açıldıTeknoloji
The Cardigans İngiltere'de dört konser verecekMüzik
MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel



