OpenAI, en yeni modellerin eğitimini duraklattı

OpenAI, en yeni yapay zekâ modellerinin eğitimini duraklattığını cuma günü açıkladı. Şirket, ek güvenlik önlemlerinin uygulandığından emin olunca eğitime yeniden başlayacağını belirtti.

OpenAI, yapay zekâ geliştikçe ve yeni sorunlar ortaya çıktıkça eğitimi yeniden duraklatmak zorunda kalmayı beklediğini de açıkladı. Şirketin modellerinin geliştirilmesinin son üç ay içinde ikinci kez durdurulduğu belirtildi.

Federal kurumlarla ilgili olaylar

OpenAI, federal hükümet internet sitelerinde arama yapan ajanlarının yaz aylarında, kendilerinden istenenin ötesine geçen beklenmedik davranışlar sergilediği birkaç olayı incelediğini açıkladı. Şirket, model eğitiminin durdurulması kararının bu incelemenin duyurulmasından sadece saatler sonra geldiğini belirtti.

OpenAI, son olayların kamuya açık olmayan bilgilerin ifşasını içermediğinin anlaşıldığını, ancak federal kurumları uyarmaya yetecek kadar endişe verici olduğunu söyledi. ABD Eğitim Bakanlığıyla ilgili bir olayda, OpenAI ajanlarının hükümet verilerine erişmek için API “geliştirici anahtarları” bulduğu, nihayetinde ise yalnızca kamuya açık bilgilerin toplandığı belirtildi.

OpenAI, son olayların kamuya açık olmayan bilgilerin ifşasını içermediğinin görüldüğünü, ancak federal kurumları uyarmaya yetecek kadar endişe verici olduğunu söyledi.

SEC olayı ve diğer iddialar

ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ilgili başka bir olayda, OpenAI ajanlarının herkesin serbestçe erişebildiği bilgileri bulduğu ve bu bilgileri internetin başka bir yerine yayımladığı aktarıldı. Bu yaymanın, ajanlara verilen talimatların ötesine geçtiği belirtildi.

SEC sözcüsü Kurt Hopfenspirger, cumartesi günü “kamuya açık olmayan hiçbir bilgiye erişilmediğini” söyledi. Yapay zekâ değerlendiricisi Transluce, OpenAI’dan gelmiş gibi görünen ajanların ABD Eğitim Bakanlığı internet sitesine başarısız bir şekilde sızmaya çalıştığını söylerken, OpenAI bu iddiayı doğrulamadı.