Yapay zekâ risklerine dair uyarılarıyla tanınan araştırmacı Jacob Coxon, Anthropic'ten ayrılma kararının arkasındaki nedenlerden birini açıkladı. The Decoder'ın aktardığına göre Coxon, şirketin tarihin en büyük halka arzına hazırlanırken yatırımcılara sunduğu bir grafiğin, şirketten yalnızca dört ay sonra ayrılmasının önemli bir nedeni olduğunu söyledi.
"Çılgın bir grafik"
Söz konusu grafik, Anthropic'in modellerini eğitmek için zaman içinde ne kadar hesaplama gücüne ihtiyaç duyduğunu gösteriyor. Kod için "ön eğitim hesaplama çarpanını" gösteren grafiğin dikey ekseni logaritmik. Yani 10 katlık ve 100 katlık artışlar neredeyse aynı görünecek kadar sıkıştırılmış. Buna rağmen eğri Temmuz 2024'ten Ekim 2026'ya dik bir şekilde yükseliyor.
Coxon'a göre bu, algoritmik verimliliğin yalnızca hızla değil, giderek hızlanan bir tempoyla arttığını gösteriyor. Coxon X'te "Çılgın bir grafik ve kamuya açıklamalarına şaşırdım" diye yazdı. Anthropic ise grafikteki verilerin iç tahminlere dayandığını ve yalnızca örnekleme amacı taşıdığını belirtiyor.
"Mythos tek seferlik bir sapma değildi"
Coxon, Anthropic'in ilkbaharda yetenek açısından büyük bir sıçrama yaratan Mythos modelinin de bu hızlanan eğilimin bir parçası olduğunu savunuyor. "Mythos tek seferlik bir sapma değil, süper üstel bir eğrinin üzerindeki bir noktaydı. Mythos'u şimdiden başlangıçta gereken hesaplama gücünün çok küçük bir kısmıyla yeniden eğitebilirler" diye yazdı. Anthropic geçen hafta Claude Fable 5.2 ve Mythos 5.2'yi tanıtmıştı.
Önde gelen laboratuvarlar için duraklama çağrısı
Coxon'a göre algoritmik iyileştirmeler "otomatikleştirilmenin eşiğinde". Bu yüzden rakiplerin yetişebilmesi için öncü model geliştirmenin gelecek yıl durdurulmasını istiyor. Coxon, böyle bir duraklamanın "insan düzeyindeki zekâyı sıradanlaştıracağını" ve "yalnızca OpenAI ile Anthropic'e zarar vereceğini" savunuyor.
Daha önce OpenAI'da ve son olarak Anthropic'te yapay zekâ modelleri eğiten Coxon, eylülde gelişmiş yapay zekâ sistemlerinin risklerine dair kamuoyuna yaptığı uyarılarla geniş ilgi görmüştü. Sektördeki başka isimlerin de paylaştığı korkulardan biri, kendi kendini geliştiren ileri yapay zekânın kontrolden çıkabileceği.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
İngiliz milletvekilleri tehlikeli yapay zekâyı durdurmak istiyor
İngiltere Parlamentosu'nun bir komitesi, tehlikeli yapay zekâ modellerinin eğitimini durdurabilecek, yayınlanmasını eng…
Oyun denilince yapay zekâ sivilleri hedef gösterdi
Değerlendirme girişimi Vals'ın raporuna göre önde gelen yapay zekâ modelleri, insansız hava aracı ve uydu görüntülerind…
Tarihin en büyük halka arzına günler kala Dario Amodei itiraf etti, "Gelecek yıl ne olacağı konusunda çok büyük bir belirsizlik var"
Anthropic'in CEO'su Dario Amodei, şirketin 19 Kasım'daki halka arzından birkaç gün önce JPMorgan'ın New York'taki yatır…

MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik



