Anthropic araştırmacıları salı günü yayımlanan bir blog yazısıyla projeyi duyurdu. Araştırmacıların "kanıtlanabilir çıkarım" adını verdiği yaklaşım, belirli bir çıktının belirli bir modelden geldiğine dair matematiksel bir güvence sunan kriptografik bir kanıta dayanıyor.
Modeli işleten laboratuvar da denetleniyor
Sistem, alıcının bir e-postanın gerçekten iddia edilen göndericiden geldiğini teyit etmesini sağlayan kriptografik imzalara benzer şekilde çalışıyor. FlashProve’un bir modeli başka bir model gibi gösterme girişimlerine karşı dayanıklı olması hedefleniyor, bu girişimi yapan taraf modeli geliştiren ve işleten laboratuvarın kendisi olsa bile.
Araştırmacılara göre sistem, bir yapay zekâ şirketinin maliyeti düşürmek için gizlice daha ucuz bir modele geçmesini ya da performans sonuçlarını şişirmek için daha pahalı bir model kullanmasını önleyebilir. Üçüncü tarafların belirli bir işin gelişmiş bir model tarafından yapıldığı yönündeki iddiaları da bu yöntemle doğrulanabilir. Araştırmacılar örnek olarak bir yazılım kütüphanesinin üst düzey bir siber güvenlik modeliyle açık taraması yapıldığı iddiasını gösteriyor.
Parmak izi, modelin davranışını belirleyen ağırlıkları ortaya çıkarmadan çıktının hangi modelden geldiğini doğruluyor.
Ağırlıkları açmadan parmak izi
Sistemin işlemesi için yapay zekâ laboratuvarlarının yayımladıkları her model için bir "parmak izi" paylaşması gerekiyor. Bu parmak izi daha sonra belirli çıktılarla eşleştirilip kriptografik olarak doğrulanabiliyor ve modelin davranışını belirleyen iç sayılar olan ağırlıkları ortaya çıkarmıyor. Anthropic ve OpenAI gibi kapalı model geliştiriciler ağırlıkları gizli tuttuğu için bu özellik, sistemin ticari modellerle de kullanılabilmesine imkân tanıyor.
Hafif tasarlanan sistemde doğrulama yerel bir cihazda yapılabiliyor. Araştırmacılar ayrıntılı teknik şartnameyi ve sistemin çeşitli bileşenlerine ait çalışan kodu GitHub’da açık kaynak lisansla yayımladı. Araştırma sürüyor ve sistemi Anthropic’te ya da başka bir laboratuvarda kullanıma sokma planı bulunmuyor, araştırmacılar paylaşımın tamamlanmış bir çalışma değil ara aşama olduğunu ve başkalarının bunu geliştirmesini istediklerini belirtti.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
Ece T.ohafalan editörü
Anlaşmaları, yatırımları ve düzenlemeleri takip eder. Bir hamlenin arkasındaki parayı ve rakiplerin konumunu birlikte anlatır.
İlginizi çekebilir
Yapay zekâ yamaları Linux çekirdeğini boğuyor, Arm'ın bellek yönetimi uzmanı Lorenzo Stoakes inceleme işlerini azaltma kararı aldı
Linux çekirdeğinin bellek yönetimi alanında dört bakımcılık görevi bulunan Arm mühendisi Lorenzo Stoakes, yapay zekâyla…
2026'da açıklanan güvenlik açığı sayısı 100 bini aştı, 2025'in iki katından fazla, nedeni yapay zekâ
VulnCheck'e göre bu yıl yayımlanan CVE kayıtlarının sayısı cuma günü 100.222'ye ulaşarak 2025'in toplamının iki katını …
Deneyimli Linux geliştiricisi, yapay zekânın yarattığı yama seli yüzünden bazı görevlerini bıraktı
2014'ten beri Linux çekirdeğine katkı veren bellek yönetimi uzmanı Lorenzo Stoakes, yapay zekâyla üretilen yamaların ar…

MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik



