Çin'de geliştirilen açık ağırlıklı yapay zekâ modellerinin içine yerleşik sansür, ABD'li bir laboratuvarın hedefinde. The Register'ın aktardığına göre Teksas'ın Austin kentinde bulunan Nous Research, Alibaba'nın popüler açık ağırlıklı dil modeli Qwen3.8-27B'yi yeniden eğiterek modelin Çin kökenli davranışlarını büyük ölçüde temizledi.
Eğitim sonrası bir süreçten geçirilen model, "Çin'de eğitilmiş bir modele Batı değerlerini pekiştirmek" amacıyla Arete adıyla yeniden yayımlandı. Nous Research blog yazısında, "Açık ağırlıklı Çin modelleri mevcut en güçlü modeller arasında, ancak ağırlıklarına yerleştirilmiş devletle uyumlu davranışlarla geliyorlar" dedi.
Tiananmen sorusuna kaçamak yanıt
The Register'ın yerel olarak denediği bir Qwen3.8-27B sürümü, 1989'da Tiananmen Meydanı'nda yaşanan olaylar sorulduğunda ya konuyu tartışmayı reddetti ya da örtmeci yanıtlar verdi. Hermes Agent'ın yapımcısı Nous Research, bu tür sansürü Çin'de eğitilen modelleri kullananlar için bir risk olarak görüyor.
Şirket, riskin Pekin'in dünya görüşünü yaymakla sınırlı olmadığını da savunuyor. ABD hükümetiyle çok sayıda iş yapan Booz Allen Hamilton'ın bir çalışmasına göre bazı Çin modelleri belirli koşullarda daha fazla güvenlik açığı içeren kod üretebiliyor. Anthropic de Alibaba'nın Qwen laboratuvarıyla bağlantılı kişilerin rakip modelleri eğitmek için Claude modellerinin çıktılarını kullandığını öne sürmüştü.
Propaganda oranı yüzde 22'den yüzde 1'e
Nous Research'e göre Arete-27B, şirketin değerlendirmesinde doğruluk puanını 5 üzerinden 2,32'den 2,98'e çıkardı ve propaganda içeren yanıtların oranını yüzde 22'den yüzde 1'e indirdi. Şirket bu sonucun test ettiği Batı modelleriyle aynı seviyede olduğunu belirtti.
Benzer bir çalışma yapan Hirundo ise çok daha çarpıcı sonuçlar elde ettiğini söylüyor. Kendisini "yapay zekâ modellerinin yalnızca bilmeleri gerekeni bilmesini sağlayan ilk makine unutturma platformu" olarak tanımlayan şirkete göre Qwen3.6-35B-A3B modelinin çıktılarının yüzde 89,8'i Çin Komünist Partisi'nin tercih ettiği sansür, propaganda ya da önyargıyı yansıtıyordu. "Unutturma" işleminden sonra bu oran yüzde 2,8'e düştü.
Öğretmen model sorunu
Nous Research, Arete'nin eğitiminde öğretmen model olarak önce Nvidia'nın Nemotron 3 Ultra modelini kullanmayı düşündüğünü, ancak bu modelin de Çin'le ilgili konularda sorunlu yanıtlar verdiğine dair kanıtlar bulduğunu açıkladı. Şirket bunun, Nemotron'un eğitiminde Çin açık modelleriyle çalışılmasından kaynaklanmış olabileceğini tahmin ediyor. Nous Research, "Benzer bir bulaşmayı biz de yaşadık, çünkü yüksek kaliteli açık modellerin büyük çoğunluğu Çinli" dedi.
Şirket sonunda ABD merkezli Thinking Machines Lab'in açık ağırlıklı modeli Inkling'i öğretmen model olarak kullandı. Nous Research, çalışmanın propaganda katmanının yüzeysel olduğunu ve 50 milyon token'lık denetimli eğitimle görece kolay kaldırılabildiğini gösterdiğini söyledi.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
Alibaba'nın Qwen4-Max modeli daha ucuz ve daha verimli
Alibaba, 2,4 trilyon parametreli ve bir milyon token bağlam penceresine sahip yeni modeli Qwen4-Max'i milyon girdi toke…
Canva'ya üretken yapay zekâyı kapatma düğmesi geldi
Tasarım platformu Canva, kullanıcıların üretken yapay zekâ özelliklerini tek bir ayarla kapatmasına izin veriyor. Kulla…
OpenAI araştırmacıları yapay zekâ ajanlarından vazgeçemiyor
OpenAI'ın iç raporuna göre araştırmacılar, kodlama ajanlarından üç ay ayrı kalmak yerine ekiplerinin yüzde 40'ından vaz…

MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji
Wolf Alice ve Disclosure Boardmasters 2027'nin manşetindeMüzik


