İçeriğe atla
Sansür bantları sökülen bir metin sayfası, silgi, yapay zekâ çipi ve açık asma kilitten oluşan kâğıt kolaj

ABD'li Nous Research, Alibaba'nın Qwen modelini yeniden eğiterek Çin sansürünü büyük ölçüde temizledi

Nous Research, Alibaba'nın açık ağırlıklı Qwen3.8-27B modelini ek bir eğitim sürecinden geçirerek Arete adıyla yeniden yayımladı ve modelin propaganda içeren yanıtlarını yüzde 22'den yüzde 1'e indirdiğini açıkladı. Şirkete göre bu "propaganda katmanı" yüzeysel ve 50 milyon token'lık denetimli eğitimle görece kolay kaldırılabiliyor.

Selin Y.ohafalan editörüYayın · 2 dk okuma
Sansür bantları sökülen bir metin sayfası, silgi, yapay zekâ çipi ve açık asma kilitten oluşan kâğıt kolaj

Çin'de geliştirilen açık ağırlıklı yapay zekâ modellerinin içine yerleşik sansür, ABD'li bir laboratuvarın hedefinde. The Register'ın aktardığına göre Teksas'ın Austin kentinde bulunan Nous Research, Alibaba'nın popüler açık ağırlıklı dil modeli Qwen3.8-27B'yi yeniden eğiterek modelin Çin kökenli davranışlarını büyük ölçüde temizledi.

Eğitim sonrası bir süreçten geçirilen model, "Çin'de eğitilmiş bir modele Batı değerlerini pekiştirmek" amacıyla Arete adıyla yeniden yayımlandı. Nous Research blog yazısında, "Açık ağırlıklı Çin modelleri mevcut en güçlü modeller arasında, ancak ağırlıklarına yerleştirilmiş devletle uyumlu davranışlarla geliyorlar" dedi.

İLGİLİÇin'in en güçlü açık yapay zekâ modelleri, ABD'nin ihracatını yasakladığı Nvidia Blackwell çipleriyle eğitilmiş→

Tiananmen sorusuna kaçamak yanıt

The Register'ın yerel olarak denediği bir Qwen3.8-27B sürümü, 1989'da Tiananmen Meydanı'nda yaşanan olaylar sorulduğunda ya konuyu tartışmayı reddetti ya da örtmeci yanıtlar verdi. Hermes Agent'ın yapımcısı Nous Research, bu tür sansürü Çin'de eğitilen modelleri kullananlar için bir risk olarak görüyor.

Şirket, riskin Pekin'in dünya görüşünü yaymakla sınırlı olmadığını da savunuyor. ABD hükümetiyle çok sayıda iş yapan Booz Allen Hamilton'ın bir çalışmasına göre bazı Çin modelleri belirli koşullarda daha fazla güvenlik açığı içeren kod üretebiliyor. Anthropic de Alibaba'nın Qwen laboratuvarıyla bağlantılı kişilerin rakip modelleri eğitmek için Claude modellerinin çıktılarını kullandığını öne sürmüştü.

Propaganda oranı yüzde 22'den yüzde 1'e

Nous Research'e göre Arete-27B, şirketin değerlendirmesinde doğruluk puanını 5 üzerinden 2,32'den 2,98'e çıkardı ve propaganda içeren yanıtların oranını yüzde 22'den yüzde 1'e indirdi. Şirket bu sonucun test ettiği Batı modelleriyle aynı seviyede olduğunu belirtti.

Benzer bir çalışma yapan Hirundo ise çok daha çarpıcı sonuçlar elde ettiğini söylüyor. Kendisini "yapay zekâ modellerinin yalnızca bilmeleri gerekeni bilmesini sağlayan ilk makine unutturma platformu" olarak tanımlayan şirkete göre Qwen3.6-35B-A3B modelinin çıktılarının yüzde 89,8'i Çin Komünist Partisi'nin tercih ettiği sansür, propaganda ya da önyargıyı yansıtıyordu. "Unutturma" işleminden sonra bu oran yüzde 2,8'e düştü.

İLGİLİABD yapay zekâ çiplerine uzaktan erişimi de kısıtlıyor→

Öğretmen model sorunu

Nous Research, Arete'nin eğitiminde öğretmen model olarak önce Nvidia'nın Nemotron 3 Ultra modelini kullanmayı düşündüğünü, ancak bu modelin de Çin'le ilgili konularda sorunlu yanıtlar verdiğine dair kanıtlar bulduğunu açıkladı. Şirket bunun, Nemotron'un eğitiminde Çin açık modelleriyle çalışılmasından kaynaklanmış olabileceğini tahmin ediyor. Nous Research, "Benzer bir bulaşmayı biz de yaşadık, çünkü yüksek kaliteli açık modellerin büyük çoğunluğu Çinli" dedi.

Şirket sonunda ABD merkezli Thinking Machines Lab'in açık ağırlıklı modeli Inkling'i öğretmen model olarak kullandı. Nous Research, çalışmanın propaganda katmanının yüzeysel olduğunu ve 50 milyon token'lık denetimli eğitimle görece kolay kaldırılabildiğini gösterdiğini söyledi.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir