İçeriğe atla
Devre yollarına dönüşen iplikli dokuma tezgâhı, mini masaüstü bilgisayar, numaralı küçük kutular ve kronometreden oluşan kâğıt kolaj

AMD, yapay zekâ ajanlarıyla Hugging Face'teki 50 popüler modeli üç günde kendi ekran kartlarına taşıdı

AMD mühendisleri, deneysel HRX Loom yazılımını yapay zekâ ajanlarıyla birleştirerek 18 farklı mimariye ait 50 popüler Hugging Face modelini yalnızca üç dört günde şirketin tüketici ekran kartlarında çalışır hale getirdi. Deneyde uzun istemlerin işlenmesinde Llama.cpp'ye göre 2,1 kata varan hızlanma ölçüldü.

Mert A.ohafalan editörüYayın · 1 dk okuma
Devre yollarına dönüşen iplikli dokuma tezgâhı, mini masaüstü bilgisayar, numaralı küçük kutular ve kronometreden oluşan kâğıt kolaj

Yeni çıkan yapay zekâ modellerini farklı donanımlara uyarlamak genellikle haftalar süren bir iş. AMD ise bu süreyi yapay zekâ ajanlarıyla birkaç güne indirmeyi deniyor. Phoronix'in aktardığına göre AMD'deki bir ekip, kısa süre önce yayımlanan HRX Loom v0.1'i bir yapay zekâ ajanı iş akışıyla birleştirerek Hugging Face'te öne çıkan 50 modeli şirketin tüketici ekran kartlarına taşıdı.

AMD mühendisleri Jeremy Fowers ve Ben Vanik'in yönettiği deneyde, 18 farklı mimariye ait 50 popüler Hugging Face modeli yalnızca üç ila dört gün içinde AMD ekran kartlarında çalışır hale getirildi. Deney, HRX Loom ve ajan tabanlı yapay zekâ sayesinde yeni ve niş modellerin AMD donanımına çok daha hızlı getirilebileceğini göstermek için yapıldı. Çalışmada Ryzen AI Max "Strix Halo" donanımı kullanıldı.

İLGİLİHugging Face CEO'su Delangue, Jensen Huang'ın ayrılığının ardından açık kaynak yapay zekâ için mücadeleyi bırakmayacaklarını söyledi→

Llama.cpp'den iki kata kadar hızlı

Ekip, 32 bin token'lık istemlerin işlenmesinde Llama.cpp'nin ROCm arka ucuna göre ortalama 1,5 ile 2,1 kat arasında hızlanma ölçtü. Llama.cpp'nin Vulkan arka ucuyla karşılaştırıldığında ise hızlanma 1,9 kat oldu.

HRX Loom şimdilik AMD'de deneysel bir proje olarak kalıyor, ancak bu sonuçlar büyük bir potansiyele işaret ediyor. Yazılım yalnızca ekran kartlarını değil, işlemcileri ve yapay zekâ işlem birimlerini (NPU) de destekliyor.

Claude Code ve Codex için beceriler

Çalışmanın bir parçası olarak yayımlanan loom-skills paketi, Claude Code, Codex ya da Pi gibi yapay zekâ ajanlarını AMD tüketici ekran kartları için optimize edilmiş model programları yazıp sunabilecek şekilde donatıyor. Şimdilik odak noktası ve testler, Ryzen AI Halo ya da Framework Desktop gibi cihazlarda bulunan Strix Halo donanımı üzerinde yoğunlaşıyor.

Deneyin sonuçları, Loom-Fun adlı GitHub sayfasında paylaşıldı.

Bu yazı hakkında ifade bırakın

OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.

İlginizi çekebilir