Marvell, Structera X 3406 ve Structera X 3506 ile bulut, kurumsal ve yapay zekâ altyapısı sağlayıcılarını hedefliyor. Şirket, modern yapay zekâ çıkarım iş yüklerinin LLM sunumu ve derin öğrenme öneri modelleri dahil bellek sınırlı çalıştığını belirtiyor.
Marvell’e göre KV önbellek kapasitesi, ilk token’a kadar geçen süreyi (TTFT), iş hacmini ve XPU kullanımını doğrudan etkiliyor. Şirket, yeni nesil bellek kaynaklarına erişimi artırarak bellek ve hesaplama kaynaklarının kullanımını iyileştirmeyi amaçladığını ifade ediyor.
Yapay zekâ çıkarımına odak
Marvell, DLRM iş yüklerinde Structera X’in denetleyici başına saniyedeki sorgu sayısında 2 kata kadar artış sağladığını söylüyor. Şirket, aynı senaryoda denetleyici başına etkin gömme tablosu kapasitesinin 2-3 kat arttığını da ekliyor.
Marvell’e göre LLM sunumunda Structera X, önceki nesle kıyasla eşdeğer bağlam uzunluğunda TTFT’yi %40-%50 oranında hızlandırıyor. Şirket, eşdeğer gecikmede desteklenebilir bağlam penceresinin de 2 kata kadar uzatılabildiğini belirtiyor.
Marvell, Structera X 3406/3506 ile CXL 3.2’ye geçişin yanında 6 bellek kanalı ve 4 ana makineye kadar paylaşımı öne çıkarıyor.
CXL 3.2 ve 6 kanal
Marvell, Structera X 3406/3506’nin birinci nesil Structera X 2404/2504 üzerine inşa edildiğini ve mevcut yazılım yığını ile ekosistem entegrasyonlarından yararlandığını söylüyor. Şirket, yeni nesilde CXL 3.2’ye geçildiğini ve altı DDR4/DDR5 bellek kanalıyla önceki nesle göre %50 daha fazla kanal sunulduğunu belirtiyor.
Marvell’e göre Structera X 3406, 18 DDR4 RDIMM yuvasına kadar destek veriyor ve 9 TB’a kadar kapasiteyi destekliyor. Structera X 3506 ise 12 DDR5 RDIMM yuvasına kadar destek veriyor ve 6 TB’a kadar kapasiteyi destekliyor.
Bant genişliği, sıkıştırma, güvenlik
Marvell, dört ana makineye kadar bağlantı desteğiyle bellek kapasitesinin dört ana makine arasında paylaşılabildiğini belirtiyor. Şirket, ana makine tarafında PCIe 6.0 x16 üzerinden 256 GB/s’ye kadar bant genişliği desteklendiğini de ekliyor.
Marvell’e göre önceki nesle kıyasla LZ4 sıkıştırma iş hacmi 5 kat artırıldı ve sıkıştırma/açma iş hacmi 250 GB/s’ye kadar çıkıyor. Şirket, sıkıştırmanın iş yüküne bağlı olarak etkin bellek kapasitesini 2-3 kat artırabildiğini, StructGuard kurumsal sınıf RAS ile gelişmiş hata düzeltme sağlandığını ve kuantum sonrası güvenlik özelliklerinin kuantum sonrası kriptografi, Caliptra 2.0, CXL IDE ve AES-256 bellek şifrelemesini birleştirdiğini söylüyor.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
Deniz K.ohafalan editörü
İşlemci, ekran kartı, sunucu ve ağ tarafını izler. Bir ürünün ne vaat ettiğiyle ölçümde ne yaptığını ayrı ayrı yazar.
İlginizi çekebilir
Top500'e 33 yılın en az yeni süper bilgisayarı girdi
Dünyanın en güçlü süper bilgisayarlarını sıralayan Top500 listesinin yeni sürümüne yalnızca 27 yeni sistem girebildi ve…
Uzaydaki veri merkezleri yıldızları gölgede bırakabilir
Japon hükümetinin düzenlediği Innovation for Cool Earth Forum için hazırlanan bir rapor, on binlerce yapay zekâ bilgisa…
Yapay zekâlı Artex ağlara üç saatte sızabiliyor
FBI, yapay zekâ destekli açık kaynak sızma testi aracı Artex'in bilgisayar korsanlarınca saldırılarda kullanıldığı ve b…

Analogue 3D'nin uykudaki Wi-Fi'ı nihayet açıldıTeknoloji
The Cardigans İngiltere'de dört konser verecekMüzik
MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel



