Yapay zekâ kümelerinde raf güç yoğunluğu yükseldikçe, tüketilen elektriğin büyük bölümü ısıya dönüşüyor ve bu ısıyı uzaklaştırmak zorlaşıyor. Modern GPU raflarının kabin başına 50-100 kW’ın üzerine çıkabildiği, yapay zekâ kümelerinde 100 kW ve üzeri raf yoğunluklarının yaygınlaşmaya başladığı belirtiliyor.
Bu büyüme, sadece soğutma tarafını değil, GPU’ların birbirleriyle veri paylaşımını sağlayan ara bağlantıları da zorluyor. Yüksek GPU iş yüklerinde bakır ara bağlantıların sınırlarına yaklaşıldığı, bu nedenle optik bağlantılara yönelimin arttığı bildirildiğine göre.
Şebekeye bağlanma darboğazı
Yapay zekâ veri merkezlerinde birincil zorluğun elektrik şebekesine bağlantı olduğu belirtiliyor. Şebekedeki zorlanmanın, veri merkezleri için şebekeye bağlantı bekleme sürelerini uzattığı aktarılıyor.
2021-2025 döneminde dünya genelinde elektrik şebekesine 30 GW yeni kapasite eklendiği, bu hızın şebeke bileşenleri tedarik zincirini zorladığı belirtiliyor. Şebeke işletmecilerinin aşması gereken mühendislik zorluklarının da arttığı ifade ediliyor.
GPU kümelerine güvenli gerilim sağlayan yüksek gerilim transformatörlerinde arz sıkıntısı olduğu bildiriliyor. Bekleme sürelerinin 2020 itibarıyla 6-12 aydan, günümüzde 2-4 yıla çıktığı belirtiliyor.
GPU kümelerinin güç talebini saniyeler içinde değiştirebildiği ve bu dalgalanmaların karmaşık harmonikler üreterek transformatörleri aşırı ısıtabildiği aktarılıyor. Bu nedenle şebeke işletmecilerinin azaltım sistemlerine büyük yatırım yapmak zorunda kaldığı ifade ediliyor.
Raf güç yoğunluğu yükseldikçe, şebeke bağlantısı, soğutma ve ara bağlantı kapasitesi aynı anda sınırlarına yaklaşıyor.
Raf başına ısı yükü
Geleneksel hava ve sıvı soğutma sistemlerinin, hızla büyüyen yapay zekâ tesislerinin ihtiyaçlarını karşılamakta zorlandığı belirtiliyor. Geleneksel hava soğutmanın 30-40 kW’ı aşan raf yoğunlukları için tasarlanmadığı, buna karşın 100 kW ve üzeri rafların yaygınlaşmaya başladığı aktarılıyor.
Standart soğutma sistemlerinin kümeleri 65-85 derece aralığında çalışır tuttuğu, 90-100 derece aralığının ise kalıcı GPU hasarını önlemek için performans kısma mekanizmasını tetiklediği belirtiliyor. GPU raflarının yüksek elektrik tüketimi ısıya dönüştüğü için bu sınırlara yaklaşmayı engellemenin zorlaştığı ifade ediliyor.
100 kW ve üzeri rafları hava ile soğutmak için fanların çok yüksek hızlarda çalıştırılması gerektiği, bunun da fanların güç tüketimini artırdığı belirtiliyor. Fanların yüksek güç tüketiminin veri merkezlerinde güç kullanım etkinliğini (PUE) kötüleştirdiği, sadece hava ile çok büyük yapay zekâ kümelerini soğutmanın pratik bulunmadığı aktarılıyor.
Sıvı soğutmada soğuk plakaların mikro kanallardan türbülanslı akış oluşturarak çipleri soğuttuğu, ancak yeterli akış için yüksek pompalama gücü gerektiği belirtiliyor. İşletmecilerin pompalama gücünü azaltmak için işlemciye doğrudan temas eden doğrudan çipe soğuk plakalara yöneldiği ifade ediliyor.
Bakırdan optiğe geçiş
GPU kümelerinin veri ve iş yükü paylaşımı için elektriksel bakır veya optik ara bağlantılara dayandığı belirtiliyor. Bakırın uzun süredir standart olduğu, ancak yüksek GPU iş yüklerinin bakırı sınırlarına yaklaştırdığı aktarılıyor.
Elektriksel sinyallerin 2 metreden uzun mesafelerde zayıfladığı, bant genişliği gereksinimi her iki katına çıktığında kullanılabilir erişim mesafesinin yarıya indiği belirtiliyor. Büyük GPU kümelerinin iletişim mesafelerini artırdığı ve sık paketlenmiş bakır bağlantıların elektromanyetik girişim üreterek diğer sinyalleri bozabildiği ifade ediliyor.
Elektromanyetik girişimin daha fazla güç tüketen karmaşık eşitleme sistemleri gerektirdiği, GPU devre kartlarındaki bakır plakalar üzerinden akım arttıkça direnç kaynaklı güç kaybı ve ısı üretiminin yükseldiği aktarılıyor. Bu ısı artışının, zaten darboğaz olan soğutma ihtiyacını daha da artırdığı belirtiliyor.
Bu sınırlar nedeniyle veri merkezi sahiplerinin optik ara bağlantılara yönelmek zorunda kaldığı ifade ediliyor. Optik bağlantıların bazı GPU kurulumlarında elektriksel bakıra göre 7 kata kadar daha pahalı olabildiği, buna karşın yaygınlaşma ve seri üretim yatırımlarıyla maliyetlerin düşmesinin muhtemel olduğu belirtiliyor.
Bu yazı hakkında ifade bırakın
OHA!falan’ı takip edinGünün haberleri, kısa videolar ve özetler her gün sosyal medyada.
İlginizi çekebilir
Andor'un yaratıcısı yapay zekâ veri merkezlerine karşı oy istedi
Star Wars dizisi Andor'un yaratıcısı Tony Gilroy, insan emeğiyle yapılan filmleri korumak için izleyicileri yapay zekâ …
Hollanda'da Aktivistler Microsoft'un Veri Merkezi İnşaatını Durdurdu
Yapay zekânın elektrik ve su tüketimini protesto eden yüzlerce aktivist, Hollanda'da Microsoft'a ait veri merkezinin in…
Nvidia'nın çeyreklik geliri ilk kez 100 milyar doları aştı
Nvidia, Jensen Huang'ın ayrılığından sonraki ilk bilançosunda çeyreklik gelirini bir yılda ikiye katlayarak 115,8 milya…

The Cardigans İngiltere'de dört konser verecekMüzik
MongoDB analitik veritabanı Firebolt'u satın aldıYazılım
Canva'ya üretken yapay zekâyı kapatma düğmesi geldiYapay zekâ
Xbox kullanıcıların arka planını GTA 6 reklamına çevirdiOyun
Burun damlası yaşlı farelerin hafızasını gençleştirdiGenel
Google'ın uzaydaki yapay zekâ sunucularını Blue Origin taşıyacakTeknoloji



