Wafer ölçekli motor çipinin yaratıcısı Cerebras, yepyeni WSE-3 Turbo çipini barındıran en son CS-4 çözümünü piyasaya sürdü.
Cerebras, 2024 yılında 3. nesil Wafer Scale Engine yani WSE-3 modelini tanıttı. Tek bir çip gibi çalışan bu wafer, yüksek hesaplama yetenekleri sunuyor. Wafer ölçekli çipleri ortaya çıktıkları ilk günden bu yana geliştiren Cerebras, bugün bu yolculuğun yeni sayfasını açtı.
Cerebras CEO’su ve kurucu ortağı Andrew Feldman, “YZ alanında hız, üretkenlik demektir. Tarihsel olarak hızlı çıkarım, daha küçük ve daha az yetenekli modeller kullanmak anlamına geliyordu. Cerebras CS-4, en büyük öncü modellerde sektör lideri hızlar sunarak bu paradigmayı temelden değiştiriyor. Tasarımın her unsuru, devasa işlem hacmiyle en yüksek hızları sağlamak üzere optimize edildi. CS-4 ile YZ o kadar hızlanıyor ki ürün deneyimlerini kökten dönüştürüyor.” dedi.
Yeni çip WSE-3 Turbo, diğer adıyla WSE-3T, WSE-3’ün devamı niteliğinde. “En büyük YZ işlemcisi” konumunu koruyan çip, sırasıyla 4 trilyon transistör ve 900.000 çekirdek ile aynı sayılara sahip. Çip boyutunun tamamı 46.225 mm² ve doğrudan aynı wafer üzerine entegre edilmiş 44 GB SRAM ile birlikte geliyor.
Üst düzey performans özellikleri açısından WSE-3T‘nin, wafer başına 125 PFLOPS (seyrek hesaplama kullanıldığında 250 PFLOPS) ile YZ hesaplamasında iki kat performans sunduğu ve bant genişliğini 43,2 PB/sn seviyesine çıkardığı belirtiliyor. Çip içi bağlantı mimarisi 53,5 PB/sn bant genişliği sağlarken, çip dışı G/Ç 2,4 Tb/sn bant genişliği sunuyor. Wafer ölçekli motordaki güncellemeler, gecikme süresini 5 ms‘den 2 ms‘ye düşürmeye de yardımcı oluyor.
Çip hakkında şimdilik açıklanan detaylar bunlar ancak günümüzün YZ dünyası farklı bir noktada. Çipler hayati bir bileşen olsa da YZ müşterileri sadece çip aramıyor; sistemler ve tek noktadan çözümler talep ediyor. Bu doğrultuda Cerebras, en son CS-4 raf ölçekli çözümünü WSE-3T çipleriyle donatıyor.
Cerebras’a göre CS-4, Hesaplama, Güç ve G/Ç olmak üzere üç katmandan oluşan modüler bir konsepti merkeze alan yeni Nexus Platform Architecture üzerinde yükseliyor. Her raf takılabilir bir sırt çantası tasarımına sahip. Böylece hesaplama alt sistemi, güç dizilimine dikey olarak takılan bir “sırt çantası” gibi arka kısma yerleşiyor.
Bu bağımsız wafer ölçekli “sırt çantalarının” her biri, güç dönüşümünü, doğrudan sıvı soğutmayı, yüksek hızlı veri giriş-çıkış bağlantıları ve kontrol sistemlerini kompakt bir pakette topluyor.
Yeni tasarım, güç dönüşümünü wafer’lara daha yakın bir noktaya taşıyarak güç kayıplarını neredeyse tamamen ortadan kaldırmaya yardımcı oluyor. Kayıplar azaldığı için WSE çiplerine daha fazla güç yönlendirilebiliyor. Bu da motorun beslendiği gücü 2 katına çıkararak daha yüksek frekanslar ve daha hızlı hesaplama imkanı sağlıyor.
Şirket ayrıca GPT-OSS 120B gibi modellerde yüksek hesaplama işlem hacmi yetenekleri sunduğunu iddia ediyor. Tek bir CS-4 rafı, bu modelde saniyede 4.400‘ün üzerinde token üretiyor. GPU tabanlı bir YZ çözümüyle de karşılaştırma yapıldı. CS-4‘ün 1 saniyede ürettiği içeriği GPU rafı 30 saniyede üretebildi.
Genel olarak Cerebras, CS-4’ün CS-3’e kıyasla watt başına işlem hacminde 10 katlık ciddi bir artış sağladığını öne sürüyor. Her CS-4 rafı üç adet WSE-3T (Turbo) çipi sunacak; bu da 750 PFLOPS YZ hesaplama gücü, 7,2 Tb/sn G/Ç bant genişliği ve 129,6 PB/sn SRAM bant genişliği üretecek. Yeni ara bağlantı çözümü sayesinde YZ fabrikaları, 50 trilyondan fazla parametreye sahip modelleri desteklemek amacıyla CS-4’ü büyük ölçekli kümelere genişletebiliyor.
WSE-3T içeren ilk CS-4 sevkiyatlarının bu çeyrekte başlaması bekleniyor ve NVIDIA, hedef alınan başlıca rakiplerden biri. Cerebras, tıpkı NVIDIA‘nın KV önbelleğini bu çiplerdeki geniş SRAM’e aktarmak için Groq 3 LPX raflarını kullanması gibi, daha yüksek YZ işlem hacmi sağlamak amacıyla Helios AI rafının yanında kendi wafer ölçekli raf çözümlerinden yararlanmak üzere AMD ile de ortaklık kurdu.
Kaynak: https://wccftech.com/cerebras-cs-4-generates-in-1-second-what-a-gpu-rack-needs-30-seconds-for-powered-by-4-trillion-transistor-wse-3-turbo/
