Çinli DFSX, yerli yapay zeka tedarik zincirini yeni nesil 3.5D “Infinity Chiplet” mimarileri ve 3D DRAM teknolojileriyle beslemek için çalışmalarını sürdürüyor.
DFSX, yakın zamanda gerçekleştirdiği bir sunumda tamamen Çin’in yerli tedarik zinciri kullanılarak üretilen ilk 3D AI çipini duyurdu. Burada detaylandırılacak pek çok nokta bulunuyor ancak ana ürün, yerli yapay zeka ve teknoloji firmaları tarafından kullanılacak olan, yazılım tanımlı belleğe yakın hesaplama (near-in-memory computing) özelliğine sahip DF1000 yapay zeka hızlandırıcısı.
Çin’in Yerli Tedarik Zinciriyle Üretilen 3D DRAM Destekli İlk AI Hızlandırıcısı
Detaylara bakıldığında DF1000 çipi, 14nm üretim sürecine dayanıyor ve 520 TFLOPs BF16 işlem gücü sunuyor. Bu çip hakkındaki ana odak noktası ise bellek içi işlem yeteneklerine sahip 3D DRAM teknolojisinden yararlanması.
3D DRAM, hibrit bağlama (hybrid bonding) teknolojisi kullanılarak dikey olarak istifleniyor ve wafer düzeyinde istifleme sayesinde artırılmış bellek kapasitesi, bant genişliği ve yoğunluk sunuyor. Güncel veriler, 6,4 TB/s‘ye kadar bellek erişim bant genişliğini ve 900 GB/s‘lik bir ölçekleme (scale-up) bağlantı bant genişliğini öne çıkarıyor.
Şirkete göre hibrit bağlama, geleneksel bağlantı çözümleriyle karşılaştırıldığında ara bağlantı aralığını mikrometre seviyesinden bir mikrometrenin altına indiriyor. Böylece ara bağlantı yoğunluğu ve bant genişliği yoğunluğu artarken güç tüketimi azalıyor. 3D istifleme ayrıca silisyumdan geçen dikey bağlantıların, yani TSV’lerin sayısını 10 katına çıkarıyor ve aynı kapasitede bant genişliğini beş kat artırıyor. Bu özellikler, 3D DRAM’i HBM süreçlerine güçlü bir alternatif hâline getiriyor.
DFSX, 3D DRAM sayesinde HBM kaynaklı bellek darboğazını, yurt dışındaki HBM tedarik zincirine bağımlılığı ve daha pahalı üretim süreçlerine duyulan ihtiyacı aşıyor. Teknoloji daha yüksek bant genişliği ve kapasite sunarken maliyet avantajı da sağlıyor.
DF1000 yongasının öne çıkan bazı özellikleri şöyle:
Yazılım Tanımlı, Üstün Performanslı ve Belleğe Yakın Hesaplama Yapan 3D Çip: Olgun yerli üretim süreçleri ile “yazılım tanımlı çip” ve “belleğe yakın hesaplama” teknolojilerini temel alan çip; yüksek performans, yüksek enerji verimliliği ve yüksek esneklik sunuyor.
Temel Yazılım ve Uygulama Ekosistemi: Bağımsız ve açık bir yazılım yığını ile araç zinciri oluşturuluyor. Böylece yaygın büyük ölçekli modellerin dağıtık eğitimi ve çıkarımı için tek noktadan çözüm sağlanıyor.
Yüksek Performanslı Sunucular: Yaygın derin öğrenme çerçeveleri ve büyük ölçekli uygulamalarla uyumlu, eksiksiz yazılım yığını önceden yüklenmiş ve hızla devreye alınabilen yüksek performanslı sunucular sunuluyor.
DFSX, performansa ilişkin fazla veri paylaşmıyor ancak şirket içi tahminler, çipin NVIDIA’nın Hopper H200 GPU’larının performansına ulaştığını veya bu performansı aştığını gösteriyor. İlk H200 sevkiyatlarının şimdiden Çin’e doğru yola çıkmış olması da dikkat çekiyor. DF100, Hopper H100 çipinin iki katı ve H200’den %33 daha fazla bant genişliği sunuyor. Çip, Llama3 70B modellerinde 500 Tokens/s hıza ulaşabilirken, DeepSeek-3.2‘de TPOT 20ms olarak kaydedildi.
Geleceğin Çipleri için Infinity Chiplet “3.5D” Mimarisi
Çin, gelişmiş paketleme ve üretim teknolojilerinde büyük kısıtlamalarla karşı karşıya kalırken, yerli firmalar yapay zeka geliştirmelerini hızlandırmak için 14nm (DF1000 çipinde kullanılan) gibi olgun üretim teknolojilerinden yararlanmanın yeni yollarını buluyor.
Infinity Chiplet, DFSX’in bu soruna getirdiği bir çözüm; üç temel esasa dayanan bir 3.5D+ (çok çipli 3.5D istiflenmiş paket) mimarisi. Birincisi, veri depolama yapılarını değiştirmek, çip alanından tasarruf etmek ve aynı alanda daha fazla bant genişliği sağlamak için 3.5D istifleme kullanmak. İkincisi, 3D DRAM’den yararlanarak HBM kullanımını sonlandırmak. Üçüncüsü ise HBM belleğin devreden çıkarılmasından tam olarak yararlanarak I/O güç karakteristiklerini iyileştirmek.
Gelecek Yol Haritası
Şu anda sevkiyatı yapılan DF1000’i takiben DFSX, 2027‘nin başlarında DF2000 çipini tanıtacak. Bu çip, 1000 TFLOPs BF16, 2000 TFLOPs FP8, 4000 TFLOPs FP4 hesaplama gücü, gelişmiş 3D DRAM tasarımı kullanarak 15 TB/s bant genişliği ve 1600 GB/s ölçekleme bağlantı bant genişliği sunacak. DF2000 hızlandırıcısı da 14nm üretim sürecini kullanacak.
Şirket ayrıca 2028 yılında pazara girecek olan DF3000‘i de özetledi. Bu model 2000 TFLOPs BF16, 4000 TFLOPs FP8, 8000 TFLOPs FP4 hesaplama gücü, 20 TB/s bant genişliği ve 3200 GB/s bağlantı bant genişliği ile DF2000‘in iki katı hesaplama kapasitesi sunacak.
DF2000 AI hızlandırıcılarının NVIDIA Hopper GPU’larının performans seviyelerini aşması ve Blackwell seviyelerine ulaşabilmesi beklenirken, DF3000‘in NVIDIA Blackwell ile ciddi şekilde rekabet edeceği belirtiliyor.
DF1000, standart OAM 2.0 arayüzü kullanılarak büyük ölçekli raflarda ve POD‘larda halihazırda konuşlandırılıyor. Tepsi (tray), 8 adede kadar DF1000 AI hızlandırıcısı içeriyor ve Zhaoxin de sunucu çiplerini bu platforma uyarlamak için şirketle ortaklık kurdu. Ana düğüm (primary node); 4,16 PFLOPs FP16 hesaplama gücü, 51,2 TB/s bant genişliği, 7200 GB/s Scale-Up bant genişliği, 3,2 Tbps Scale-Out bant genişliği, 12KW güç tüketimi ve 120 çekirdekli bir CPU sunuyor. Raf yapılandırmaları 64’ten başlıyor ve hiper ölçekli tasarımlarda 512’ye kadar çıkıyor.
Kaynak: https://wccftech.com/china-develops-first-3-5d-infinity-chiplet-3d-dram-tech-as-it-tackles-external-constraints/
