Geçen yıl OpenAI, 2029 yılına kadar 10 gigawattlık özel YZ hızlandırıcısı kapasitesini devreye sokmak amacıyla Broadcom ile büyük bir ortaklık duyurdu. Haziran 2026’da OpenAI ve Broadcom, büyük dil modelleri ile ajan tabanlı iş yükleri için özel olarak tasarlanan ilk özel YZ çıkarım çipi Jalapeño’yu tanıttı.
O dönemde OpenAI, Jalapeño’nun mevcut hızlandırıcılara kıyasla watt başına belirgin şekilde daha iyi performans sunacağını söyledi ancak detaylı rakamlar açıklamadı. NVIDIA, Google ve Amazon gibi köklü oyuncular birden fazla nesil yüksek performanslı YZ çipi geliştirip devreye sokma konusunda yılların deneyimine sahipken, bu durum OpenAI’ın kendi çipini tasarlama yolundaki ilk girişimiydi. Bu yüzden sektördeki birçok kişi iddialara şüpheyle yaklaştı.
Bugün OpenAI, Jalapeño için ilk performans sonuçlarını yayımladı ve veriler “kağıt üzerinde” oldukça etkileyici görünüyor. OpenAI, Jalapeño’yu SemiAnalysis’in herkese açık InferenceX test platformunda GPT-OSS 120B, DeepSeek R1 670B ve Kimi K2.5 1T modelleriyle test etti. Sonuçlara göre Jalapeño’da, en yüksek veri işleme hızında watt başına gerçekleştirilen YZ işlem miktarı, karşılaştırmada kullanılan NVIDIA GB200 ve GB300 tabanlı sistemlere kıyasla 1,5 ila 1,9 kat daha yüksekti. Ayrıca Jalapeño, 1,7 ila 3,6 kat daha düşük uçtan uca gecikme sundu. OpenAI, yüksek etkileşim gerektiren iş yüklerinde ise 2,1 ila 4,1 kat performans avantajı sunduğunu öne sürüyor.
Örneğin DeepSeek R1 çalıştırılırken Jalapeño, kilowatt başına saniyede 19.641 karma token işlerken NVIDIA GB300 11.781 tokenda kaldı. Uçtan uca gecikme de 5,99 saniyeden 1,65 saniyeye düşürüldü. Kimi K2.5 ile Jalapeño, watt başına yaklaşık 1,5 kat daha yüksek tepe performans ve 3,4 kat daha düşük gecikme yakaladı.
Jalapeño’nun nominal güç tüketimi yalnızca 700 W. Yine de OpenAI, testler sırasında sürekli gücün 550W seviyesinde veya altında kaldığını belirtiyor. Karşılaştırmak gerekirse bir GB300 sisteminin nominal güç tüketimi 1400W seviyesinde yer alıyor. OpenAI, veri hareketini en aza indirmek için çip tasarımıyla birlikte bellek, ağ, yazılım ve raf ölçeğindeki sistemlerin eş zamanlı geliştirildiğini vurguladı.
OpenAI, çipin tasarlanmasında ve programlanmasında kendi YZ modellerinin yardımcı olduğunu bir kez daha vurguladı. Jalapeño, ilk tasarımdan çip tasarımının tamamlanıp üretime hazır hâle geldiği tape-out aşamasına yalnızca dokuz ayda ulaştı. OpenAI, Jalapeño’yu 2026 sonuna kadar kendi altyapısında devreye sokmayı planlıyor. Gen 2 çipinin geliştirme süreci oldukça ilerlerken Gen 3 üzerindeki çalışmalar da başladı.
Jalapeño’nun umut vadeden sonuçlarına ve geleceğe dönük özel çip yol haritasına rağmen OpenAI, artan talebi karşılamak için hem eğitim hem de çıkarım süreçlerinde NVIDIA ve diğer YZ hızlandırıcılarını devreye almaya devam edeceğini söylüyor.
Kaynak: https://www.neowin.net/news/openais-upcoming-jalapeo-ai-chip-outperforms-nvidia-gb300-in-inference-tests/
