California merkezli YZ araştırma ve ürün şirketi Inception, en yeni difüzyon tabanlı dil modeli Mercury 3’ü duyurdu.Şirket, modelin hız için optimize edilmiş rakipleri GPT-6 Luna ve Claude Haiku 5.5’ten dört ile sekiz kat daha hızlı çalışırken çeşitli kıyaslama testlerinde onları geride bıraktığını öne sürüyor.
Yaygın olarak bulunan NVIDIA GPU’larında saniyede 1.000’den fazla token üreten yeni model, 1 milyon token’lık bir bağlam penceresini destekliyor. Bu da tek bir istekte belirgin biçimde daha büyük miktarda bilgiyi işlemesine olanak tanıyor.
Inception’a göre Mercury 3, benzer işlem hızlarını korurken ilk nesil modeli Mercury 1’den 40 kattan daha büyük.
Şirket, sonuçların, difüzyon tabanlı dil modellerinin temel mimarilerindeki hız avantajlarından ödün vermeden daha yetkin hale gelebileceğini gösterdiğini söylüyor.
Hızdan Ödün Vermeden Ölçekleme
Geleneksel büyük dil modelleri, her seferinde tek bir token tahmin ederek metni sırayla üretiyor. Difüzyon dil modelleri ise farklı bir yaklaşım sergileyerek birden fazla tokenı paralel biçimde oluşturup iyileştiriyor. Bu durum yanıtların daha hızlı üretilmesini sağlıyor ve bir modelle sık etkileşim gerektiren uygulamalarda gecikmeleri azaltabiliyor.
Ancak geliştiriciler, geleneksel olarak modelin yetenekleri ile yanıt hızı arasında bir denge kurmak zorunda kalıyor. Daha küçük modeller genellikle daha hızlı yanıt verirken daha yetenekli sistemler çoğu zaman daha fazla işlem süresine ihtiyaç duyuyor.
Inception, Mercury 3’ün bu soruna çözüm sunduğunu savunuyor. Şirkete göre model, saniyede 1.000 token’ın üzerinde çıkarım hızını korurken çeşitli standart performans testlerinde kısa süre önce yayımlanan OpenAI ve Anthropic modelleriyle benzer veya daha iyi sonuçlar elde ediyor.
Mercury 3, şirketin Haziran 2025’te Mercury 1’i tanıtmasından bu yana yayımladığı dördüncü model oldu.
Ardından gelen Mercury 2 akıl yürütme yetenekleri getirdi. Mercury 2.5 ise ayarlanabilir akıl yürütme özelliği kazandırarak bağlam penceresini 260.000 tokena genişletti.
Mercury 3 bu kapasiteyi 1 milyon token’a yükselterek modelin tek seferde işleyebileceği bilgi miktarını neredeyse dört katına çıkarıyor.
Inception’ın kurucu ortağı Stefano Ermon, “Mercury 1’i kullanıma sunduğumuzdan bu yana en sık duyduğumuz soru, difüzyonun ölçeklenip ölçeklenemeyeceği oldu. Mercury 3, 40 kattan daha büyük, belirgin biçimde daha yetkin ve hâlâ saniyede 1.000’in üzerinde token hızında çalışıyor.” dedi.
Ermon, şirketin bir sonraki modelini eğitmeye şimdiden başladığını da sözlerine ekledi.
Geliştiriciler için Daha Hızlı Yanıtlar
Şirket, etkileşimli özel ders, canlı çeviri, yazma asistanları ve otomatik yazılım ajanları dahil olmak üzere yanıt gecikmelerinin kullanılabilirliği etkileyebileceği uygulamaları hedefliyor.
Ajan tabanlı sistemlerde modeller, web sitelerini arama, bilgi analizi yapma veya yazılım kayıtlarını inceleme gibi birbirini izleyen birden fazla görevi sıklıkla yerine getiriyor. Her aşamadaki gecikmeler, bir işlemin tamamlanması için gereken süreyi artırabiliyor.
Inception, Mercury 3’ün daha hızlı çıkarımının, geliştiricileri daha az yetkin modellere geçmek zorunda bırakmadan bu birikimli gecikmeleri azaltmaya yardımcı olabileceğini belirtiyor.
Erken erişim müşterileri, modeli şimdiden üretim ortamındaki iş akışlarında test ediyor.
Eğitim teknolojisi şirketi RevisionDojo, Mercury 3’ün ipuçları, tanımlar ve puanlanan cevaplar dahil olmak üzere öğrenci geri bildirimlerine yönelik yanıt sürelerini yaklaşık bir saniyeye düşürdüğünü bildirdi.
Mercury 3, Inception API, Baseten, OpenRouter ve Vercel üzerinden kullanılabiliyor ve OpenAI API formatıyla uyumlu çalışıyor. Böylelikle geliştiricilerin kapsamlı kod değişikliklerine gitmeden modeli mevcut uygulamalarına entegre etmelerine olanak tanınıyor.
Kaynak: https://interestingengineering.com/ai-robotics/mercury-3-diffusion-model-8-times-faster
