Yapay Zeka

Friday, July 19, 2024

Sam Altman, insanların ChatGPT mini'yi kullanmaktan hoşlanacağını ve bunun maliyet açısından verimli bir model olduğunu söylüyor.

Uzun bir süredir OpenAI'nin ChatGPT'nin bir sonraki sürümü olan GPT-5'i geliştirdiğine dair haberler internette dolaşıyordu. Kısa süre önce GPT 4o ile tanışmış olsak da, GPT-5 için hala bir haber yok. Ve şimdi, ChatGPT üreticisi kısa süre önce bir sonraki ürününü duyurdu - GPT-4o mini. Evet, doğru okudunuz. OpenAI CEO'su Sam Altman da yeni ürünü duyurmak için X'e (daha önce Twitter) gitti ve insanların yeni modeli kullanmaktan hoşlanacağını düşündüğünü söyledi. Ayrıca uygun maliyetli olduğunu da ekledi.

Altman yazısında, “Ölçülemeyecek kadar ucuz istihbarata doğru. Milyon girdi jetonu başına 15 sent, milyon çıktı jetonu başına 60 sent, %82 MMLU ve hızlı. En önemlisi, insanların yeni modeli kullanmayı gerçekten ama gerçekten seveceğini düşünüyoruz.” “2022 yılında, dünyadaki en iyi model text-davinci-003 idi. Bu yeni modelden çok çok daha kötüydü. Maliyeti 100 kat daha fazlaydı.”

GPT-4o mini'den bahsetmişken, yapay zekayı daha uygun fiyatlı ve erişilebilir hale getirmeyi amaçlayan kompakt ancak güçlü bir yapay zeka modelidir. Milyon girdi jetonu başına sadece 15 sent ve milyon çıktı jetonu başına 60 sent fiyatıyla GPT-4o mini, GPT-3.5 Turbo gibi modellerden önemli ölçüde daha ucuz, uygun maliyetli bir çözüm sunuyor.

OpenAI'nin bloguna göre GPT-4o mini, MMLU kıyaslamasında yüzde 82 puan alarak ve sohbet tercihleri için LMSYS liderlik tablosunda GPT-4.1'den daha iyi performans göstererek etkileyici performans ölçümleri elde ediyor. Düşük maliyeti ve hızlı yanıt süreleri sayesinde çok çeşitli görevleri yerine getirebilen bu model, birden fazla model çağrısı, büyük hacimli içerik veya müşteri destek sohbet robotları gibi gerçek zamanlı metin etkileşimleri gerektiren uygulamalar için idealdir.

Şu anda GPT-4o mini metin ve görüntü girdilerini desteklemektedir ve gelecekte görüntü, video ve ses girdilerini ve çıktılarını da dahil etmeyi planlamaktadır. Ekim 2023'e kadar güncellenecek bilgilerle birlikte 128K belirteçlik bir bağlam penceresine sahiptir ve istek başına 16K'ya kadar çıktı belirtecini destekler. Geliştirilmiş tokenizer özelliği, İngilizce olmayan metinlerin işlenmesini de daha uygun maliyetli hale getiriyor.

GPT-4o mini artık Assistants API, Chat Completions API ve Batch API aracılığıyla kullanılabilir. Bugünden itibaren ChatGPT'deki Free, Plus ve Team kullanıcıları tarafından erişilebilir olacak ve kurumsal kullanıcılar önümüzdeki hafta erişim kazanacak. OpenAI, GPT-4o mini için ince ayar yeteneklerini yakında sunmayı planlıyor.