Çin merkezli yapay zeka teşebbüsü DeepSeek, MIT lisansı ile yayınladığı yeni büyük lisan modeli DeepSeek-V3-0324’ü kullanıcıların erişimine açtı. Model, Hugging Face platformunda fiyatsız olarak indirilebiliyor ve ticari kullanım için de büsbütün açık durumda.
Yeni DeepSeek-V3-0324 görücüye çıktı
641 gigabayt boyutundaki model, bilhassa tüketici sınıfı donanımlarda çalışabilir olmasıyla dikkat çekiyor. Apple’ın M3 Ultra çipine sahip Mac Studio aygıtlarında bile problemsiz biçimde çalıştığı belirtilen teknoloji, 685 milyar parametreli bir yapıya sahip.
https://twitter.com/hakki_alkan/status/1904553879250804899
Yapay zeka araştırmacısı Xeophon, bu modelin Anthropic’in Claude Sonnet 3.5 modeline önemli bir rakip olabileceğini belirtiyor. Bilhassa Sonnet’in abonelikle sunulmasının bilakis, DeepSeek-V3-0324’ün büsbütün fiyatsız bir biçimde erişilebilir olması büyük fark yaratacak.
ChatGPT kullanmak yalnızlık hissini artırıyor! Pekala neden?
Yapılan bir araştırmaya nazaran, ChatGPT kullanmak kimi bireylerde yalnızlık hissini artırıyor. Bu durum, birçok telaşa yol açtı.
Model, Mixture of Experts (MoE) mimarisine dayanıyor. Klâsik büyük lisan modellerinin tersine, DeepSeek-V3-0324 sadece en gerekli parametreleri aktifleştiriyor. 685 milyar parametreden sadece yaklaşık 37 milyarı faal hale getiriliyor.
Bu yaklaşım, hesaplama mühletini önemli biçimde azaltırken performanstan da ödün vermiyor. Performans testlerinde, daha büyük ve daha ağır aktifleştirme yapan modellerle hayli emsal sonuçlar elde edildi.
DeepSeek-V3-0324 ayrıyeten Multi-Head Latent Attention (MLA) ve Multi-Token Prediction (MTP) üzere iki değerli yenilik içeriyor. MLA, uzun metinler ortasında bağlamı müdafaa yeteneğini geliştirirken, MTP her adımda birden fazla token üretme imkanı sağlıyor.
Bu teknolojiler, modelin çıktı suratını yaklaşık yüzde 80 oranında artıracak. Apple araştırma kümesinden Awni Hannun, modeli Mac Studio üzerinde test ederek saniyede yaklaşık 20 token suratında çıktı ürettiklerini açıkladı.
Kullanıcılar, modelin irtibat üslubunda evvelki sürümlere kıyasla besbelli bir değişiklik olduğunu belirtiyor. Daha evvel insan gibisi ve konuşkan bir tona sahip olan DeepSeek modellerinin tersine, V3-0324 daha resmi ve teknik bir üsluba sahip.
DeepSeek’in bu atılımı, büyük lisan modelleri ortasındaki rekabeti yeni bir boyuta taşıdı. Pekala siz bu bahis hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.
Kaynak : Shiftdelete
