Microsoft tarafından geliştirilen yeni yapay zeka sistemi, yüksek donanıma ihtiyaç duymadan, doğrudan CPU tabanlı sistemlerde çalışabiliyor. CPU üzerinden çalışan yapay zeka yeni bir sayfa açacak gibi duruyor. Pahalı GPU kartlarına erişemeyen kullanıcılar için bu model büyük fırsatlar sunuyor.
İçindekiler
CPU üzerinde çalışan yapay zeka ile düşük donanımda yüksek performans sağlanacak
Microsoft araştırmacılarının geliştirdiği CPU uyumlu bu yapay zeka modeli, “BitNet b1.58 2B4T” adıyla anılıyor. Model, CPU üzerinden çalışan yapay zeka kavramını bir üst seviyeye taşıyor. Sadece üç değeri (-1, 0, 1) kullanan bu sistem, “bitnet” teknolojisini temel alıyor.
Böylece, veri sıkıştırma ve işlem verimliliği konusunda önemli bir avantaj sağlıyor. Sadece 2 milyar parametreye sahip olmasına rağmen, tam 4 trilyon token ile eğitilen model, bu alanda bir ilk olarak dikkat çekiyor.
CPU destekli yapay zeka modelleri arasında yapılan testlerde, BitNet b1.58 2B4T; Meta’nın Llama 3.2 1B, Google’ın Gemma 3 1B ve Alibaba’nın Qwen 2.5 1.5B modellerini geride bırakmayı başarıyor.
GSM8K ve PIQA gibi benchmark testlerinde sergilediği performansla öne çıkan model, hız ve bellek kullanımı açısından da ciddi avantajlara sahip. Üstelik bu model, Apple’ın M2 işlemcisi gibi yaygın CPU mimarileriyle de uyumlu olarak çalışabiliyor.
Küçük bir uyarı var: Maksimum verim için Microsoft’un özel yazılım kütüphanesi olan “bitnet.cpp” kullanılması gerekiyor. Şimdilik sadece belirli donanımlarla çalışan bu yapı, GPU desteğinden yoksun. Bu durum, CPU üzerinden çalışan yapay zeka modellerinin geleceğini biraz yavaşlatabilir.
İlginizi Çekebilir: macOS Sequoia 15.4.1 yayınlandı! Yenilikler neler?
Peki siz bu konuda ne düşünüyorsunuz? Düşüncelerinizi yorumlar kısmında belirtebilirsiniz. Daha fazlası için bizi takip etmeyi unutmayın.
tarafından verilmektedir.