Yerel Ajanlar İçin Özelleşen Çıkarım Motoru Magnitude Duyuruldu
Anders ve Tom tarafından geliştirilen Magnitude, cihaz donanımına göre kendini optimize eden bir yapay zeka çıkarım motoru olarak yayınlandı. Mac, Linux ve Windows üzerinde çalışabilen sistem, llama.cpp'ye kıyasla 2 kat daha yüksek hız sunuyor. Yazılım, özellikle yerel cihazlarda uzun süreli ve eşzamanlı ajan sistemlerini yüksek performansla çalıştırmayı hedefliyor.
HNHacker News
Bu özet makine üretimidir; haberin aslı ve tüm ayrıntılar kaynağın kendi sayfasındadır.
Haberin tamamını oku