إصدار أداة أدوات

إصدار llama.cpp b4520 مع تسريع تكميم K-quants

llama.cpp b4520 Release with Accelerated K-quants Kernels

تحديث محرك llama.cpp بكيرنلز جديدة تسارع فك تكميم Q4_K_M على بطاقات CUDA و ROCm.

llama.cpp b4520 update adding fast dequantization routines for K-quants.

تفاصيل الحدث

نوع التغييرإصدار أداة
تاريخ الوقوع
الكيان المتأثرllama.cpp — محرك الاستدلال المحلي الفائق
المصدر المعلنhttps://github.com/ggml-org/llama.cpp/releases/tag/b4520

حالة المدخل المرتبط

مدعوم بأدلة

llama.cpp — محرك الاستدلال المحلي الفائق ←

مكتبة C/C++ عالية الكفاءة لتشغيل نماذج LLM على المعالجات العادية وبطاقات GPU مع تكميم GGUF وبصمة ذاكرة منخفضة جداً.