KVSplit
تعديل لمكتبة llama.cpp يطبّق دقة تكميم مختلفة على مفاتيح وقيم ذاكرة KV، مما يقلل استهلاك الذاكرة ويتيح تشغيل نماذج اللغة بسياق أطول على أجهزة Mac بمعالجات Apple Silicon.
مفتوح المصدرالبرمجة والتطوير
زيارة الموقع(يفتح في تبويب جديد)
تعديل لمكتبة llama.cpp يطبّق دقة تكميم مختلفة على مفاتيح وقيم ذاكرة KV، مما يقلل استهلاك الذاكرة ويتيح تشغيل نماذج اللغة بسياق أطول على أجهزة Mac بمعالجات Apple Silicon.