Tiny-vLLM

مشروع مفتوح المصدر لبناء محرك استدلال عالي الأداء للنماذج اللغوية الكبيرة بلغة C++ وCUDA، بنسخة أصغر من vLLM.