محرك TensorRT-LLM عالي الأداء من إنفيديا
NVIDIA TensorRT-LLM Production Inference Engine
أعلى سرعة ممكنة على خوادم إنفيديا مع دعم التكميم FP8 و In-flight Batching وأنوبة التجميع المتقدمة.
الأدلة والمصادر
مدخل فهرسي موجزمدخل فهرسي موجز للملاحة بين المواضيع. لا يحمل ادعاءً ولا دليلاً — لا تُنسب إليه حصيلة أدلة، ولا يُقتبَس منه كمرجع. يحفل السجل العام بـ4 ادعاء لم تُنشر نصوصها بعد.