DeepSeek V3 (671B MoE)DeepSeek V3 (671B MoE)
نموذج خليط الخبراء (MoE) الثوري مع 37B من المعلمات النشطة لكل رمز، حقق كفاءة تدريب استثنائية وبنية Multi-head Latent Attention (MLA).
أساسي23 مدخلًا مرتبطًا
هندسة نظم الذكاء الاصطناعي
AI Engineering & Operations
منظومات الإنتاج LLMOps/AgentOps، الموثوقية، الملاحظية، التوجيه، التخزين المؤقت، وخفض التكلفة.
Production LLMOps, AgentOps, observability, serving, routing, caching, and economics.
نماذج
5 إدخالًا
Command R+ من CohereCohere Command R+
نموذج متخصص في تطبيقات المؤسسات، استرجاع RAG متعدد الخطوات، واستخدام الأدوات (Tool Calling) مع استشهادات دقيقة وموثوقة.
ColBERTv2 — نموذج الاسترجاع بالتفاعل المتأخرColBERTv2 Late Interaction Retrieval Model
معمارية استرجاع ثورية تحفظ تفاعل الرموز الفردية عبر تمثيلات متجهية متعددة مع ضغط ذكي يقلل البصمة التخزينية بنسبة 6x.
Llama 3.3 70B InstructLlama 3.3 70B Instruct
نموذج مفتوح الأوزان فائق الكفاءة من Meta، يقدم أداءً ينافس النماذج الضخمة (405B) في البرمجة والرياضيات واستيعاب السياق الطويل.
Qwen2-VL 72B للمستندات والفيديوQwen2-VL 72B Vision-Language Model
نموذج رؤية متعدد الوسائط قادر على قراءة وفهم المستندات العربية الممسوحة ضوئياً والمخططات البيانية بدقة عالية ومعدل دقة متفوق.
أوراق بحثية
2 إدخالًا
FlashAttention: خوارزمية الانتباه السريعة والموفرة للذاكرةFlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness
خوارزمية ذكية راعت حدود سرعة نقل البيانات بين SRAM و HBM داخل بطاقات الرسومات، مما سرّع التدريب والاستدلال بـ 2-4 أضعاف.
ورقة Orca: معالجة الدفعات المستمرة (Continuous Batching)Orca: A Distributed Serving System for Transformer Models
الابتكار الذي جعل محركات الاستنتاج تعالج الطلبات على مستوى الرمز الفردي بدلاً من انتظار اكتمال التسلسل.
أدوات
9 إدخالًا
إطار عمل BentoML لنشر خدمات ونماذج الذكاء الاصطناعيBentoML AI Application Serving and Containerization
حزم وتغليف النماذج في حاويات إنتاجية سريعة التشغيل مع دعم التحجيم التلقائي وتوزيع الموارد.
Drizzle ORM — تخطيط العلاقات خفيف الوزنDrizzle ORM for TypeScript
مكتبة TypeScript للتعامل مع قواعد البيانات العلائقية بدون حمولة تشغيل زائدة، مع توليد ترحيلات SQL صريحة ونمط أمان صارم.
محرك TensorRT-LLM عالي الأداء من إنفيدياNVIDIA TensorRT-LLM Production Inference Engine
أعلى سرعة ممكنة على خوادم إنفيديا مع دعم التكميم FP8 و In-flight Batching وأنوبة التجميع المتقدمة.
Pagefind — محرك البحث الثابت متعدد اللغاتPagefind Static Search Engine
محرك بحث متطور للمواقع الثابتة يعمل بالكامل داخل متصفح المستخدم، مع دعم ممتاز للغات ذات الاتجاه من اليمين لليسار (RTL) والتجذير العربي.
منصة Phoenix لتتبع استدعاءات النماذج وتقييم مخرجات RAGPhoenix Arize AI Tracing and Evals Suite
رؤية كاملة لتدفق التضمينات واسترجاع الوثائق وتتبع أسباب الهلوسة في بيئات التشغيل الفعلية.
vLLM — خادم الاستدلال عالي الإنتاجيةvLLM High-Throughput Serving Engine
محرك استدلال للمؤسسات يعتمد على خوارزمية PagedAttention لإدارة ذاكرة الـ KV Cache بكفاءة تقارب 100% بدون هدر.
أنوية FlashInfer لتسريع استنتاج وخدمة النماذج اللغويةFlashInfer High-Performance Serving Kernels
مكتبة تسريع مخصصة لعمليات Attention و KV-cache و Page Table Lookup على وحدات GPU.
llama.cpp — محرك الاستدلال المحلي الفائقllama.cpp Local Inference Engine
مكتبة C/C++ عالية الكفاءة لتشغيل نماذج LLM على المعالجات العادية وبطاقات GPU مع تكميم GGUF وبصمة ذاكرة منخفضة جداً.
ROS 2 — نظام تشغيل الروبوتاتROS 2 Robot Operating System
نظام تشغيل وسيط للروبوتات يوفر الاتصال بين العمليات، إدارة الحزم، وأدوات المحاكاة لمنظومات التحكم المتجسد.
أدلة تطبيقية
3 إدخالًا
تكميم مخزن KV-Cache بنظام FP8 لمضاعفة سعة السياق المتزامنFP8 KV-Cache Quantization Guidelines in vLLM
كيف ترفع عدد المستخدمين المتزامنين على نفس بطاقة GPU دون الإضرار بجودة إجابات النموذج.
التخزين المؤقت الدلالي (Semantic Cache) لخفض تكلفة النماذجSemantic Caching Architecture for Large Language Models
التعرف على الأسئلة المتطابقة في المعنى وتوفير ردود فورية دون إعادة استدعاء النماذج المكلفة.
دليل القيود على الترميز ومقتطفات JSON المضمونة الشكلConstrained Decoding and Schema-Guided Structured Output Guide
استخدام JSON Schema و_OUTLINES لضمان امتثال مخرجات النماذج لبنية بيانات محددة سلفاً.
مشاريع
1 إدخالًا
منظومة Assiri Atlas المرجعيةAssiri Atlas Reference Intelligence Platform
المنصة المرجعية العربية المعتمدة على الأدلة لهندسة الذكاء الاصطناعي، ذكاء المستندات، النماذج المحلية، والمصادر المحكمة.
مراجع عامة
3 إدخالًا
أنماط التوجيه الذكي والتبديل الاحتياطي بين نماذج الذكاء الاصطناعيModel Routing and Fallback Strategies for 99.99% Availability
توجيه المهام السهلة لنماذج منخفضة التكلفة والمهام المعقدة لنماذج الاستدلال الفائقة تلقائياً.
معايير OpenTelemetry للقياس والمراقبة في الذكاء الاصطناعي التوليديOpenTelemetry Semantic Conventions for Generative AI Systems
المعايير المعتمدة لأسماء المقاييس وحقول السجلات وزمن الاستجابة واستهلاك الرموز في خطوط الإنتاج.
التفكيك التخميني (Speculative Decoding) ومضاعفة سرعة التوليدSpeculative Decoding Implementation for Local Serving
استخدام نموذج مسودّة صغير (Draft Model) مثل 0.5B لاقتراح الرموز واعتمادها بالنموذج الأكبر.