AceGPT: توطين النماذج اللغوية الكبيرة في العربية

يعالج مشكلة التوطين لا مشكلة الحجم: يُظهر أن الترجمة وحدها تُنتج انحيازًا غربيًا، وأن القيم المحلية تحتاج مكافئًا مُدرَّبًا عليها.

خط تدريب ثلاثي (تدريب لاحق عربي، تعليمات عربية أصلية، RLAIF بقيم محلية) + مقياس ACVA الثقافي فوق 8000 سؤال.

حل توطين ثلاثي المراحل للعربية: تدريب لاحق على نصوص عربية، وضبط إشرافي بتعليمات عربية أصلية وردود GPT-4 بالعربية، وتعزيز تفضيلي (RLAIF) بمكافئ واعٍ بالقيم المحلية، مع مقياس ACVA للحوكمة الثقافية.

This paper is devoted to the development of a localized Large Language Model (LLM) specifically for Arabic, a language imbued with unique cultural characteristics inadequately addressed by current mainstream models. Significant concerns emerge when addressing cultural sensitivity and local values. To address this, the paper proposes a comprehensive solution that includes further pre-training with Arabic texts, Supervised Fine-Tuning (SFT) utilizing native Arabic instructions, and GPT-4 responses in Arabic, alongside Reinforcement Learning with AI Feedback (RLAIF) employing a reward model attuned to local culture and values. The goal is to cultivate culturally cognizant and value-aligned Arabic LLMs capable of accommodating the diverse, application-specific needs of Arabic-speaking communities. Comprehensive evaluations reveal that the resulting model, dubbed `AceGPT', sets the state-of-the-art standard for open Arabic LLMs across various benchmarks.