- نماذج LLM المحلية تعمل على أجهزتك دون استدعاءات API. الخيارات الشهيرة تشمل Llama 3.1 (8B-405B)، Mistral 7B، Phi-3، و Gemma 2.
- الاستخدام Ollama for the easiest setup (
ollama run llama3.1), LM Studio لواجهة رسومية، أو llama.cpp للتحكم الكامل. - نموذج معامل 8B يحتاج 6-8GB VRAM مع تكميم 4-بت، 16GB للدقة الكاملة. نماذج 70B تتطلب 40GB+ VRAM أو إزاحة ذاكرة النظام.
- التكميم (GGUF و GPTQ و AWQ) يقلل حجم النموذج بنسبة 50-75% مع خسارة جودة ضئيلة، مما يجعل النشر المحلي عملياً على أجهزة المستهلك.
نماذج LLM المحلية هي نماذج لغة ذكاء اصطناعي تعمل بالكامل على أجهزتك—سطح مكتب أو كمبيوتر محمول أو خادم—دون إرسال البيانات إلى واجهات برمجية خارجية. تحمّل أوزان النموذج، وتحملها في الذاكرة، وتشغل الاستدلال محلياً. هذا يعطيك خصوصية كاملة، وعدم وجود تكاليف لكل رمز، وتشغيل بدون اتصال، والتحكم الكامل في سلوك النموذج. المقابل هو الاستثمار الأولي في الأجهزة والاستدلال الأبطأ مقارنة بمزودي الخدمات السحابية الذين يعملون على البنية الأساسية المحسّنة.
الشهيرة نموذج لغوي كبير محلي النماذج
اعتباراً من 2026، هذه النماذج توفر أفضل توازن بين الجودة وإمكانية الوصول للأجهزة للنشر المحلي:
| النموذج | عدد المعايير (البارامترات) | ذاكرة الفيديو (VRAM) بتنسيق 4 بت | VRAM (16-بت) | الأفضل لـ |
|---|---|---|---|---|
| Llama 3.1 | 8B / 70B / 405B | 6GB / 40GB / 240GB | 16GB / 140GB / 810GB | الأغراض العامة والبرمجة والاستدلال |
| Mistral 7B v0.3 | 7 مليارات معلَّمة | 5GB | 14 غيغابايت | استدلال سريع، جودة/نسبة حجم جيدة |
| Phi-3-medium | 14 مليار معلّمة | 9GB | 28 جيجابايت | استدلال فعّال، يناسب وحدات معالجة الرسومات للمستهلكين |
| Gemma 2 | 9 مليارات / 27 مليار | 6GB / 18GB | 18GB / 54GB | اتباع التعليمات والسلامة المضبوطة |
| Qwen 2.5 | 7B / 72B | 5GB / 42GB | 14GB / 144GB | متعدد اللغات، قوي في الرياضيات/البرمجة |
| DeepSeek-Coder-V2 | 16B / 236B | 10GB / 140GB | 32GB / 472GB | توليد وفهم الكود |
تقديرات VRAM تقريبية وتختلف حسب طول السياق وحجم الدفعة. استخدم حاسبة VRAM للمتطلبات الدقيقة بناءً على إعدادك، أو تحقق من متطلبات VRAM حسب النموذج للمواصفات المفصلة عبر 37+ نموذج.
متطلبات الأجهزة
نماذج LLM المحلية تُحمّل بالكامل في الذاكرة أثناء الاستدلال. يمكنك تشغيلها على VRAM وحدة معالجة الرسومات أو ذاكرة النظام أو مزيج من الاثنين:
وحدة معالجة الرسومات (الأسرع)
وحدات معالجة الرسومات NVIDIA مع دعم CUDA توفر أفضل أداء. وحدات معالجة الرسومات AMD تعمل عبر ROCm لكن لديها دعم أدوات أقل. Apple Silicon (M1/M2/M3) يستخدم الذاكرة الموحدة ويشغل النماذج بكفاءة عبر Metal.
- مستوى الدخول: RTX 3060 12GB أو RTX 4060 Ti بسعة 16 جيجابايت يشغل نماذج 7-8B مع تكميم 4-بت
- المستوى الأوسط: RTX 4090 24GB يتعامل مع نماذج 30B المكممة، أو نماذج 13B بالدقة الكاملة
- المستوى العالي: A6000 48GB أو مزدوج وحدات معالجة رسومات المستهلك يشغل نماذج 70B مع تكميم 4-بت
راجع أفضل GPUs للنماذج اللغوية المحلية دليل لمعايير الأداء ونسب السعر/الأداء.
وحدة المعالجة المركزية (أبطأ لكن يمكن الوصول إليها)
أي وحدة معالجة مركزية حديثة يمكنها تشغيل نماذج LLM محلية باستخدام ذاكرة النظام، رغم أنها أبطأ 10-50 مرة من استدلال GPU. هذا قابل للحياة لنماذج صغيرة (7-8B معاملات) أو عندما تكون الخصوصية أهم من السرعة.
- الحد الأدنى: 16GB RAM لنماذج 7B بتكمية 4-bit
- موصى به: 32GB+ RAM للعمل المريح مع نوافذ سياق أكبر
- خادم: 128GB+ RAM يتيح نماذج 70B على أنظمة CPU فقط
هجين (GPU + CPU)
معظم الأطر تدعم التفريغ: تحميل بعض الطبقات على GPU، والباقي على RAM. قد تستخدم نموذج 70B 24GB VRAM + 32GB RAM، مما يوفر استدلالاً أسرع بـ 3-5 مرات من CPU فقط.
تشغيل نماذج LLM المحلية
Ollama (الأسهل)
Ollama يلف llama.cpp بـ CLI بسيط وسجل نماذج. إنها أسرع طريقة للبدء:
# التثبيت على macOS/Linux
curl -fsSL https://ollama.ai/install.sh | sh
# Windows: تحميل المثبت من ollama.ai
# تشغيل نموذج (التحميل تلقائي)
ollama run llama3.1
# قائمة النماذج المتاحة
ollama list
# سحب نموذج معين
ollama pull mistral:7b-instruct-q4_0
Ollama يختار تلقائياً GPU أو CPU، ويدير التكمية، ويتعامل مع تحميلات النماذج. اقرأ دليل Ollama الكامل للحصول على إعدادات مفصلة وتكوين، أو انتقل إلى كيفية تثبيت منصة Ollama للحصول على تعليمات خطوة بخطوة لكل منصة.
تصفح 100+ نموذج متاح في قائمة نماذج Ollama، أو اطلع على التوصيات المختارة على أفضل النماذج المحلية لـ Ollama.
LM Studio (واجهة المستخدم)
LM Studio provides a desktop application for Windows, macOS, and Linux with a chat interface and model browser. Download from lmstudio.ai, launch, search for models in the Discover tab, and click Download. Models use GGUF format and load with adjustable quantization.
LM Studio يعرض استخدام VRAM في الوقت الفعلي وسرعة الاستدلال، مما يسهل ضبط الإعدادات. كما يشغل خادم API متوافق مع OpenAI محلياً على http://localhost:1234/v1 للتكامل مع التطبيقات التي تتوقع تنسيق OpenAI. اطلع على دليل LM Studio الكامل للميزات المتقدمة.
llama.cpp (متقدم)
llama.cpp هو المحرك الأساسي لـ Ollama و LM Studio، ويوفر التحكم الأقصى للمطورين:
# الاستنساخ والبناء
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
make
# مع دعم CUDA
make LLAMA_CUDA=1
# تشغيل الاستدلال
./main -m models/llama-3.1-8b-instruct-q4_0.gguf -p "Explain quantum computing" -n 512 --gpu-layers 35
الـ --gpu-layers تتحكم العلامة في عدد طبقات المحول التي تحمل على GPU مقابل RAM. القيم الأعلى تستخدم VRAM أكثر لكنها تعمل بسرعة أكبر. ابدأ بنصف إجمالي طبقات النموذج وعدّل.
أدوات أخرى
- text-generation-webui: واجهة ويب مع امتدادات، دعم واجهات متعددة
- vLLM: خادم استنتاج مُحسَّن للنشر الإنتاجي عالي الإنتاجية
- LocalAI: بديل مباشر لواجهة برمجة تطبيقات OpenAI يدعم تنسيقات نماذج متعددة
- Jan: تطبيق سطح مكتب مشابه لـ LM Studio مع تركيز خاص على الخصوصية
صيغ النموذج والتكميم
يقلل التكميم دقة النموذج من أعداد عشرية ذات 16 بت أو 32 بت إلى أعداد ذات 8 بت أو 4 بت أو دقة مختلطة، مما يخفض متطلبات الذاكرة بنسبة 50–75% مع فقدان جودة يتراوح بين 2–5%. وتختلف التنسيقات المُستخدمة حسب نوع الأجهزة المستهدفة:
GGUF (Ollama، LM Studio، llama.cpp)
GGUF هو التنسيق القياسي للنشر المحلي. وتشمل مستويات التكميم الشائعة:
- Q4_0: 4 بت، أصغر حجم ممكن، وفقدان جودة يتراوح بين 5–10%
- Q4_K_M: 4 بت بدقة مختلطة، توازن جيد بين الجودة والحجم
- Q5_K_M: 5 بت، جودة أفضل من Q4 مع الحفاظ على صغر الحجم
- Q8_0: 8 بت، فقدان جودة ضئيل جدًّا، لكن الملفات أكبر حجمًا
- F16: دقة كاملة 16 بت، بدون تكميم
لأغلب حالات الاستخدام، يوفِّر Q4_K_M أو Q5_K_M أفضل نسبة بين الجودة والحجم. واستخدم Q8_0 أو F16 فقط إذا توافرت لديك ذاكرة وحدة معالجة الرسومات الزائدة واحتاجت إلى أقصى دقة ممكنة.
GPTQ (استنتاج بلغة بايثون)
يقوم GPTQ بالتكميم إلى 4 بت أو 3 بت ويوصِّل أداء الاستنتاج على وحدات معالجة الرسومات باستخدام مكتبات مثل AutoGPTQ أو ExLlama. وهو شائع في سير عمل Hugging Face Transformers. وتتم عملية تحميل نماذج GPTQ أسرع من نماذج GGUF، لكنها تتطلب بيئات بايثون.
AWQ (استنتاج سريع على وحدات معالجة الرسومات)
AWQ (كمِّم أوزان مُدركة للإشارات الداخلة) يحافظ على دقة أعلى من GPTQ عند التكميم إلى 4 بت، وذلك بحماية الأوزان المهمة. ويتطلب محركات استنتاج متوافقة مع AWQ مثل vLLM أو TGI.
اختيار نموذج LLM محلي
اختر حجم النموذج بما يتناسب مع أجهزتك وحالات الاستخدام الخاصة بك:
- نماذج 7–8 مليار معلَّمة: تناسب بطاقات الرسومات الاستهلاكية (12–16 جيجابايت من ذاكرة وحدة معالجة الرسومات)، وتوفِّر استجابات سريعة، وهي مناسبة جدًّا للدردشة والمهمات البسيطة
- نماذج 13–14 مليار معلَّمة: تتطلب 20–24 جيجابايت من ذاكرة وحدة معالجة الرسومات، وتتفوق بشكل ملحوظ في الاستنتاج واتباع التعليمات
- نماذج 30–34 مليار معلَّمة: تحتاج إلى 40 جيجابايت فأكثر من ذاكرة وحدة معالجة الرسومات أو نظام هجين يجمع بين وحدة معالجة الرسومات والذاكرة العشوائية، وتقترب من جودة GPT-3.5
- طرازات 70B+: تتطلب أجهزة خادم قوية أو تكميمًا جذريًّا، وتُنافس نموذج GPT-4 في العديد من المهام
تصفح المواصفات ونتائج الاختبارات المرجعية لـ 37 نموذجًا ضمن قاعدة بيانات نماذج الذكاء الاصطناعي، أو قارن الترتيبات ضمن لوحة تصنيف النماذج اللغوية الكبيرة (LLM) المُرتَّبة حسب الذكاء والسعر وطول السياق.
لتحليل التكلفة، استخدم حاسبة المقارنة بين الاستضافة الذاتية وواجهة برمجة التطبيقات (API) لإيجاد نقطة التعادل بين تكلفة الأجهزة المحلية وتكاليف واجهات برمجة التطبيقات (API) السحابية. فعلى الرغم من أن النماذج المحلية تتطلّب تكلفة أولية أعلى، فإن تكلفة كل رمز (token) إضافي تساوي صفرًا، ما يجعلها أقل تكلفة عند الحجم العالي.
الأسئلة المتكررة
هل يمكنني تشغيل نماذج النماذج اللغوية الكبيرة المحلية على جهاز كمبيوتر محمول؟
نعم، شرط أن تمتلك ذاكرة موحدة بسعة 16 جيجابايت فأكثر (شريحة Apple Silicon) أو ذاكرة وصول عشوائي (RAM) بسعة 16 جيجابايت فأكثر بالإضافة إلى وحدة معالجة رسوميات منفصلة (GPU) بسعة ذاكرة فيديو (VRAM) 8 جيجابايت فأكثر. فأجهزة MacBook Pro المزودة بشريحة M1 Max/ Ultra أو M2 Pro/ Max أو M3 Max تُشغل نماذج بحجم 7–13 مليار معلَّمة بكفاءة عالية. أما أجهزة الكمبيوتر المحمولة التي تعمل بنظامَي Windows أو Linux والمزودة بوحدات معالجة رسوميات متنقلة من سلسلة RTX 4060–4090 فهي قادرة على تشغيل نماذج بحجم 7–30 مليار معلَّمة، حسب سعة الـ VRAM المتوفرة. أما الاستنتاج القائم على وحدة المعالجة المركزية فقط (CPU-only inference) فيعمل على أي جهاز كمبيوتر محمول يحتوي على 16 جيجابايت من الذاكرة أو أكثر، لكنه أبطأ بنسبة تتراوح بين 10 و50 مرة.
ما مدى بطء نماذج LLM المحلية مقارنة بمزودي API؟
يعتمد على الأجهزة. نموذج 7B على RTX 4090 ينتج 80-120 رمز/الثانية، مما يضاهي زمن استجابة API. نفس النموذج على CPU ينتج 5-15 رمز/الثانية. النماذج الأكبر (70B+) على أجهزة المستهلك تنتج 2-10 رموز/الثانية حتى مع تسريع GPU. مزودو الخدمات السحابية يستخدمون مجموعات H100 محسّنة للإنتاجية، لكن نماذج LLM المحلية تلغي زمن استجابة الشبكة—تحصل على استجابة الرمز الأول فوراً.
هل تتطلب نماذج LLM المحلية الوصول إلى الإنترنت؟
لا، بمجرد التحميل. تحمّل أوزان النموذج مرة واحدة (1-150GB حسب حجم النموذج)، ثم يعمل الاستدلال بالكامل دون اتصال. Ollama و LM Studio و llama.cpp تخزّن النماذج محلياً. هذا يجعل نماذج LLM المحلية مناسبة للبيئات المعزولة (air-gapped)، أو السفر، أو العمل الحساس للخصوصية حيث لا يمكن لأي بيانات أن تغادر شبكتك.
ما الفرق في الجودة بين النماذج المكمَّمة والنماذج ذات الدقة الكاملة؟
يؤدي التكميم بـ 4 بت (Q4_K_M) إلى فقدان يتراوح بين 2٪ و5٪ في الجودة مقارنةً بالدقة 16 بت في معظم الاختبارات المرجعية، ويؤثر هذا الفقد في الغالب على الاستنتاجات المعقدة والاسترجاع الدقيق للحقائق. أما التكميم بـ 8 بت فيؤدي إلى فقدان أقل من 1٪. وفي مهام الدردشة ومساعدة البرمجة ومعالجة المستندات، لا يستطيع معظم المستخدمين التمييز بين Q4_K_M وF16. أما في التطبيقات الحرجة التي تتطلب أقصى درجات الدقة (مثل المجالات الطبية أو القانونية أو العلمية)، فيجب استخدام Q8_0 أو F16 إذا كانت لديك ذاكرة VRAM الكافية.
هل يمكنني ضبط نماذج LLM المحلية بدقة؟
نعم، باستخدام مكتبات مثل Axolotl و Ludwig أو Hugging Face TRL. الضبط الدقيق يتطلب VRAM أكثر من الاستدلال—توقع 24GB+ لنماذج 7B مع الضبط الكامل، أو 12-16GB مع طرق فعّالة في المعاملات مثل LoRA. أوزان النموذج المضبوطة بدقة تحل محل أوزان النموذج الأساسي أو تزيدها، لذا يمكنك نشر النموذج المضبوط باستخدام نفس الأدوات (Ollama و LM Studio و llama.cpp) بعد التحويل إلى GGUF أو صيغة استدلال أخرى.
أي نموذج LLM محلي هو الأقرب لجودة ChatGPT؟
يقترب نموذج Llama 3.1 70B من جودة GPT-4 في مجالات الاستنتاج واتّباع التعليمات، بينما يطابق نموذج Llama 3.1 405B تلك الجودة أو يتفوّق عليها في العديد من الاختبارات المرجعية. أما للوصول إلى جودة تعادل GPT-3.5، فـ Llama 3.1 8B، أو Mistral 7B، أو Qwen 2.5 14B تكفي تمامًا. ولا يوجد نموذج محلي يُعيد إنتاج سلوك ChatGPT بدقة كاملة، لأن ChatGPT يستخدم توسّع الاسترجاع (retrieval augmentation) وعددًا من النماذج المختلفة ومعالجة لاحقة (post-processing)، لكن القدرات الأساسية للنماذج أصبحت الآن مماثلة عند نطاق 70B فأكثر.