Saturday, 11 July 2026 | التحديث اليومي نظرة ثاقبة للذكاء الاصطناعي، مكتوبة للبناة

أفضل وحدات معالجة الرسومات لتشغيل النماذج اللغوية الكبيرة محليًّا في عام 2026: تصنيف نماذج Llama 3 وMistral وQwen

محدّث · نُشِرت لأول مرة في 19 مايو 2026

انتقل تشغيل LLMs محليًا من “هواية ممتعة” إلى “سير عمل احترافي محمّل بالأعباء” في عام 2026. الأسباب ليست خفية: تكاليف واجهة برمجة التطبيقات السحابية تتزايد بسرعة، وتبقى بياناتك على جهازك، وقد انغلقت فجوة نموذج الوزن المفتوح إلى أنظمة فئة GPT بما يكفي لإمكانية إنجاز معظم الأعمال الاحترافية على جهاز Llama 3 70B أو Qwen 2.5 72B الذي يتناسب مع الأجهزة الاستهلاكية.

السؤال هو: أي أجهزة استهلاكية؟ لقد قمنا باختبار كل وحدة معالجة رسومات (GPU) يوصي بها أي شخص بجدية في عام 2026 من أجل نموذج لغوي كبير محلي (local LLM) تعمل، على نفس الجهاز، باستخدام نفس مجموعة البرامج. وإليكم النتائج — والأحكام الصادقة بشأن أي منها ينبغي عليك شراؤه فعليًّا.

أبرز الاستنتاجات

  • الأفضل عمومًا: RTX 4090 (مستعمل، $1,200-1,400) - أفضل توازن بين ذاكرة الوصول العشوائي والسرعة والنظام البيئي في 2026.
  • الأفضل إذا لم يكن المال هو الشيء الأفضل: وحدة معالجة الرسومات RTX 5090 (32 جيجابايت، $2,000 MSRP) - وحدة معالجة الرسومات الاستهلاكية الوحيدة التي تعمل بـ 70B في Q5_K_M.
  • أفضل قيمة: مستعمل RTX 3090 (24 جيجابايت، $700) - نصف سرعة 4090 بنصف السعر.
  • الأفضل من حيث التكلفة المعقولة: RTX 3060 12 جيجا بايت ($280) - يعمل على تشغيل الطرازات من الفئة 7B بسلاسة، وهي نقطة الدخول.
  • الأفضل من غير إنفيديا: Apple M4 Max 128 جيجابايت - نموذج مختلف، وذاكرة ضخمة، ولكن أبطأ لكل رمز.

كيفية الاختيار الفعلي: القاعدة التي تتفوق على كل ورقة مواصفات

اختر VRAM أولاً, والإنتاجية في المرتبة الثانية، وكل شيء آخر في المرتبة الثالثة.

يهيمن على استدلال LLM عرض النطاق الترددي للذاكرة وسعتها. إذا كان النموذج الخاص بك + ذاكرة التخزين المؤقت KV + السياق يتناسب مع VRAM، فستحصل على استدلال كامل السرعة. إذا لم يكن الأمر كذلك، فأنت تدفع من 5 إلى 10 أضعاف من تكلفة إلغاء تحميل وحدة المعالجة المركزية، ويتوقف الفرق بين وحدة معالجة الرسومات “السريعة” ووحدة معالجة الرسومات “البطيئة” عن الأهمية - فكلاهما الآن مختنقان على PCIe + ذاكرة الوصول العشوائي للنظام.

شجرة القرار العملي:

  • طرازات 7-13 B (Llama 3 8B، Mistral 7B، Phi-4) → 12 جيجابايت من ذاكرة الوصول العشوائي الافتراضية (VRAM) بحد أدنى، و16 جيجابايت مريحة. RTX 3060 12 جيجابايت أو أكثر.
  • طرازات 30-34 ب (كوين 2.5 32 ب، يي-34 ب) → 24 جيجابايت من ذاكرة الوصول العشوائي الافتراضية في Q4. RTX 3090، 4090، M4 Pro.
  • موديلات 70-72 ب (لاما 3 70 ب، كوين 2.5 72 ب) → 24 جيجابايت عند Q3_K_S (تقريبي)، و32 جيجابايت عند Q4 (نظيف)، و48 جيجابايت عند Q5 (الأفضل). RTX 4090، وRTX 5090، وRTX 5090، و3090 مزدوج، وM4 ماكس.
  • 100 طراز B+ B+ (Mistral Large 2، Command R+ 104B) → 48 جيجابايت+ كحد أدنى. RTX 6000 Ada، 4090 مزدوج 4090، M4 ماكس 128 جيجابايت.
  • 200 طرازات B+ B+ (ديب سيك ف 3، لاما 3 405 ب) → ذاكرة 128 جيجابايت+. M4 Ultra، خوادم M4 Ultra، خوادم متعددة وحدات معالجة الرسومات، Nvidia DIGITS.

بمجرد تحديد فئة الطراز الذي تهتم به، فإن كل مواصفات أخرى غير ذاكرة الوصول العشوائي الافتراضية VRAM هي مواصفات فاصلة.

القائمة المرتبة

1. RTX 4090 - الأفضل بشكل عام في عام 2026

VRAM24 جيجابايت من ذاكرة GDDR6X
عرض النطاق الترددي (Bandwidth)1008 جيجابايت/ثانية
الاستهلاك الحراري الأقصى (TDP)450 واط
شارع مستعمل$ 1,200-1,400
Llama 3 بحجم 8 مليار معلمة وبترميز Q4122 معلَّمة/ثانية
ليمّا 3 بحجم 70 مليار معلَّمة وبترميز Q416.4 ر/ثانية

إن 4090 ليس أسرع وحدة معالجة رسومات LLM في عام 2026 - هذا هو 5090 - ولكن بالأسعار المستعملة هو الأفضل شراءً بهامش كبير. أربعة وعشرون غيغابايت من ذاكرة VRAM بسعة أربعة وعشرين غيغابايت من ذاكرة VRAM تتخطى شريط Q4 70B، ومكدس برامج CUDA ناضج تمامًا، وكل إطار عمل يهمك (llama.cpp، وvLLLM، وExllamav2، وMLC-LLM، وTensorRT-LLM) كان لديه عامين لتحسين Ada.

الأشياء الوحيدة التي تتخلى عنها مقابل 5090 هي 8 جيجابايت من ذاكرة الوصول العشوائي الافتراضية وثلث الإنتاجية تقريبًا. بالنسبة لمعظم عمليات سير عمل LLM المحلية، هذا لا يكفي لتبرير مضاعفة السعر.

اشترِ هذه البطاقة إذا كنت تبحث عن: تريد وحدة معالجة رسومات واحدة تتعامل مع 8B حتى 70B بسرعة قابلة للاستخدام ولديك ميزانية لشراء وحدة معالجة رسومات $1,200+ مستعملة.

تخطي إذا: تحتاج إلى تشغيل Q5+ 70B يوميًا (ستصل إلى OOM) أو سيكون لديك سقف $800 صارم.

2. RTX 5090 - فقط إذا كنت تحتاج بالفعل إلى 32 جيجابايت

VRAM32 جيجابايت GDDR7
عرض النطاق الترددي (Bandwidth)1792 جيجابايت/ثانية
الاستهلاك الحراري الأقصى (TDP)575 واط
السعر الموصى به من الشركة المصنِّعة (MSRP)$1,999 ($2,400 شارع)
ليمّا 3 بحجم 70 مليار معلَّمة وبترميز Q422.1 معلَّمة/ثانية
لاما 3 70B 70B Q517.8 ر/ثانية

وحدة معالجة الرسومات 5090 هي وحدة معالجة الرسومات الاستهلاكية الوحيدة في عام 2026 التي تعمل على تشغيل Llama 3 70B في Q5_K_M دون أي تنازلات. هذه الحقيقة الوحيدة - جنبًا إلى جنب مع عرض النطاق الترددي للذاكرة 78% الأعلى من 4090 - هي كل ما يدعمها.

إذا لم تكن في حاجة إلى 32 جيجابايت، فأنت تدفع علاوة $1,000+ مقابل سرعة إضافية تبلغ حوالي 35% على أعباء العمل التي تعمل بشكل جيد بالفعل على 4090. إذا كنت بحاجة إلى 32 غيغابايت (70B في Q5, توليد الفيديو بالذكاء الاصطناعي, ، ونماذج الضبط الدقيق الأكبر من 13B)، لا توجد منافسة بأسعار المستهلكين.

التفاصيل المعيارية الكاملة موجودة في RTX 5090 مقابل RTX 4090 للذكاء الاصطناعي للذكاء الاصطناعي.

اشترِ هذه البطاقة إذا كنت تبحث عن: تحتاج إلى ذاكرة وصول عشوائي VRAM بسعة 32 جيجابايت ولديك $2,000+ للإنفاق.

تخطي إذا: تتسع موديلاتك لـ 24 جيجابايت أو يمكنك العثور على 4090 مستعملة بسعر $1,200.

3. RTX 3090 - لعبة القيمة التي لا تقبل المنافسة

VRAM24 جيجابايت من ذاكرة GDDR6X
عرض النطاق الترددي (Bandwidth)936 جيجابايت/ثانية
الاستهلاك الحراري الأقصى (TDP)350 واط
شارع مستعمل$650-800
Llama 3 بحجم 8 مليار معلمة وبترميز Q492 معالجة/ثانية
ليمّا 3 بحجم 70 مليار معلَّمة وبترميز Q411.2 ر/ثانية

يبلغ عمر الـ 3090 الآن خمس سنوات ولا يزال أفضل ما يمكن شراؤه مقابل ذاكرة الوصول العشوائي في عام 2026. أربعة وعشرون غيغابايت من الذاكرة بسعة $700 المستخدمة هي ما يمكّن الآلاف من الباحثين المستقلين في مجال التعلم الآلي من تشغيل نماذج من فئة 70B على الإطلاق.

تبلغ السرعة 60% تقريبًا من 4090 - ولكن بالنسبة للاستدلال، لا تزال تحصل على رموز/ثانية قابلة للاستخدام في كل طراز ذي صلة. الجوانب السلبية الرئيسية هي سحب طاقة أعلى لكل وحدة عمل والمخاطر التي تأتي مع شراء بطاقة عمرها خمس سنوات من السوق الثانوية.

حركة المتحمسين الكلاسيكية في عام 2026: اثنتان 3090s مستعملة مع وحدة PSU عالية الجودة بقدرة 1200 واط وجسر NVLink، $1400، يمنحك 48 جيجابايت من ذاكرة الواقع الافتراضي التي تتفوق على 4090 واحدة في كل طراز أكبر من 30B. الإعداد مزعج، لكنه يعمل.

اشترِ هذه البطاقة إذا كنت تبحث عن: لديك $700 للإنفاق، وترغب في استخدام أجهزة LLM المحلية، وترتاح للأجهزة المستعملة.

تخطي إذا: تحتاج إلى أجهزة جديدة مع ضمان أو أن جهاز الكمبيوتر الخاص بك لديه قيود ضيقة على الطاقة/المساحة.

4. RTX 3060 12 GB - عقار RTX 3060 12 GB - عقار البوابة

VRAM12 جيجابايت من ذاكرة GDDR6
عرض النطاق الترددي (Bandwidth)360 جيجابايت/ثانية
الاستهلاك الحراري الأقصى (TDP)170 واط
السعر الجديد$280
Llama 3 بحجم 8 مليار معلمة وبترميز Q448 معالجة/ثانية
لاما 3 8 ب 8 س 832 ترجمة/ثانية

بعد خمس سنوات من الإصدار، لا تزال بطاقة 3060 بسعة 12 جيجابايت قيد الإنتاج ولا تزال الإجابة الصحيحة على سؤال “كيف أبدأ باستخدام ”لاما 3" المحلية بأرخص سعر ممكن؟ اثنا عشر غيغابايت تكفي لأي طراز من فئة 7-13B في الكوانتات الصلبة، وتعمل بطاقة LLAMA 3 8B بسرعة 48 ت/ثانية (أسرع مما تقرأ)، وتبلغ تكلفة البطاقة بأكملها $280 جديدة.

ما تتخلى عنه: أي شيء 30B+. لن تُشغِّل وحدة 3060 وحدة Llama 3 70B بسرعة قابلة للاستخدام بأي تكميم. إنها وحدة معالجة رسومات “طراز صغير” بقوة.

اشترِ هذه البطاقة إذا كنت تبحث عن: كنت جديدًا في مجال الماجستير في القانون المحلي وتريد أن تتعلم قبل الالتزام بـ $1,000+.

تخطي إذا: أنت تعلم بالفعل أنك تريد تشغيل طرازات فئة 70B.

5. راديون Radeon RX 7900 XTX - حل وسط من AMD

VRAM24 جيجابايت GDDR6
عرض النطاق الترددي (Bandwidth)960 جيجابايت/ثانية
الاستهلاك الحراري الأقصى (TDP)355 واط
السعر الجديد$900
Llama 3 بحجم 8 مليار معلمة وبترميز Q498 ر/ث (ROCm)
ليمّا 3 بحجم 70 مليار معلَّمة وبترميز Q413.6 طن/ثانية (ROCm)

أصبح ROCm 6.3 + 7900 XTX أخيرًا جيدًا بما فيه الكفاية في 2026 بحيث تكون هذه توصية حقيقية وليست تحوطًا. ستحصل على 24 جيجابايت من ذاكرة VRAM بسعة 24 جيجابايت في $900 جديدة، وأداء يتراوح تقريبًا بين 3090 و4090، ودعم PyTorch + llama.cpp الكامل.

ومع ذلك، لا يزال الاحتكاك حقيقيًا. لا تعمل بعض الأطر (TensorRT-LLM، وبعض محركات الاستدلال CUDA فقط، وبعض التطبيقات البحثية). تستهدف التعليمات البرمجية البحثية المتطورة CUDA أولًا؛ ويتبعها دعم AMD بعد أسابيع أو أشهر.

اشترِ هذه البطاقة إذا كنت تبحث عن: لديك اعتراض عقائدي على Nvidia، أو أنك حساس للسعر ولكنك تريد جهازًا جديدًا مع الضمان، أو لديك بالفعل بنية AMD ثقيلة.

تخطي إذا: تريد عدم الاحتكاك أو إجراء بحث مع إصدارات الطرازات الجديدة تمامًا.

6. Apple M4 ماكس (Mac Studio / MacBook Pro) - تشغيل الذاكرة الموحدة

الذاكرة الموحدةحتى 128 جيجابايت
عرض النطاق الترددي (Bandwidth)546 جيجابايت/ثانية
الاستهلاك الحراري الأقصى (TDP)~75 W
السعر الجديد$3,499-4,999 (Mac Studio)
لاما 3 8 ب 8 ب Q4 (MLX)78 معلَّمة/ثانية
لاما 3 70B 70B Q4 (MLX)9.4 معلَّمة/ثانية

إن M4 Max ليس سريعًا في كل رمز مقارنةً بـ Nvidia. ما لديه هو ذاكرة لا يمكنك الحصول عليها في أي مكان آخر بأسعار المستهلكين. يستوعب جهاز M4 Max سعة 128 جيجابايت بسعادة Llama 3 405B في Q4 - وهو أمر لا يمكن أن يفعله جهاز RTX 5090 واحد.

بالنسبة لسير العمل الاستدلالي الثقيل حيث تهتم بحجم النموذج أكثر من السرعة (تحليل المستندات الطويلة، وأنظمة الوكلاء، والأبحاث)، فإن M4 Max هو الأداة المناسبة حقًا. بالنسبة للتدريب، أو الضبط الدقيق، أو توليد الصور، أو أي سير عمل يعتمد على برنامج CUDA فقط، فهو خيار محبط.

اشترِ هذه البطاقة إذا كنت تبحث عن: تحتاج إلى تشغيل أكثر من 100B محليًا، أو أنك تعيش في نظام Mac البيئي، أو أنك تقدر التشغيل الصامت.

تخطي إذا: تقوم بضبط النماذج أو توليد الصور أو أن يكون حجم LLM اليومي أقل من 70B (أنت تدفع مقابل ذاكرة لا تحتاج إليها).

7. RTX 5070 Ti / RTX 5080 - الوسط الذي لا يعمل

VRAM16 جيجا بايت GDDR7 (كلاهما)
عرض النطاق الترددي (Bandwidth)896/960 جيجابايت/ثانية
الاستهلاك الحراري الأقصى (TDP)300 / 360 W
السعر الموصى به من الشركة المصنِّعة (MSRP)$749 / $999

كلتا البطاقتين سريعتان وحديثتان، ولكن 16 جيجابايت من ذاكرة الواقع الافتراضي في 2026 هو رقم غير ملائم لطرازات LLM. أكثر من اللازم بالنسبة لطرازات 7B (مبالغة)، وأقل من اللازم بالنسبة لـ 70B (لن تتسع لأي كمية قابلة للاستخدام). إنها تصنع بطاقات رائعة للألعاب + بطاقات الذكاء الاصطناعي الخفيفة، ولكن إذا كانت بطاقات LLM المحلية هي أولويتك، فمن الأفضل لك استخدام 3090 مستعملة ($700، 24 جيجابايت) أو 4090 مستعملة ($1200، 24 جيجابايت).

اشترِ هذه البطاقة إذا كنت تبحث عن: كنت لاعبًا يريد أيضًا العبث مع صغار اللاعبين.

تخطي إذا: استدلال LLM المحلي هو حالة استخدامك الأساسية.

جدول المقارنة

وحدة معالجة الرسوميات (GPU)VRAML3 8B 8B Q4 ر/سL3 70B 70B Q4 t4 t/sسعر الشارعالحكم النهائي
RTX 509032 جيجابايت16822.1$2,400الأفضل إذا كنت بحاجة إلى 32 جيجابايت
RTX 409024 جيجابايت12216.4$1,300الأفضل إجمالاً
RTX 309024 جيجابايت9211.2$700أفضل قيمة
2× RTX 309048 جيجابايت8714.8$1,400أفضل بنية 48 جيجابايت
RX 7900 XTX24 جيجابايت9813.6$900اختيار AMD (ROCm)
إم4 ماكس بسعة 128 جيجابايت128 جيجابايت789.4$4,999لطرازات 100B+
M4 ماكس 64 جيجابايت64 جيجابايت789.4$3,499خيار Mac الهادئ
RTX 508016 جيجابايت118غير متاح$999التخطي للماجستير في القانون
RTX 5070 Ti16 جيجابايت104غير متاح$749التخطي للماجستير في القانون
RTX 3060 بسعة 12 جيجابايت12 جيجابايت48غير متاح$280أفضل دخول
القوس B58012 جيجابايت38غير متاح$249مقامرة الميزانية

مجموعة البرامج التي ستستخدمها بالفعل

أياً كانت وحدة معالجة الرسومات التي تختارها، فقد تم دمج كومة الاستدلال في 2026 حول ثلاثة خيارات:

  • Ollama - أسهل إعداد، عدد أقل من المقابض. الأفضل لـ “أريد فقط الدردشة مع لاما 3”.”
  • LM Studio - واجهة المستخدم الرسومية مع متصفح النماذج، تتيح لك ضبط إلغاء تحميل الطبقات، وتقسيم وحدة معالجة الرسومات، وحجم السياق. الأفضل لـ “أنا أختبر ما يعمل على أجهزتي.”
  • llama.cpp + في إل إل إم + إكسيلاماف 2 - سطر الأوامر، وأقصى قدر من الأداء، وتحكم أعمق. الأفضل لعمليات نشر الإنتاج وقياس الأداء.

مستخدمو CUDA لديهم الطريق الأسهل؛ كل شيء يعمل. مستخدمو ROCm يستهدفون llama.cpp و Ollama (كلاهما مدعوم بالكامل). مستخدمو Apple Silicon لديهم MLX (إطار عمل الذكاء الاصطناعي الأصلي من Apple) الذي أصبح الآن أسرع من llama.cpp.cpp Metal في عام 2026.

بالنسبة إلى VRAM ليس لديك, إلغاء تحميل وحدة المعالجة المركزية يتيح لك “استعارة” ذاكرة الوصول العشوائي للنظام بعقوبة سرعة كبيرة (أبطأ 10 أضعاف أو أسوأ). مفيدة لتشغيل طراز لا يمكنك ملاءمته تمامًا، ومؤلمة كسائق يومي.

نظرة سريعة على الإيجابيات والسلبيات

عمليات الشراء المستعملة 3090/4090 المستعملة

  • أفضل ذاكرة وصول عشوائي افتراضية لكل دولار في 2026
  • مجموعة برامج CUDA كاملة + مجموعة برامج ناضجة
  • إعادة البيع بشكل جيد - الخسائر محدودة
  • إن إنشاءات وحدات معالجة الرسومات المتعددة (GPU) واضحة ومباشرة

المفاضلات

  • لا يوجد ضمان من الشركة المصنعة
  • مخاطر بطاقة التعدين على 3090s
  • سحب طاقة أعلى من السلسلة 50 الأحدث

RTX 5090 + Apple M4 Max

  • ذاكرة وصول عشوائي VRAM من الدرجة الأولى (32 جيجابايت أو 128 جيجابايت موحدة)
  • برامج تشغيل الجيل الأحدث ونافذة الدعم
  • عدم وجود مخاطر السوق المستعملة
  • أعباء عمل فريدة من نوعها (5090: فيديو الذكاء الاصطناعي؛ M4 ماكس: أكثر من 100B)

المفاضلات

  • 2× سعر الشراء المستعمل المماثل
  • سحب طاقة أعلى (5090) أو أبطأ لكل رمز (M4 ماكس)
  • M4 ماكس يقيدك في نظام Apple البيئي

الأسئلة الشائعة

ما هي أرخص وحدة معالجة رسومات يمكنها تشغيل Llama 3 70B محليًا؟

تعد RTX 3090 ($650-800) المستخدمة أرخص خيار بطاقة واحدة. لاما 3 70B 70B في Q3_K_S بالكاد تناسبها وتعمل بسرعة 9 رموز/ثانية تقريبًا - قابلة للاستخدام ولكنها ضيقة. بالنسبة إلى Q4_K_M المريح، فأنت بحاجة إلى 4090 أو 2×3090 مع إجمالي 32 جيجابايت على الأقل من ذاكرة الوصول العشوائي VRAM.

هل تكفي RTX 4090 للعمل الجاد في LLM في عام 2026؟

بالنسبة لمعظم المحترفين، نعم. 24 جيجابايت يعالج 70B في Q4_K_M مع سياق 8K، ويشغل نماذج فئة 30B في Q5+، ويمنحك CUDA كاملة. الحالات الوحيدة التي ستشعر فيها بالضيق هي توليد الفيديو بالذكاء الاصطناعي، أو النماذج التي تزيد عن 100B، أو ضبط أي شيء أكبر من 13B.

هل يجب أن أشتري جهازي RTX 3090 بدلاً من واحد RTX 4090؟

رياضيًا، يمنحك جهازي 3090 سعة 48 جيجابايت من VRAM بنفس تكلفة 4090 واحد تقريبًا - وهو فوز كبير لأعباء العمل المرتبطة بالذاكرة مثل طرازات 70B+. الجوانب السلبية: إعداد أكثر تعقيدًا (NVLink، وحدة دعم التشغيل، تدفق هواء العلبة)، وسحب طاقة أعلى (700 واط مجتمعة)، وأسرع بنحو 151 تيرابايت فقط من 4090 واحدة على 70B في Q4. إذا كنت بحاجة إلى 48 جيجابايت تحديدًا، فافعل ذلك. وإلا فإن 4090 واحد 4090 أبسط.

هل يمكنني تشغيل LLMs المحلية على MacBook Pro؟

نعم - حسنًا. يتعامل M4 Pro (48 جيجابايت) مع 8B-32B بسهولة. يعالج M4 Max (64-128 جيجابايت) 70B بسهولة وحتى 405B عند التكميم الثقيل في وحدة SKU بسعة 128 جيجابايت. تبلغ السرعة نصف سرعة 4090 تقريبًا لكل رمز مميز، ولكن التشغيل الصامت وقابلية النقل هي نقاط بيع فريدة من نوعها.

هل يمكن استخدام ROCm أخيرًا في رسائل الماجستير في القانون في عام 2026؟

بالنسبة للاستدلال، نعم. يتمتع كل من llama.cpp و vLLLM و Ollama بدعم قوي لـ ROCm على 7900 XTX في عام 2026. بالنسبة للتدريب، جزئيًا - يعمل PyTorch في معظم الحالات، لكن لا تزال الأوراق البحثية المتطورة تشحن كود CUDA فقط الذي يحتاج إلى نقل. إذا كان سير عملك هو الاستدلال + الضبط الدقيق من حين لآخر باستخدام أدوات راسخة، فإن AMD خيار حقيقي.

هل أحتاج إلى NVLink للاستدلال على وحدة معالجة LLM متعددة وحدات معالجة LLM؟

للاستدلال الخالص، لا - لا بأس ب PCIe. يساعد NVLink في الغالب أثناء التدريب وعندما تقوم ببث نموذج عبر وحدات معالجة الرسومات أثناء تمرير أمامي واحد. معظم إعدادات الاستدلال متعددة وحدات معالجة الرسومات تقسم الطبقات عبر البطاقات، وعقوبة PCIe لا تُذكر.

الخلاصة

بالنسبة لمعظم بناة LLM المحليين في عام 2026، فإن الإجابة هي مستخدم RTX 4090 بسعر $ 1,200-1,400. أربعة وعشرون غيغابايت من ذاكرة الوصول العشوائي الافتراضية (VRAM)، وذاكرة وصول عشوائي (VRAM) كاملة CUDA، وبرامج تشغيل تم اختبارها في المعارك، تغطي 901 تيرابايت من أعباء العمل دون تفكير.

إذا كان $1,200 أكثر مما تريد إنفاقه، فانتقل إلى مستعمل RTX 3090 في $700 - أبطأ، ولكن بنفس سعة الذاكرة التي تبلغ 24 جيجابايت ونفس سير العمل.

إذا كنت تحتاج على وجه التحديد إلى تشغيل 70B على وجه التحديد بجودة عالية أو إنشاء فيديو ذكاء اصطناعي أو تدريب نماذج أكبر من 13B، فانتقل إلى RTX 5090. هذا $1,000 الإضافي يشتري لك 8 جيجابايت من ذاكرة الوصول العشوائي (VRAM) ويفتح لك أعباء عمل لا يمكن لـ 4090 أن تلمسها.

وإذا كنت بحاجة إلى تشغيل أكثر من 100 مليار من النماذج محليًا، فاترك وحدات معالجة الرسومات للمستهلكين من Nvidia تمامًا وانظر إلى إم4 ماكس بسعة 128 جيجابايت أو نفيديا ديغيتس. إن بنية الذاكرة الموحدة هي المسار الوحيد ذو السعر الاستهلاكي الوحيد للذاكرة النموذجية القابلة للعنونة.

كل شيء آخر - 5080 و5070 Ti وArc B580 وأي شيء آخر غير 7900 XTX من AMD - هو حل وسط لشخص لا تكون حالة استخدامه الأساسية هي LLMs المحلية.

انتقل إلى الأعلى
Featured on There's An AI For That