- Ollama السحابة هي خدمة الاستضافة الخاصة بـ Ollama: تعمل النماذج السحابية على خوادم Ollama، لذا لا يتم تنزيل أي شيء على جهازك. يمكنك استخدامها من تطبيق Ollama أو واجهة سطر الأوامر بعد تسجيل الدخول، أو استدعاء
https://ollama.com/api/chatباستخدام مفتاح API. - الخطط على ollama.com/pricing (تم التحقق منها في 6 نوفمبر 2026): الدفع حسب الاستخدام بدون اشتراك، وخطة Pro بـ 20 دولارًا شهريًا مع 60 دولارًا من أرصدة الاستخدام الشهرية، وخطة Max بـ 100 دولار شهريًا مع 300 دولار من الأرصدة. يبقى تشغيل النماذج على جهازك الخاص غير محدود.
- المعنى الآخر هو الاستضافة الذاتية: تثبيت خادم Ollama مفتوح المصدر على جهاز افتراضي معالج رسومات مستأجر (AWS أو Google Cloud أو Azure أو RunPod) بنفس واجهة سطر الأوامر والـ API كما هو الحال في المنزل.
- عندما تستضيف ذاتيًا، كل نموذج في مكتبة Ollama يعمل على مثيل سحابي بـ VRAM كافية؛ تدفع بالساعة لحساب GPU بدلاً من شراء الأجهزة.
- تتفاوت نقطة التعادل حسب طريقة الاستخدام: وتوضح حاسبة المقارنة بين الاستضافة الذاتية وواجهة برمجة التطبيقات (API) الرسم البياني المقابل الوقت الذي تصبح فيه وحدات معالجة الرسومات (GPU) السحابية أكثر فعالية من حيث التكلفة مقارنةً بشراء الأجهزة المحلية.
- المقابل في الخصوصية: مع أي خيار، تترك طلباتك جهازك. تقول Ollama أنها لا تستخدم الطلبات والاستجابات السحابية لتدريب النماذج، لكن الاستدلال المحلي البحت فقط يبقي كل شيء على جهازك الخاص.
«Ollama Cloud» تعني الآن شيئين مختلفين. الأول هو خدمة Ollama الخاصة: النماذج السحابية التي تعمل على خوادم Ollama، مدفوعة لكل رمز أو من خلال خطة شهرية، والتي تصل إليها من تطبيق Ollama أو واجهة سطر الأوامر أو API يستخدم نفس /api/chat صيغة الطلب مثل Ollama المحلي. الثاني هو الاستضافة الذاتية: تشغيل خادم Ollama مفتوح المصدر على مثيل GPU تستأجره من AWS أو Google Cloud أو Azure أو موفر آخر، مدفوع بالساعة. يغطي هذا الدليل كلاهما، وكيف تتقارن تكاليفهما مع وحدات معالجة الرسومات المحلية والـ APIs المستضافة، وما تتنازل عنه في الخصوصية والتحكم.
- ما المقصود بـ Ollama Cloud؟
- نماذج Ollama السحابية الرسمية
- Ollama المستضاف ذاتيًا على جهاز افتراضي سحابي مقابل Ollama المحلي
- التوافق مع واجهة سطر الأوامر (CLI) وواجهة برمجة التطبيقات (API)
- أي النماذج متاحة؟
- التسعير: السحابة مقابل المحلي مقابل خدمات واجهة برمجة التطبيقات (API)
- الخصوصية والتحكم في البيانات
- متى يجب اختيار الحل السحابي بدلًا من الأجهزة المحلية؟
- إعداد Ollama على مثيل سحابي
- اعتبارات الأداء
- الأسئلة المتكررة
ما المقصود بـ Ollama Cloud؟
عندما يقول الناس «Ollama cloud»، يقصدون واحدًا من ثلاثة أشياء:
- نماذج Ollama السحابية الخاصة: خدمة مستضافة تشغلها Ollama. تعمل النماذج على بنية الأساس لـ Ollama، التي تقول صفحة التسعير الخاصة بها أنها تقع بشكل أساسي في الولايات المتحدة، وتدفع لكل رمز أو من خلال خطة شهرية. يغطي القسم التالي هذا.
- تشغيل Ollama ذاتي الاستضافة على أجهزة افتراضية سحابية: تستأجر جهازًا افتراضيًّا مزوَّدًا بوحدة معالجة رسوميات (GPU) من خدمات مثل AWS EC2 أو Google Compute Engine أو Azure أو Lambda Labs أو RunPod، ثم تقوم بتثبيت Ollama يدويًّا وتشغيل النماذج عليه. وأنت المسؤول عن إدارة المثيل، لكنك لا تشترى العتاد المادي.
- خدمات Ollama المُدارة: منصات طرف ثالث تثبت مسبقًا Ollama وتتعامل مع التوسع والفواتير حسب الطلب أو لكل دقيقة. هذه أقل شيوعًا وعادة ما تُبنى على أساس الطريقة المستضافة ذاتيًا.
جميع الثلاثة تتناقض مع التشغيل Ollama محليًّا على سطح المكتب أو الخادم الخاص بك. عند الاستضافة الذاتية، يبقى ملف Ollama الثنائي ومكتبة النموذج وواجهة سطر الأوامر والـ API متطابقة ويتغير فقط موقع التنفيذ؛ Ollama الخاصة تقدم قائمتها الخاصة من النماذج المستضافة.
نماذج Ollama السحابية الرسمية
وثائق توثيق سحابي تصف نماذج السحابة كطريقة لتشغيل النماذج على خوادم Ollama من تطبيقاتك أو محطتك الطرفية، بدون تنزيلها أولاً. هناك طريقتان للدخول:
- من تطبيق Ollama أو واجهة سطر الأوامر. تشغيل
Ollama(أو افتح التطبيق)، اتبع رسائل الإعداد وقم بتسجيل الدخول. تحمل نماذج السحابة علامة سحابية؛ المثال من الوثائق هوgemma4:cloud. - مباشرة عبر API. أنشئ مفتاحًا على ollama.com/settings/keys، اضبطه على
مفتاح واجهة برمجة تطبيقات Ollama، وأرسل طلبات إلىhttps://ollama.com/api/chatمعAuthorization: Bearerرأس. لا يلزم التثبيت المحلي، نص الرد موجود فيmessage.content، وأسماء النماذج تأتي منhttps://ollama.com/api/tagsتقول Ollama أن العملاء المتوافقين مع OpenAI و Anthropic يعملان أيضًا، مع تغطية API جزئية.
export OLLAMA_API_KEY="your_api_key"
curl https://ollama.com/api/chat -H "Authorization: Bearer $OLLAMA_API_KEY" -H "Content-Type: application/json" -d '{"model": "gemma4:31b", "messages": [{"role": "user", "content": "Hello"}], "stream": false}'
الخطط المدرجة على صفحة تسعير Ollama، تم التحقق منها في 6 نوفمبر 2026 (دولار أمريكي):
| الخطة | السعر | استخدام السحابة المضمن | الطلبات المتزامنة |
|---|---|---|---|
| الدفع حسب الاستخدام | 0 دولار، بدون اشتراك | الدفع لكل رمز مع أرصدة الاستخدام | 3 |
| برو | 20 دولارًا/شهريًا أو 200 دولار/سنويًا | 60 دولارًا من أرصدة الاستخدام شهريًا | 3 |
| ماكس | 100 دولار/شهريًا | 300 دولار من أرصدة الاستخدام شهريًا | 10 |
| Team (الوصول المبكر) | 500 دولار/شهريًا | 1000 دولار من أرصدة الاستخدام الشهرية، مشتركة بين الفريق | 10 |
| انتربرايز | مخصص | تسعير الحجم | غير مذكور |
يتم إعادة تعيين الاستخدام المضمن كل شهر ولا يتم نقله. الطلبات فوق حد التزامن الخاص بك تنتظر في قائمة انتظار بحجم ثابت وتُرفض بمجرد امتلاؤها، ويبقى تشغيل النماذج على جهازك الخاص غير محدود. حول الخصوصية، تقول وثائق Ollama أنها تعالج الطلبات والاستجابات السحابية للإجابة على طلباتك ولا تستخدمها لتدريب النماذج. إذا كنت تريد فقط نماذج محلية، فإن الأسئلة الشائعة يشرح كيفية إيقاف ميزات السحابة.
Ollama المستضاف ذاتيًا على جهاز افتراضي سحابي مقابل Ollama المحلي
| البعد | Ollama محلي | Ollama سحابي |
|---|---|---|
| تكلفة العتاد | شراء GPU مقدم | إيجار بالساعة؛ يعتمد السعر على GPU والمنطقة والمستوى (انظر قسم التسعير) |
| سرعة الاستنتاج | تعتمد على وحدة المعالجة الرسومية الخاصة بك؛ ولا توجد أي تأخيرات ناتجة عن الشبكة | يعتمد على GPU المستأجر؛ يضيف جولة شبكة لكل طلب |
| الخصوصية | لا تغادر المُدخلات أبدًا جهازك | تمرُّ المُدخلات والاستجابات عبر الشبكة؛ ويستطيع مقدِّم الخدمة السحابية رؤية بيانات الطلب الوصفية (metadata) |
| التوسُّع | محدَّد بالعتاد المتوفر لديك | يمكنك إنشاء مثيلات أكبر أو إضافية عند الطلب |
| الصيانة | أنت المسؤول عن إدارة نظام التشغيل وبرامج التشغيل وتحديثات Ollama | أنت تدير VM (مستضاف ذاتيًا) أو المنصة تديره (الخدمات المُدارة) |
| التوافر | مرتبط بوقت تشغيل جهازك | يعمل بشكل دائم إذا أبقيت على المثيل قيد التشغيل؛ تدفع مقابل وقت التوقف |
التجربة الوظيفية متطابقة. سكريبت يستدعي curl http://localhost:11434/api/generate يعمل بدون تغيير إذا استبدلت localhost بعنوان IP العام للمثيل السحابي.
التوافق مع واجهة سطر الأوامر (CLI) وواجهة برمجة التطبيقات (API)
واجهة سطر الأوامر والـ REST API لـ Ollama غير مرتبطة بطريقة النقل. لتوجيه واجهة سطر الأوامر إلى مثيل سحابي بدلاً من خادم محلي:
export OLLAMA_HOST=http://203.0.113.42:11434
ollama run llama3.1:8b
استبدل 203.0.113.42 بعنوان IP العام لـ VM السحابي. يتم تنزيل النموذج إلى المثيل السحابي، والاستدلال يعمل هناك. يقوم طرفك النهائي ببث الاستجابات عبر الشبكة.
لعملاء API، غيّر عنوان URL الأساسي:
curl http://203.0.113.42:11434/api/generate -d '{
"model": "llama3.1:8b",
"prompt": "Explain neural networks in one sentence."
}'
جميع نقاط النهاية (/api/generate, /api/chat, /api/embeddings) تتصرف بشكل متطابق. مكتبات العميل (Python و JavaScript و Go) تقبل معامل المضيف المخصص:
import ollama
client = ollama.Client(host='http://203.0.113.42:11434')
response = client.chat(model='llama3.1:8b', messages=[...])
لا يتطلب تغييرات في الكود بعد عنوان URL النقطة النهائية.
أي النماذج متاحة؟
عندما تستضيف بنفسك، كل نموذج في مكتبة Ollama يعمل على مثيل سحابي. قائمة نماذج Ollama تتضمن Llama 3.1 و Mistral و Gemma 2 و Qwen و Phi DeepSeekوعشرات أخرى. توفر النموذج غير مقيد بمكان تشغيل Ollama.
القيد هو VRAM وحدة معالجة الرسومات. مثيل سحابي بـ NVIDIA L4 (24 GB VRAM) يمكنه تشغيل نفس النماذج المُكمَّمة كـ RTX 4090 محلي. مثيل أصغر بـ 16 GB VRAM مقيد بنماذج أصغر أو تكمية أثقل، تمامًا كما هو الحال مع الأجهزة المحلية. استخدم حاسبة VRAM لتحديد نوع المثيل الذي تحتاجه لنموذج معين وستوى التكمية.
التسعير: السحابة مقابل المحلي مقابل خدمات واجهة برمجة التطبيقات (API)
أسعار GPU السحابية تتغير بشكل متكرر وتختلف حسب المنطقة والفئة (حسب الطلب، أو spot أو community)، لذا تحقق من صفحة التسعير الخاصة بالمزود قبل وضع الميزانية. مثالان، تم التحقق منهما في 6 نوفمبر 2026:
- RunPod: توفر صفحة التسعير حاوية RTX 4090 (24 GB) بسعر 0.89 دولار في الساعة على Secure Cloud و0.34 دولار في الساعة على Community Cloud، وحاوية A40 بسعر 0.59 دولار في الساعة على Secure Cloud.
- AWS: أحد
g5.xlargeتتضمن مثيل واحد من GPU NVIDIA A10G بذاكرة 24 GB، وهو كافٍ للنماذج 7B و8B؛ سعر الساعة لمنطقتك موجود على صفحة تسعير EC2 حسب الطلب.
تشغيل مثيل على مدار الساعة يكلف سعره بالساعة مضروباً في حوالي 730 ساعة شهرياً، لذا فإن حاوية RTX 4090 بسعر 0.89 دولار/الساعة أعلاه تصل إلى حوالي 650 دولار شهرياً. عند هذا المستوى من الاستخدام، شراء بطاقة مماثلة خاصة بك قد يوفر تكاليفه في غضون أشهر قليلة. حاسبة المقارنة بين الاستضافة الذاتية وواجهة برمجة التطبيقات (API) هذا عبر أنماط الاستخدام المختلفة.
تتغير نقطة التعادل بناءً على الاستخدام:
- الاستخدام الثقيل (8+ ساعات/اليوم): الأجهزة المحلية تسدد ثمنها في غضون أشهر.
- الاستخدام المتقطع (بضع ساعات/الأسبوع): المثيلات السحابية تفوز؛ تدفع فقط مقابل الساعات النشطة.
- أحمال العمل المفاجئة: السحابة تسمح لك باستئجار GPU عالية الجودة لمهمة قصيرة دون شراء واحدة.
قارن هذا بخدمات API المستضافة مثل OpenAI و Anthropic أو Groq، التي تفرض رسوماً لكل رمز. خدمات API المستضافة تخدم أيضاً النماذج المفتوحة الصغيرة مثل Llama 3.1 8B، وتختلف معدلات كل رمز على نطاق واسع بين المزودين. ما إذا كان هذا أرخص من cloud Ollama يعتمد على حجم طلباتك وطول الاستجابة في المتوسط. حاسبة تكلفة واجهة برمجة التطبيقات (API) هذا حسب النموذج والاستخدام الشهري.
الخصوصية والتحكم في البيانات
تشغيل Ollama محليًا يعني أن الأوامر والمخرجات النموذجية وأي مستندات تعالجها لا تترك جهازك أبدًا. هذا حاسم للصناعات المنظمة (الرعاية الصحية والقانونية والمالية) أو البيانات الملكية.
تشغيل Ollama على VM سحابي يقدم هذه المخاطر:
- نقل الشبكة: تنتقل الأوامر والاستجابات بين العميل والمثيل السحابي، وقد تمر عبر الإنترنت العام ما لم تستخدم VPN أو شبكة خاصة.
- وصول مزود الخدمة السحابية: AWS و Google و Azure لديهم وصول تقني إلى ذاكرة وقرص VM. بينما يلتزمون بعدم فحص بيانات العملاء، فإن هذا الاحتمال موجود.
- السجلات والبيانات الوصفية: يسجل مزودو الخدمات السحابية الاتصالات بالشبكة واستدعاءات API إلى واجهات برمجة تطبيقات الإدارة الخاصة بهم وأحداث الفواتير. تكشف هذه السجلات عن متى تقوم بتشغيل الاستدلال وكمية الحوسبة التي تستخدمها، حتى لو لم يروا محتوى الأوامر.
- إقامة البيانات: تعمل VM الخاصة بك في منطقة AWS محددة أو منطقة GCP معينة. إذا كان إطار الامتثال الخاص بك يقيد موقع البيانات، يجب عليك اختيار منطقة وفقاً لذلك.
إذا كان نموذج التهديد الخاص بك يشمل جهات فاعلة على مستوى الدول أو الاستدعاءات القضائية من موفري الخدمات السحابية، فإن الاستدلال المحلي هو الخيار الوحيد. إذا كنت تحسّن التكلفة والراحة وبيانات غير حساسة، فإن الاستضافة السحابية قابلة للتطبيق.
متى يجب اختيار الحل السحابي بدلًا من الأجهزة المحلية؟
اختر cloud Ollama متى:
- تحتاج إلى الوصول إلى LLMs لكنك لا تملك GPU ولا يمكنك تبرير التكلفة الأولية لـ GPU قادر.
- استخدامك متقطع—بضع ساعات في الأسبوع أو الشهر—وتفضل دفع رسوم الحوسبة حسب الاستخدام.
- تحتاج إلى التوسع مؤقتاً لمهمة دفعية كبيرة، ثم العودة إلى الأسفل.
- تقوم بالنماذج الأولية وتريد اختبار أنواع GPU مختلفة (16 GB و24 GB و40 GB) قبل الالتزام بالأجهزة.
- تقوم ببناء خدمة تحتاج إلى تشغيل مستمر على مدار الساعة وتكرار، وإدارة أجهزة الخوادم الخاصة بك غير ممكنة.
اختر local Ollama متى:
- تمتلك بالفعل GPU بـ 12+ GB VRAM أو أنت على استعداد لشراء واحد.
- تقوم بتشغيل الاستدلال يومياً لعدة ساعات؛ الأجهزة تسدد نفسها بسرعة.
- الخصوصية غير قابلة للتفاوض—بيانات لا يمكن أن تغادر مبانيك.
- تريد رسوم صفرية لكل طلب ونفقات يمكن التنبؤ بها.
- أنت غير متصل أو على شبكة بها وصول خارجي مقيد.
الـ حاسبة المقارنة بين الاستضافة الذاتية وواجهة برمجة التطبيقات (API) يتيح لك إدخال استخدامك الشهري المتوقع (ساعات الاستدلال، عدد الطلبات، متوسط الرموز لكل طلب) ومقارنة تكلفة شراء GPU أو استئجار مثيل سحابي أو استخدام خدمة API مستضافة. شغله بأرقامك الخاصة قبل أن تستأجر أو تشتري.
إعداد Ollama على مثيل سحابي
العملية هي نفسها عبر المزودين: إطلاق نموذج GPU وSSH فيه وتثبيت Ollama وفتح المنفذ 11434.
AWS EC2
- أطلق
g5.xlargeأوg5.2xlargeنموذج (Ubuntu 22.04 LTS وGPU NVIDIA A10G). - SSH إلى النموذج:
ssh -i your-key.pem ubuntu@<instance-ip> - تثبيت Ollama:
curl -fsSL https://ollama.com/install.sh | sh - ابدأ Ollama:
ollama serve(أو قم بإعداده كخدمة systemd). - اسحب نموذج:
ollama pull llama3.1:8b - قم بتكوين مجموعة الأمان للسماح بـ TCP الداخلية على المنفذ 11434 من عنوان IP الخاص بك.
Google Cloud Platform
- أنشئ VM في Compute Engine باستخدام GPU T4 أو A100 (حدد عائلة الآلات المدعومة بـ GPU).
- SSH عبر وحدة تحكم GCP أو
gcloud compute ssh. - تثبيت Ollama:
curl -fsSL https://ollama.com/install.sh | sh - ابدأ Ollama:
ollama serve - حدّث قواعد جدار الحماية للسماح بـ TCP 11434 من نطاق عنوان IP الخاص بك.
Lambda Labs أو RunPod
- استأجر نموذج بـ RTX 4090 أو A10.
- SSH باستخدام بيانات الاعتماد المتوفرة.
- تثبيت Ollama:
curl -fsSL https://ollama.com/install.sh | sh - ابدأ Ollama واسحب النماذج كما هو مذكور أعلاه.
للاستخدام الإنتاجي، قم بتشغيل Ollama كخدمة systemd بحيث تعاد تشغيله عند إعادة التشغيل، واستخدم عكس وكيل (Nginx أو Caddy) بـ TLS إذا كنت تكشفه على الإنترنت العام.
أي مزود: صورة Docker الرسمية
على أي مضيف GPU يشغل Docker، دليل Docker الخاص بـ Ollama يبدأ الخادم بأمر واحد، بعد تثبيت NVIDIA Container Toolkit وتكوين Docker لاستخدام برنامج تشغيل NVIDIA:
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
المجلد المسمى يحتفظ بالنماذج المحملة عند استبدال الحاوية. إذا نشرت المنفذ 11434 خارج المضيف، ضع المصادقة أمامه، كما هو موضح في سؤال الأمان أدناه.
اعتبارات الأداء
مثيلات السحابة تضيف كمون الشبكة. يضيف مثيل سحابي رحلة ذهاباً وإياباً من جهازك إلى مركز البيانات إلى كل طلب، وتنمو هذه التأخيرات مع المسافة، لذا اختر منطقة قريبة منك ومن مستخدميك. بالنسبة للدردشة التفاعلية، هذا محسوس لكن ليس معيقاً. بالنسبة لأحمال العمل الجماعية، فهو مهمل.
تعتمد سرعة توليد الرموز على GPU وليس الموقع. يولد A10G في AWS الرموز بنفس معدل A10G على مكتبك. ومع ذلك، قد تواجه نماذج السحابة تأثيرات الجار الصاخب: قد تؤدي VMs الأخرى على نفس المضيف المادي إلى تدهور الأداء. تقضي النماذج المخصصة أو إيجار GPU بدون معدن على هذا لكن بتكلفة أعلى.
هناك إعدادان أكثر أهمية من مزود الخدمة. الأول هو طول السياق: Ollama الأسئلة الشائعة يعطي نافذة السياق الافتراضي كـ 4096 رمز ويوضح كيفية رفعه على كامل الخادم بـ OLLAMA_CONTEXT_LENGTH=8192 ollama serve، أو لكل نموذج باستخدام num_ctx المعامل (انظر مرجع Modelfile). نافذة أكبر تستخدم VRAM أكثر. الثاني هو حيث يتم تحميل نموذج بالفعل، وهو ما ollama ps يوضح: وفقاً لنفس الأسئلة الشائعة، عمود Processor يوضح انقساماً مثل 48%/52% CPU/GPU عندما لا يناسب جزء من النموذج على GPU، مما يبطئ التوليد بشكل حاد. تكلف مثيلات Spot أو preemptible أقل من مثيلات on-demand ولكن يمكن استردادها بإشعار قصير، لذا احفظها لأحمال العمل الجماعية التي يمكنها إعادة البدء.
الأسئلة المتكررة
هل هناك خدمة Ollama Cloud رسمية؟
نعم. Ollama يشغل نماذج سحابية خاصة به، والتي يمكنك استخدامها من تطبيق Ollama أو CLI بعد تسجيل الدخول، أو عبر API على https://ollama.com/api/chat باستخدام مفتاح API. صفحة التسعير (تم التحقق في 6 نوفمبر 2026) يوفر استخدام الدفع حسب الاستخدام بدون اشتراك، بالإضافة إلى خطط Pro (20 دولار شهرياً) و Max (100 دولار شهرياً) التي تتضمن رصيد استخدام شهري. لا تزال بإمكانك استضافة خادم المصدر المفتوح بنفسك على GPU مستأجر بدلاً من ذلك.
هل يمكنني استخدام Ollama Cloud بنفس النماذج التي أقوم بتشغيلها محلياً؟
على مثيل سحابي مستضاف ذاتياً، نعم: أي نموذج تسحبه مع ollama pull يعمل محلياً هناك. السحابة الخاصة بـ Ollama لديها قائمة منفصلة من النماذج المستضافة، منشورة على https://ollama.com/api/tags. القيد الوحيد هو VRAM: تأكد من أن GPU السحابية الخاصة بك لديها ذاكرة كافية للنموذج ومستوى التكمية الذي تريده. تحقق من متطلبات VRAM حسب النموذج لمطابقة النماذج مع أنواع النماذج.
كيف أقوم بتأمين Ollama الذي يعمل على نموذج سحابي؟
افتراضياً Ollama يستمع على 127.0.0.1:11434وهي غير قابلة للوصول من خارج VM. لكشفها اضبط OLLAMA_HOST=0.0.0.0:11434 قبل بدء الخادم. ثم قيد الوصول عبر قواعد جدار الحماية السحابية (مجموعات أمان AWS وقواعد جدار حماية GCP) للسماح فقط بعنوان IP الخاص بك أو VPN الخاص بك. للإنتاج ضع Ollama خلف عكس وكيل بـ TLS والمصادقة (مصادقة HTTP الأساسية أو مفاتيح API أو OAuth). لا تعرّض خادم Ollama غير المصرح به للإنترنت العام—فهو يسمح لأي شخص بتشغيل نماذج تعسفية على حسابك.
ما الأرخص: Ollama على GPU سحابي أو استخدام API من OpenAI؟
يعتمد على الاستخدام. GPU مستأجر يكلف نفس السعر بالساعة سواء كان مشغولاً أو خاملاً، لذا فإن تكلفته لكل مليون رمز هي السعر بالساعة مقسوماً على ملايين الرموز التي تولدها فعلياً في تلك الساعة. عند إبقاؤه مشغولاً بطلبات عديدة، يمكنه التغلب على أسعار API لكل رمز للنماذج من نفس الحجم؛ عند استخدامه بخفة، كل رمز يكلف أكثر بكثير من API الذي يفرض رسوماً فقط على ما تستخدمه. خدمات API المستضافة تتعامل أيضاً مع التوسع والوقت المتاح وتحديثات النموذج نيابة عنك. استخدم حاسبة المقارنة بين الاستضافة الذاتية وواجهة برمجة التطبيقات (API) لنمذجة عبء العمل المحدد الخاص بك.
هل يجعل تشغيل Ollama في السحابة بيانات أقل خصوصية؟
نعم مقارنة بالاستدلال المحلي بالكامل. تنتقل إدراجاتك ومخرجات النموذج عبر الشبكة وتهبط على VM التي لموفر السحابة وصول الجذر إليها. إذا كانت الخصوصية حرجة—التعامل مع بيانات صحية محمية بموجب HIPAA أو وثائق قانونية بموجب امتياز محام-عميل أو أكواد ملكية—قم بتشغيل Ollama محلياً. إذا كانت بيانات غير حساسة أو تثق في التزامات العقود التعاقدية لموفر السحابة الخاص بك فالاستضافة السحابية مقايضة معقولة للتكلفة والراحة.
هل يمكنني تشغيل نماذج متعددة على نموذج سحابي واحد؟
نعم، طالما أن المثيل يتوفر على ذاكرة VRAM كافية لاحتفاظه بالنماذج في الذاكرة في نفس الوقت. يقوم Ollama بتحميل النماذج عند الطلب ويحتفظ بها في VRAM حتى يؤدي الضغط على الذاكرة إلى إزاحتها. يمكن لمثيل بحجم 24 GB أن يحتفظ بـ Llama 3.1 8B (تقريباً 8 GB لتكميم Q8) و Mistral 7B (بنفس الحجم) في نفس الوقت. التبديل بين النماذج المحملة فوري؛ تحميل نموذج جديد من القرص يستغرق بضع ثوان.
