هلوسات النماذج اللغوية الكبيرة في عام 2026: أسباب حدوثها وكيفية منعها

أكثر الأشياء خطورةً في نموذج لغوي كبير ليس أنه يخطئ — بل هو أنه يخطئ بثقة تامة. فسيقوم النموذج اللغوي الكبير باختراع استشهاد أو إحصائية أو قضية محكمة أو طريقة واجهة برمجة التطبيقات (API)، ويقدّمها بنفس الأسلوب السلس والواثق الذي يستخدمه عند عرض الحقائق. وهذا ما يُعرف بـ الهلوسة، وفهم هذه الظاهرة ضروريٌّ لاستخدام الذكاء الاصطناعي بشكل مسؤول.

يوضّح هذا الدليل ماهية الهلوسات، وأسباب حدوثها، وأنواعها التي قد تواجهها، والتقنيات الفعّالة حقًّا لتقليلها.

ماهية الهلوسة فعليًّا

الهلوسة هي أي إخراج يقدمه النموذج اللغوي الكبير على أنه حقيقة، لكنه في الواقع خاطئ أو مُختلق أو غير مدعوم بمصادر تدريبه. ومن الأمثلة: اختراع ورقة بحثية غير موجودة، أو الاستشهاد بإحصائية وهمية، أو نسب اقتباسٍ إلى شخصٍ خاطئ، أو وصف دالة برمجية لم تُكتب قط.

والسمة المميزة لها هي الثقة. إذ لا يعبّر النموذج عن تردّدٍ أو يشير إلى عدم اليقين — فالإدخال المُختلق يبدو تمامًا مثل الإدخال الدقيق. وهذه هي بالضبط الميزة التي تجعل الهلوسة خطرةً فعليًّا، وليس مجرد مصدر إزعاج.

لماذا تحدث الهلوسات في النماذج اللغوية الكبيرة؟

لكي نتمكن من معالجة ظاهرة الهلوسات، يجب أن نفهم سببها الجذري، الذي يكمن في الطريقة التي تعمل بها هذه النماذج أساسًا.

النموذج اللغوي الكبير هو نموذج للتنبؤ بالرمز التالي (next-token predictor)، وليس قاعدة بيانات للحقائق. وقد تم تدريبه على إنتاج الاستكمال الأكثر احتمالًا للنص. وهو يولد لغة تبدو صحيحة استنادًا إلى الأنماط الموجودة في بيانات تدريبه — فهو لا يبحث عن أي شيء. وعندما يكون الاستكمال الأكثر احتمالًا من حيث الصياغة خاطئًا فعليًّا، فإن النموذج ينتجه بنفس السهولة التي ينتج بها الاستكمال الصحيح. فليس لديه «فحص للحقيقة» منفصل.

وهناك عدة عوامل تفاقم هذه المشكلة:

• عدم وجود إدراكٍ واضحٍ لحدود معرفته الذاتية. فالنموذج لا يعرف بشكلٍ موثوقٍ ما لا يعرفه. وعند سؤاله عن أمرٍ خارج نطاق بياناته التدريبية، فإنه يُولِّد إجابةً مقنعةً بدلًا من أن يقول «لا أعرف».
• الضغط لإعطاء إجابة. فقد تم تدريب النماذج لتكون مفيدة ومستجيبة، مما يجعلها تميل إلى إنتاج إجابة بدلًا من الاعتراف بالجهل.
• الفجوات والأخطاء في بيانات التدريب. فإذا كانت المعلومات نادرة أو متناقضة أو خاطئة في بيانات التدريب، فإن إخراج النموذج يعكس ذلك.
• تاريخ انتهاء المعرفة. فأي حدث أو معلومة بعد تاريخ انتهاء بيانات التدريب ليست موجودة أصلًا — وبالتالي يملأ النموذج هذه الفجوة بالتخمين.
• فقدان السياق. ففي المحادثات الطويلة أو الوثائق الممتدة، قد يفقد النموذج تتابع التفاصيل ويقوم بـ«ملء الفراغ» بشكلٍ خاطئ.

الأنواع الرئيسية للهلوسات

كيفية تقليل الهلوسات

لا توجد تقنية واحدة تحلّ المشكلة. فالأنظمة الذكية الاصطناعية الموثوقة تعتمد على طبقات متعددة من الضوابط.

1. تأصيل النموذج باستخدام تقنية RAG

أكثر الإصلاحات الهيكلية فعالية هي التوليد المعزَّز بالاسترجاع (Retrieval-Augmented Generation): استرجِع الوثائق المصدرية ذات الصلة، وأرشد النموذج إلى الإجابة فقط استنادًا إليها. وهذه الطريقة تُبدِّل مبدأ «استرجاع المعلومات من الذاكرة» بمبدأ «القراءة من مصدر موثوق»، مما يقلّل التصنيع المفرط — وبخاصة فيما يتعلق بالحقائق والمرجعيات.

2. حفِّز النموذج على الصراحة

اذكر صراحةً للنموذج أن يعبّر عن عدم يقينه: «إذا كنت لا تعرف الإجابة، فقل ذلك صراحةً. ولا تحاول التخمين». واطلب منه أن يشير إلى المصادر، وأن يميّز بين الحقائق والاستنتاجات، وأن يحدّد الأجزاء التي تفتقر إلى الثقة. وهذه الطريقة وحدها لا توقف الهلوسة تمامًا، لكنها تساعد بشكل ملحوظ.

3. قدِّم المادة المصدرية مباشرةً

إذا كانت لديك الوثيقة، فانسخها ولصقها في موجه النموذج بدلًا من الاعتماد على ذاكرته لها. فنموذجٌ يقوم بتلخيص نصٍّ قدمته أنت يكون أكثر موثوقيةً بكثيرٍ من نموذجٍ يتذكّر نصًّا رآه أثناء التدريب.

4. اختر النموذج المناسب

النماذج الأحدث والأكبر حجمًا تُظهر هلوسات أقل من النماذج الأصغر أو الأقدم. أما النماذج المرتكزة على الاستنتاج فهي غالبًا أكثر دقةً في المسائل المنطقية والرياضية. وللمهام الواقعية الحساسة، استخدم نموذجًا قويًّا، وبقدر الإمكان نموذجًا مزوَّدًا بقدرة بحث مباشر أو استرجاع مدمجة.

5. اطلب التحقق

اطلب من النموذج نفسه — أو من نموذج ثانٍ — مراجعة الإجابة الأولى: «تحقق من الإجابة أعلاه بحثًا عن أي ادعاءات قد تكون غير دقيقة أو غير مدعومة». فعملية التقييم الذاتي تلتقط جزءًا كبيرًا من الأخطاء.

6. تحقَّق من كل ما له أهمية

الطبقة الأخيرة والحاسمة لا غنى عنها وهي التحقق البشري. فبالنسبة لأي حقيقة محددة أو مرجع أو رقم أو اقتباس أو نقطة قانونية أو ادعاء طبي، يجب التحقق منها مقابل مصدر أولي موثوق. وتعامل مع النموذج اللغوي الكبير (LLM) باعتباره مساعدًا سريعًا ومطلعًا، لكنه أحيانًا غير موثوق — وليس أبدًا سلطة نهائية.

متى يجب أن تكون أكثر حذرًا؟

مخاطر الهلوسة ليست موزَّعة بالتساوي. كن متشككًا جدًّا في الحالات التالية:

• حقائق محددة: التاريخ، والإحصائيات، والأسماء، والأسعار، والمقاييس.
• المراجع والمصادر: عناوين الأبحاث، وأسماء المؤلفين، وعناوين الإنترنت (URLs)، وأرقام الصفحات — وهي منطقة كلاسيكية للهلوسات.
• الاقتباسات: النص الحرفي الدقيق ونسبته إلى قائله.
• المواضيع المتخصصة أو الحديثة: نقص بيانات التدريب، والأحداث التي وقعت بعد تاريخ انتهاء التدريب.
• تفاصيل البرمجة: أسماء الدوال الدقيقة، والمعاملات، وواجهات برمجة التطبيقات (APIs) الخاصة بالمكتبات.

وبالمقابل، فإن النماذج اللغوية الكبيرة (LLMs) موثوقة جدًّا في شرح المفاهيم المعروفة جيدًا، والعصف الذهني، وإعادة هيكلة النصوص، والاستنتاج على المواد التي تقدّمها مباشرة.

كيف تُقاس معدلات الهلوسة

إن عبارة «تقليل الهلوسات» لا تحمل معنىً إلا إذا أمكن قياسها. والمشكلة أن هناك درجة واحدة موحدة للهلوسة، لأن هناك نمطين مختلفين جدًّا للفشل، وقد يكون النموذج ممتازًا في أحدهما بينما يفشل تمامًا في الآخر. ومعرفة أي اختبار قياسي يجيب عن أي سؤال هي ما يسمح لك بمقارنة النماذج بدقة، بدلًا من الاعتماد على ادعاء تسويقي.

الصدق المُرتكز على الأدلة يسأل: عندما تُقدِّم للنموذج وثيقةً وتطلب منه تلخيصها أو الإجابة عنها باستخدام تلك النصوص فقط، هل يظل مُلتزمًا بالمحتوى الوارد فيها، أم يبتكر تفاصيل غير موجودة؟ هذه المعيارية هي الأهم في أنظمة الاسترجاع المُولَّدة (RAG) وسير عمل معالجة المستندات. ويختبر كلٌّ من قائمة «هيم» (HHEM) العامة التي أطلقتها شركة «فيكتارا» (Vectara)، وقائمة « facts grounding » الخاصة بشركة «غوغل» هذا المعيار. والخبر المشجِّع هو أنه في مهمة التلخيص النقية، بلغ أفضل النماذج حاليًّا معدلات هلوسة لا تتجاوز الخانة الواحدة من العشرات (أقل من ١٠٪)، بينما قد تصل نسب الهلوسة في النماذج الأضعف أو الأقدم إلى عشرة أضعاف ذلك، ما يعني أن اختيار النموذج يؤثر فعليًّا في النتيجة.

الصدق التأملي المفتوح (الاسترجاع الحر للمعلومات) يسأل العكس تمامًا: في غياب أي مصدر مُقدَّم، كم مرة يذكر النموذج حقيقةً بشكلٍ صحيحٍ مستندًا إلى معرفته الذاتية، وكم مرة يدّعي حقيقةً خاطئةً بثقةٍ عالية؟ ويُعد اختبار «سيمبلكيو إيه» (SimpleQA) الخاص بشركة «أوبن آي» (OpenAI) المعيار القياسي هنا، وهو مصمَّم عمداً ليكون قاسياً للغاية، ويضم حقائق غامضة يسهل دحضها. بل إن حتى أحدث النماذج المتقدمة تخطئ في نسبة كبيرة من هذه الحقائق، وهذا بالضبط سبب كون الإجابات غير المُرتكزة على مصادر حول الأسماء والتواريخ والمراجع والأرقام أكثر المخاطر خطورةً التي يولدها نموذج اللغة الكبير (LLM).

الفكرة الأكثر فائدةً واحدةً في مقاييس الهلوسة الحديثة هي أن الإجابة الخاطئة المُقدَّمة بثقةٍ أعلى ضررًا من الإجابة الصادقة «لا أعلم». تُقيِّم المقاييس الجيدة ثلاث نتائج، وليس نتيجتين فقط: صحيحة، خاطئة، وغير مُقدَّمة. ويُكافأ النموذج الذي يمتنع عن الإجابة عند شعوره بعدم التأكُّد، ولا يُعاقَب عليه. ولذلك، عند قراءتك لأي قائمة ترتيب (leaderboard)، يجب أن تُعطي وزنًا كبيرًا لسلوك الامتناع عن الإجابة، بنفس قدر اهتمامك بدقة الأداء الخام.

• بالنسبة لمهام RAG أو معالجة المستندات: انظر إلى مقياس تقييم الارتكاز على المصادر/الصدق (مثل HHEM أو FACTS Grounding).
• بالنسبة للأسئلة المفتوحة التي تعتمد على الذاكرة فقط: انظر إلى مقاييس الصدق على غرار SimpleQA، وكذلك إلى مدى امتناع النموذج عن الإجابة.
• بالنسبة لحالتك العملية الخاصة: إن الدرجات العامة المنشورة ليست حكمًا نهائيًّا، بل مجرد نقطة انطلاق. أنشئ مجموعة صغيرة من ٣٠ إلى ٥٠ سؤالًا واقعيًّا من مجالك، تكون إجاباتها الصحيحة معروفةً مسبقًا، ثم قيِّم كل نموذجٍ بنفسك. فقد يتصدَّر نموذجٌ ما قائمة الترتيب العامة، ومع ذلك يُنتج هلوسات عند التعامل مع المصطلحات الخاصة بمجالك.

الأسئلة الشائعة

ماذا يعني أن يُظهر الذكاء الاصطناعي هلوسةً؟

يعني أن الذكاء الاصطناعي أنتج معلومات خاطئة أو غير مدعومة، لكنه قدّمها على أنها حقائق مؤكدة وبثقة تامة. ومن الأمثلة على ذلك اختراع إحصائيات، أو ابتكار مراجع، أو وصف وظائف برمجية غير موجودة.

لماذا تُظهر النماذج اللغوية الكبيرة (LLMs) هلوسات؟

لأنها نماذج تنبؤية للرمز التالي (next-token predictors)، وليست قواعد بيانات للحقائق. فهي تولّد الاستكمال الأكثر إقناعًا لنصٍّ ما استنادًا إلى الأنماط التي تعلّمتها أثناء التدريب — دون أن تبحث عن الحقائق أو تمتلك آلية داخلية للتحقق من الصحة. وعندما يكون البيان الخاطئ هو الأكثر إقناعًا ظاهريًّا، فإن النموذج يُنتجه بثقة تامة.

هل يمكن القضاء على الهلوسات تمامًا؟

لا. ويمكن تقليلها بشكل كبير عبر التأصيل (RAG)، والتوجيه الدقيق، واختيار نموذج قوي، والتحقق منها — لكن لا يمكن القضاء عليها تمامًا، لأن جذور الهلوسة تكمن في الطريقة الأساسية التي تعمل بها النماذج اللغوية الكبيرة. والنهج الصحيح هو تقليلها إلى أدنى حدٍّ ممكن، ثم التحقق من أي معلومة مهمة.

هل توقف تقنية RAG الهلوسات؟

تقلل تقنية RAG الهلوسات بشكل كبير عبر تزويدها النموذج بوثائق مصدرية فعلية للإجابة عنها، بدلًا من الاعتماد على الذاكرة. وهي أكثر تقنية فردية فعالية. لكنها ليست مثالية — فقد تؤدي عملية استرجاع ضعيفة أو تجاهل النموذج لسياقه إلى أخطاء رغم ذلك.

كيف أعرف ما إذا كانت إجابة الذكاء الاصطناعي هلوسةً؟

غالبًا لا يمكنك التمييز من الإجابة وحدها — لأن الهلوسات تبدو تمامًا مثل الإجابات الصحيحة. والطريقة الوحيدة الموثوقة هي التحقق: تحقَّق من الحقائق والمرجعيات والأرقام مقابل مصادر أولية. وكن أكثر تشكيكًا في التفاصيل الدقيقة، والموضوعات المتخصصة أو الحديثة.

أي النماذج الاصطناعية يُنتج أقل نسبة هلوسات؟

يعتمد ذلك تمامًا على المهمة المطلوبة. ففي مهمة التلخيص المُرتكز على الأدلة (كقائمة Vectara HHEM)، يحافظ أفضل النماذج على معدلات هلوسة ضمن الخانة الواحدة من العشرات (أقل من ١٠٪)، كما أن النماذج الرائدة من «أوبن آي» و«غوغل» و«أنثروبيك» (Anthropic) تنافس جميعها في هذا المجال. أما في مهمة استرجاع الحقائق من الذاكرة دون مصادر (كاختبار SimpleQA)، فإن أداء نفس النماذج يكون أسوأ بكثير، لأنها تفتقر إلى وثيقة مرجعية تُثبِّت إجاباتها. لذا يجب دائمًا التحقق من المقياس الذي يتطابق مع الطريقة الفعلية التي ستستخدم بها النموذج، بدلًا من الاعتماد على رقم واحد عام.

هل تُنتج نماذج الاستنتاج أقل هلوسات من النماذج القياسية؟

يعتمد ذلك على نوع المهمة، والافتراض الشائع بأن النماذج «التي تفكر» أكثر أمانًا دائمًا هو افتراضٌ خاطئ. ففي مهمة التلخيص المُرتكز على الأدلة، غالبًا ما تُنتج نماذج الاستنتاج هلوسات المزيد: إذ يؤدي الاستنتاج الإضافي إلى إدخال استنتاجات وروابط تتجاوز النص المصدر، لذا فإن عدة نماذج رائدة تعتمد على الاستنتاج تسجل نسب هلوسة تجاوزت ١٠٪ في القائمة الأصعب من قوائم «فيكتارا»، بينما تبقى نماذج أخف لا تعتمد على الاستنتاج ضمن الخانة الواحدة من العشرات. أما المكان الذي يُظهر فيه الاستنتاج فائدة حقيقية فهو استرجاع الحقائق من الذاكرة دون مصادر، وحتى هناك فإن المكسب يكمن أساسًا في زيادة الوعي الذاتي لا في توسيع المعرفة: فالنموذج يدرك عدم تأكُّده فيمتنع عن الإجابة بدلًا من التخمين، مما يقلل من عدد الإجابات الخاطئة المقدَّمة بثقة. ولا يمكن للاستنتاج الإضافي أن يخترع حقيقةً لم يتعلمها النموذج أصلًا. والقاعدة العملية هي تفضيل النماذج القائمة على الاستنتاج في مهام التحليل والتشخيص، لكن دون الافتراض أنها أكثر موثوقية في التلخيص الأمين أو استخلاص المعلومات.

كيف يمكنني قياس الهلوسات على بياناتي الخاصة؟

أنشئ مجموعة تقييم صغيرة. اجمع ٣٠ إلى ٥٠ سؤالًا واقعيًّا من مجالك، حيث تعرف مسبقًا الإجابات الصحيحة، ثم شغِّل كل نموذج مرشح، وصنِّف كل إجابة على أنها صحيحة أو خاطئة أو ممتنع عنها. وتابع الإجابات الخاطئة المقدَّمة بثقةٍ بشكل منفصل، لأنها الأخطر. وإذا كنت تستخدم نظام RAG، فتحقق أيضًا مما إذا كانت كل إجابة مدعومة فعلًا بالنص المسترد. وستُطلعك هذه المجموعة التقييمية المنزلية على مخاطرك الفعلية أكثر من أي قائمة ترتيب عامة.

الخلاصة

الهلوسة ليست عيبًا برمجيًّا يمكن إصلاحه عبر تصحيح (Patch)، بل هي نتيجة مباشرة لكيفية عمل نماذج اللغة. فهي تتوقع النص الأكثر إقناعًا، ولا تتحقق من صحته. ولذلك، حتى أفضل النماذج لعام 2026 لا تزال تبتكر أحيانًا معلومات خاطئة بثقة تامة.

الاستجابة العملية تتطلب طبقات متعددة: تأصيل النموذج باستخدام RAG، وتحفيزه على الاعتراف بعدم اليقين، وتزويده بالمادة المصدرية مباشرةً، واستخدام نموذج قوي — والأهم من ذلك كله التحقق من أي شيء ذي أهمية. وباستخدام هذه الطريقة، تصبح النماذج اللغوية الكبيرة (LLMs) مفيدة للغاية. أما الاعتماد عليها عم Blindly فهي تشكّل خطرًا. والمطلوب هو اكتساب المهارة التي تميّز بين الحالتين.