يمكن أن يكون نظام الذكاء الاصطناعي متحيزاً دون أن يقصد أي شخص أن يكون كذلك - ولأنه يعمل على نطاق واسع، يمكن أن يؤثر نموذج متحيز واحد على آلاف أو ملايين الأشخاص قبل أن يلاحظ أي شخص. إن تحيز الذكاء الاصطناعي هو أحد أهم القضايا التي يساء فهمها في مجال التكنولوجيا. يشرح هذا الدليل ماهيته، ويعرض أمثلة من العالم الحقيقي، ويغطي كيفية الحد منه.
أبرز الاستنتاجات
- تحيز الذكاء الاصطناعي هو عندما ينتج نظام الذكاء الاصطناعي نتائج غير عادلة ومنحرفة بشكل منهجي لمجموعات معينة.
- السبب الرئيسي بيانات التدريب المتحيزة - يتعلم الذكاء الاصطناعي الأنماط، بما في ذلك الأنماط غير العادلة في بياناته.
- إنه حقيقي بالفعل - موثقة في أدوات التوظيف، والتعرف على الوجه، والإقراض، والرعاية الصحية.
- يتدرج - يمكن لنظام متحيز واحد أن يؤثر على أعداد كبيرة من الناس بسرعة.
- يمكن تصغيره - من خلال تحسين البيانات، والاختبار، والشفافية، والرقابة البشرية - ولكن دون تجاهلها.
ما هو تحيز الذكاء الاصطناعي؟
التحيز في الذكاء الاصطناعي (ويسمى أيضًا التحيز الخوارزمي) هو عندما ينتج نظام الذكاء الاصطناعي نتائج غير عادلة بشكل منهجي لمجموعات معينة من الأشخاص - عادةً على أسس مثل الجنس أو العرق أو العمر أو خصائص أخرى.
النقطة الحاسمة: يحدث هذا عادةً دون قصد من أي شخص. لا أحد يكتب قاعدة تقول “إجحاف هذه المجموعة”. ينشأ التحيز من كيفية بناء النظام - غالبًا من البيانات التي تعلم منها. يجد نموذج الذكاء الاصطناعي الأنماط في بيانات التدريب الخاصة به ويعيد إنتاجها. إذا كانت هذه الأنماط تعكس الظلم التاريخي أو الاجتماعي، فإن النموذج يتعلم هذا الظلم أيضاً - ثم يطبقه بشكل متسق وعلى نطاق واسع، مع قشرة مضللة من الموضوعية الرياضية.
أمثلة واقعية
هذا ليس أمراً نظرياً. فقد تم توثيق التحيز في العديد من المجالات:
أدوات التوظيف. هناك حالة معروفة تتعلق بأداة توظيف تجريبية للذكاء الاصطناعي لإحدى الشركات التي تعلمت تفضيل المرشحين الذكور. وقد تم تدريبها على عقد من الزمن على بيانات التوظيف السابقة - ولأن الصناعة كانت توظف تاريخياً عدداً أكبر من الرجال، استنتج الذكاء الاصطناعي أن كون المتقدم ذكراً هو إشارة إيجابية. وقد عاقبت الأداة السير الذاتية التي تشير إلى أن مقدم الطلب كان امرأة. تم إلغاء الأداة.
التعرّف على الوجه. وجدت العديد من الدراسات أن العديد من أنظمة التعرف على الوجه كانت أقل دقة في التعرف على النساء والأشخاص ذوي البشرة الداكنة مقارنةً بالرجال ذوي البشرة الفاتحة. والسبب: مجموعات بيانات التدريب التي تهيمن عليها وجوه الذكور ذوي البشرة الفاتحة. في التكنولوجيا المستخدمة في مجال الأمن وحتى في مجال إنفاذ القانون، فإن ثغرات الخطأ هذه تنطوي على عواقب وخيمة.
الإقراض والائتمان. وقد وُجد أن نماذج الذكاء الاصطناعي المستخدمة في الإقراض تقدم شروطًا أسوأ، أو معدلات رفض أعلى لمجموعات سكانية معينة - لأنها تعلمت من بيانات الإقراض التاريخية التي تعكس في حد ذاتها تمييزًا في الماضي.
الرعاية الصحية. ومن الأمثلة التي يُستشهد بها على نطاق واسع خوارزمية الرعاية الصحية التي، باستخدام الرعاية الصحية السابقة الإنفاق كوكيل طبي تحتاج, ، قللت بشكل منهجي من احتياجات المرضى السود - لأن ما تم إنفاقه على رعايتهم كان أقل تاريخيًا، وليس لأنهم كانوا أقل مرضًا.
النمط في كل ذلك: لقد قام الذكاء الاصطناعي بما تم تدريبه عليه بالضبط. لقد تعلم من البيانات التي حملت أوجه عدم المساواة الموجودة في المجتمع، وأعاد إنتاجها - بكفاءة وعلى نطاق واسع.
لماذا يحدث تحيز الذكاء الاصطناعي
المصادر الرئيسية للتحيز:
| المصدر | كيف يخلق التحيز |
|---|---|
| بيانات التدريب المتحيزة | تعكس البيانات عدم المساواة التاريخية أو الاجتماعية؛ يتعلمها النموذج |
| بيانات غير تمثيلية | بعض المجموعات ممثلة تمثيلاً ناقصاً، لذا فإن أداء النموذج يكون أسوأ بالنسبة لهم |
| متغيرات الوكيل | يمثل الإدخال “المحايد” سراً سمة حساسة |
| تأطير المشكلة المعيبة | يتم اختيار الهدف الخاطئ (على سبيل المثال الإنفاق كبديل للحاجة) |
| عدم وجود اختبارات متنوعة | يمر التحيز دون أن يلاحظه أحد لأنه لم يدقق أحد في المجموعات |
بيانات التدريب هي السبب الجذري في معظم الأحيان. إن مبدأ “القمامة في الداخل، القمامة في الخارج” له نسخة عادلة: التحيز للداخل، التحيز للخارج. نموذج الذكاء الاصطناعي هو مرآة لبياناته. إذا كانت البيانات ترمز إلى عدم المساواة، فإن النموذج سيفعل ذلك أيضًا - ويمكن أن يكون النموذج أيضًا الأسوأ للمجموعات التي رأت ببساطة أمثلة أقل من.
كيفية الحد من تحيز الذكاء الاصطناعي
لا يمكن القضاء على التحيز بشكل كامل، ولكن يمكن الحد منه بشكل كبير من خلال بذل جهد متعمد:
- استخدام بيانات أفضل وأكثر تمثيلاً. تدقيق بيانات التدريب بحثًا عن الانحراف، والتأكد من تمثيل جميع المجموعات ذات الصلة بشكل كافٍ.
- اختبار التحيز بين المجموعات. لا تقيس الدقة الإجمالية فقط. قم بقياس الأداء بشكل منفصل للمجموعات السكانية المختلفة - هكذا تم العثور على فجوات التعرف على الوجه.
- راقب المتغيرات الوكيلة. تحقق مما إذا كانت المدخلات التي تبدو محايدة (مثل الرمز البريدي) تقف بهدوء في خانة السمات الحساسة.
- ضع المشكلة في إطارها بعناية. تأكد من أن الشيء الذي يتنبأ به النموذج هو في الواقع الشيء الذي تهتم به - وليس وكيلًا معيبًا.
- بناء فرق عمل متنوعة. من المرجح أن تتوقع الفرق ذات الخلفيات المتنوعة وتكتشف التحيز الذي قد يفوت فريقاً متجانساً.
- المطالبة بالشفافية. كن حذرًا من أنظمة “الصندوق الأسود” في القرارات ذات المخاطر العالية؛ يجب أن تكون قادرًا على فهم وتدقيق كيفية اتخاذ القرارات.
- إبقاء البشر في الحلقة. بالنسبة للقرارات التبعية، مثل التوظيف والإقراض والرعاية الصحية والعدالة، يجب أن يدعم الذكاء الاصطناعي الحكم البشري لا أن يحل محله. يجب أن يكون الشخص قادراً على المراجعة والتجاوز.
ما أهمية ذلك
تحيز الذكاء الاصطناعي مهم بسبب النطاق والسلطة. يؤثر صانع القرار البشري المتحيز على الأشخاص الذين يقابلهم شخصياً. أما نظام الذكاء الاصطناعي المتحيز فيمكن أن يؤثر على كل شخص يتعامل معه - ربما الملايين - وهو يفعل ذلك بمظهر محايد وموضوعي رياضي يمكن أن يجعل من الصعب التشكيك في عدم الإنصاف. تبدو عبارة “قررت الخوارزمية” محايدة. لكنها في الغالب ليست كذلك.
مع استخدام الذكاء الاصطناعي في اتخاذ المزيد من القرارات التي تشكل حياة الناس، لم يعد الحصول على العدالة بشكل صحيح أمراً اختيارياً. إنه أمر أساسي لبناء ذكاء اصطناعي جدير بالثقة.
كيفية التحقق مما إذا كان نظام الذكاء الاصطناعي متحيزًا قبل الوثوق به
إن إدراك وجود التحيز في الذكاء الاصطناعي أمر، أما تقرير ما إذا كانت الأداة المحددة التي أمامك آمنة للاستخدام فهذا أمر آخر. وسواء كنت مشترياً تقوم بتقييم مورد ما، أو فريقاً يعمل على طرح نموذجك الخاص، يمكنك اختبار قدرة النظام على تحمل الضغوط من خلال مجموعة منظمة من الأسئلة. ولا يتطلب أي من هذا الحصول على درجة الدكتوراه في علم البيانات، بل يتطلب فقط الرغبة في طرح الأسئلة والصبر على الإصرار للحصول على إجابات حقيقية.
ابدأ بالسؤال عن كيفية اختلاف النتائج بين المجموعات. إن الاختبار الأكثر دلالة هو قياس قرارات النظام بشكل منفصل لكل فئة محمية: العرق، والجنس، والعمر، والإعاقة، وما إلى ذلك. وفي مجال التوظيف في الولايات المتحدة، يُعد المعيار المرجعي الراسخ هو قاعدة أربعة أخماس (80%) — إذا انخفض معدل الاختيار لأي مجموعة إلى ما دون 80% من معدل المجموعة الأكثر تفضيلاً، فإن ذلك يُعد مؤشراً خطيراً على وجود تأثير متباين يستحق التحقيق. وينطبق المنطق نفسه على الموافقة على القروض، أو الإشارات التي تدل على الاحتيال، أو مراقبة المحتوى.
أصر على إجراء تدقيق مستقل، وليس تقييمًا ذاتيًا من جانب المورد. يتم إجراء تدقيق التحيز القابل للتبرير من قبل طرف ثالث محايد، وليس من قبل الشركة التي طورت الأداة أو الفريق الذي يستفيد من استخدامها. وينص القانون المحلي رقم 144 لمدينة نيويورك بالفعل على هذا بالضبط — أي إجراء تدقيق سنوي للتحيز من قبل طرف ثالث قبل السماح باستخدام أداة التوظيف الآلية — وبموجب قانون الاتحاد الأوروبي للذكاء الاصطناعي, ، يتعين على مقدمي الأنظمة عالية المخاطر الكشف عن التحيز ومنعه والتخفيف من آثاره، وتوثيق إجراءات حوكمة البيانات الخاصة بهم. بعد تعديلات قانون «ديجيتال أومنيبوس» لعام 2026، تسري تلك الالتزامات المتعلقة بالأنظمة عالية المخاطر اعتبارًا من 2 ديسمبر 2027 بالنسبة للأنظمة المستقلة الواردة في المرفق الثالث، بحيث يكون اتجاه المسار واضحًا حتى في الحالات التي لم يحن فيها الموعد النهائي بعد.
قائمة مرجعية عملية للتدقيق:
- مصدر بيانات التدريب: من أين أتت هذه البيانات، وهل هي ممثلة للفئة التي سيؤثر عليها النظام؟
- أداء المجموعات الفرعية: اطلب الحصول على بيانات دقيقة ومعدلات الأخطاء موزعة حسب كل فئة على حدة، لا مجرد رقم إجمالي واحد.
- وثائق المراجعة: اطلب أحدث تقرير تدقيق صادر عن جهة خارجية وتاريخه — فقول “لقد قمنا باختباره داخليًّا” لا يكفي.
- الإشراف البشري: هل يمكن لأي شخص مراجعة قرار يتخذه النظام وشرحه وتجاوزه؟
- المراقبة المستمرة: تتغير التحيزات مع تغير العالم؛ تأكد من إعادة فحص النظام وفقًا لجدول زمني محدد، وليس فقط عند إطلاقه.
وإذا لم يتمكن المورد من الإجابة على هذه الأسئلة، فإن صمته هذا هو في حد ذاته الإجابة. فالمزود الجدير بالثقة يعتبر اختبار التحيز ميزة يجب الترويج لها، وليس عيبًا يجب إخفاؤه. وهناك مجموعات أدوات مجانية ومفتوحة المصدر مثل تلك التي تقدمها شركة مايكروسوفت فيرليرن وIBM الإنصاف في الذكاء الاصطناعي 360 دع فريقك يقوم بإجراء العديد من هذه الفحوصات بنفسه، حتى لا تعتمد أبدًا بشكل كامل على كلام البائع.
الأسئلة الشائعة
ما هو تحيز الذكاء الاصطناعي؟
تحيز الذكاء الاصطناعي هو عندما ينتج نظام ذكاء اصطناعي نتائج غير عادلة بشكل منهجي لمجموعات معينة من الأشخاص - على سبيل المثال على أساس الجنس أو العرق أو العمر. وعادةً ما يحدث ذلك عن غير قصد، وينشأ من بيانات التدريب المتحيزة وليس من أي قاعدة متعمدة.
ما الذي يسبب تحيز الذكاء الاصطناعي؟
السبب الأكثر شيوعًا هو بيانات التدريب المتحيزة: يتعلم الذكاء الاصطناعي أنماطًا من بياناته، وإذا كانت تلك البيانات تعكس أوجه عدم المساواة التاريخية أو الاجتماعية، فإن النموذج يتعلمها ويعيد إنتاجها. وتشمل الأسباب الأخرى التمثيل الناقص لبعض المجموعات في البيانات، والمتغيرات بالوكالة، والتأطير الخاطئ للمشكلة.
ما هو مثال على تحيز الذكاء الاصطناعي؟
ومن الأمثلة الموثقة جيدًا على ذلك أداة توظيف تجريبية للذكاء الاصطناعي تعلمت تفضيل المرشحين الذكور لأنها دُرّبت على بيانات توظيف تاريخية يهيمن عليها الرجال. وتشمل الأمثلة الأخرى أنظمة التعرف على الوجه الأقل دقة بالنسبة للنساء والأشخاص ذوي البشرة الداكنة، وخوارزميات الإقراض والرعاية الصحية المتحيزة.
هل يمكن إصلاح تحيز الذكاء الاصطناعي؟
يمكن تقليلها إلى حد كبير، وإن لم يتم القضاء عليها تمامًا. تشمل التدابير الفعالة استخدام بيانات تدريب أكثر تمثيلاً، واختبار الأداء بشكل منفصل عبر المجموعات الديموغرافية، وتجنب المتغيرات بالوكالة، وضمان الشفافية، وإبقاء البشر مسيطرين على القرارات عالية المخاطر.
لماذا يُعد تحيز الذكاء الاصطناعي مشكلة خطيرة؟
لأن الذكاء الاصطناعي يعمل على نطاق واسع وبمظهر الموضوعية. يمكن لنظام متحيز أن يؤثر بشكل غير عادل على ملايين الأشخاص بسرعة، ويمكن أن يؤدي تأطير “الخوارزمية التي قررت” إلى صعوبة الطعن في عدم الإنصاف. مع قيام الذكاء الاصطناعي بتشكيل قرارات أكثر أهمية، يصبح الإنصاف ضرورياً للثقة.
كيف يمكن اختبار نموذج الذكاء الاصطناعي للتأكد من عدم وجود تحيز فيه؟
تقوم بمقارنة نتائج النموذج عبر المجموعات بدلاً من تقييمه بناءً على الدقة الإجمالية. وتشمل الطرق الشائعة تحليل الأثر المتباين (قاعدة الأربعة أخماس)، واختبار تكافؤ الاحتمالات، وفحوصات المعايرة التي تؤكد أن معدلات الخطأ متشابهة لكل مجموعة محمية. تعمل الأدوات مفتوحة المصدر مثل Fairlearn و AI Fairness 360 من IBM على أتمتة هذه القياسات، ويجب أن يتم الاختبار في كل مرحلة — إعداد البيانات، وتطوير النموذج، وما قبل النشر، والتشغيل المستمر — لأن التحيز يمكن أن يتسلل في أي مرحلة.
من الذي ينبغي أن يتولى تدقيق نظام الذكاء الاصطناعي للتأكد من خلوه من التحيز؟
جهة خارجية مستقلة، وليست الشركة الموردة التي طورت الأداة أو الفريق الذي يجني أرباحًا من استخدامها. تنطوي عمليات التقييم الذاتي على تضارب واضح في المصالح، ولهذا السبب تفرض لوائح مثل القانون المحلي رقم 144 لمدينة نيويورك إجراء تدقيق خارجي قبل أن يتم نشر أداة التوظيف الآلية. وإذا قمت بتطوير النماذج داخليًّا، فيجب أن تظل مجموعة التدقيق منفصلة عن المجموعة التي طورت النظام.
هل الشركات ملزمة قانونًا بالتحقق من وجود تحيز في أنظمة الذكاء الاصطناعي؟
نعم، بشكل متزايد — على الرغم من أن ذلك يعتمد على المكان الذي تعمل فيه وعلى وظيفة النظام. ففي الولايات المتحدة، ينص القانون المحلي رقم 144 لمدينة نيويورك على إجراء تدقيقات سنوية للتحيز في أدوات التوظيف الآلية قبل السماح باستخدامها. أما في الاتحاد الأوروبي، فيلزم قانون الذكاء الاصطناعي (AI Act) مزودي الأنظمة عالية المخاطر بالكشف عن التحيز والتخفيف من آثاره وتوثيق حوكمة بياناتهم؛ وبعد تعديلات قانون «Digital Omnibus» لعام 2026، ستسري هذه الالتزامات اعتبارًا من 2 ديسمبر 2027 على الأنظمة المستقلة عالية المخاطر. وحتى في الحالات التي لم يحن فيها موعد نهائي ملزم بعد، فإن أطر العمل مثل «إطار عمل إدارة مخاطر الذكاء الاصطناعي» التابع للمعهد الوطني للمعايير والتقنية (NIST) تعامل اختبار التحيز باعتباره توقعًا أساسيًا.
الخلاصة
إن تحيز الذكاء الاصطناعي ليس عطلًا نادرًا - إنه نتيجة متوقعة لتدريب الأنظمة على البيانات التي تحمل في طياتها أوجه عدم المساواة الموجودة في العالم. تشترك جميع الحالات الموثقة في التوظيف، والتعرف على الوجه، والإقراض، والرعاية الصحية في نفس القصة: تعلم الذكاء الاصطناعي بأمانة نمطاً غير عادل ثم طبقه بكفاءة وعلى نطاق واسع.
الجزء المشجع هو أن التحيز يمكن معالجته. فالبيانات الأفضل، واختبار كل مجموعة على حدة، والشفافية، والرقابة البشرية الهادفة، كلها عوامل تقلل منه بشكل ملموس. ما لا يمكن تجاهله هو ما لا يمكن تجاهله. إن بناء ذكاء اصطناعي مفيد حقًا يعني بناء ذكاء اصطناعي عادل - وهذا يتطلب جهدًا مدروسًا ومستمرًا.
