تنتشر الآن قصة جديدة عن نموذج ذكاء اصطناعي تحول إلى أداة اختراق، وهذه المرة تشير الأصابع إلى اسم جديد تمامًا. فقد نشر موقع Gizmodo تقريرًا بعنوان «أوه لا! أي شركةٍ من شركات الذكاء الاصطناعي أصبح نموذجها المُبلَّغ عنه هاكرًا أيضًا؟»، ما يشير إلى أن نظامًا تابعًا لمطوِّر رائد آخر للذكاء الاصطناعي قد رُبط — وفق تقارير — بأنشطة اختراقية. والتفاصيل المتاحة وقت كتابة هذا التقرير ضئيلة جدًّا، كما أن صيغة العنوان الاستفهامية التي استخدمها موقع Gizmodo تحجب هوية الشركة نفسها في العنوان مباشرةً. لكن عبارة «أيضًا» هي المؤشر الحقيقي هنا: فتقارير سوء استخدام نماذج الذكاء الاصطناعي الرائدة في العمليات السيبرانية لم تعد حوادث مُحرجة معزولة تخص مختبرًا واحدًا فقط، بل أصبحت سمةً متكررةً في دورة الأخبار الصناعية.
أبرز النقاط المستخلصة
- يورد موقع Gizmodo تقريرًا يفيد بأن نموذج شركة أخرى «أصبح هاكرًا أيضًا وفق تقارير»، ما يوحي بحالة جديدة تمامًا لارتباط نموذج رائد بأنشطة اختراقية.
- إن صيغة عبارة «أيضًا» تضع هذه المزاعم في سياق نمط أوسع: فقد واجه عددٌ من مطوري الذكاء الاصطناعي تقارير عن سوء استخدام نماذجهم في عمليات سيبرانية.
- الشركة المحورية في هذا التقرير غير مسمّاة في المواد المتاحة هنا، وبالتالي يجب التعامل مع التفاصيل المحددة باعتبارها مزاعم منسوبة لتقرير موقع Gizmodo فقط.
- لطالما حذّر باحثو الأمن السيبراني من أن أنظمة الذكاء الاصطناعي الوكيلية (Agentic AI) قادرة على ضغط سلسلة الهجمات — مثل جمع المعلومات الاستخباراتية، والتصيد الاحتيالي، وتوليد الأكواد — في سير عمل أسرع وأقل تكلفة.
- أما الاستجابة العملية للمطورين والشركات فهي إجراء تقييم دقيق على مستوى النموذج: فهم يجب أن يفهموا الضوابط الأمنية التي توفرها كل جهة مقدمة للنموذج، وأنظمة المراقبة التي تطبّقها، وسجلها في الإفصاح عن الحوادث.
- ومن المتوقع أن يتزايد الضغط على مختبرات الذكاء الاصطناعي لنشر تقارير استخبارات التهديدات، وعلى صانعي السياسات لوضع توقعات رسمية بشأن الإفصاح عن الحوادث.
ما الذي يقوله تقرير موقع Gizmodo الفعلي حول اختراق النماذج بالذكاء الاصطناعي؟
وفقًا لتقرير موقع Gizmodo، فإن نموذج شركة كبرى «أصبح هاكرًا وفق تقارير» — أي أن النظام قد استُخدم، أو ساعد بشكل جوهري، في تنفيذ أنشطة اختراقية. وهذه الكلمة الوحيدة «وَفق تقارير» لها أهميتها البالغة. فغالبًا ما تنشأ تغطية سوء استخدام الذكاء الاصطناعي إما من إفصاحات المطور نفسه في تقارير استخبارات التهديدات، أو من باحثي الأمن السيبراني الخارجيين، وتتم غالبًا مراجعة التقارير الأولية وتحديثها مع ظهور التفاصيل التقنية. أما عنوان موقع Gizmodo فهو يطرح هوية الشركة على شكل سؤال عمديًّا، وهي في حد ذاتها ملاحظة على مدى شيوع هذه القصص.
وبما أن المادة المتاحة لا تسمّي الشركة صراحةً، فإن أي نسبٍ محددةٍ يعود فضلها إلى التقرير الكامل لموقع Gizmodo وليس إلى سجل عام موثق ومستقر. أما ما يمكن قوله بثقةٍ فهو أضيق نطاقًا لكنه لا يزال مهمًّا: فقد ارتبط مطوّرٌ آخر لنماذج الذكاء الاصطناعي الرائدة علنًا باعتداءٍ اختراقي، ليُضاف بذلك إلى قائمةٍ متزايدة الطول. وللقراء الذين يتابعون أي النظم واجهت اتهامات بالسوء في الاستخدام — وكيف توثّق شركات تصنيعها إجراءات السلامة — فإن قاعدة بيانات نماذج الذكاء الاصطناعي تدوّن قدرات كل نموذج رائد وإجراءات السلامة المنشورة المتعلقة به.
لماذا تكتسب عبارة «أيضًا» أهميةً بالغة: إن سوء استخدام نماذج الذكاء الاصطناعي أصبح نمطًا متكررًا
والجزء الأكثر دلالةً في عنوان موقع Gizmodo ليس الشركة غير المسمّاة، بل كلمة «أيضًا». فعلى مدار العامين الماضيين، وثّقت عدة شركات رائدة لتطوير الذكاء الاصطناعي علنًا محاولات جماعات إجرامية وعناصر مرتبطة بدول لسوء استخدام نماذجها، ونشرت تقارير دورية عن التهديدات، وعلّقت حسابات المخالفين. وكان يُنظر إلى كل إفصاح منها في السابق على أنه فضيحة منعزلة. أما مجتمعها الآن فيصف حالةً صناعية شاملةً بدلًا من أن تكون فشلًا خاصًّا بمختبرٍ واحد.
وهذا التحوّل يغيّر طبيعة الأسئلة الجديرة بالطرح. فسؤال «هل يمكن سوء استخدام نموذج اللغة الكبير في أنشطة الاختراق؟» قد حُسم منذ زمنٍ بعيد — والإجابة، وبشكل مثبت، هي «نعم». أما الأسئلة الحالية فهي تشغيلية: كم من الوقت يستغرق المطوّر لاكتشاف سوء الاستخدام؟ وهل يُبلغ عن النتائج التي توصّل إليها بشفافية؟ وما مدى فعالية ضوابطه الأمنية في رفع تكلفة المحاولة التالية؟ فتقرير مثل تقرير موقع Gizmodo، مهما كانت الشركة المعنية به، هو في النهاية نقطة بيانات عن الكشف والإفصاح بقدر ما هو عن المهاجم الذي أثار الحادث.
كيف يتحول نموذج ذكاء اصطناعي إلى أداة اختراق
ولا أحد من الأنظمة التي ورد ذكرها في قصص كهذه صُمّمت أصلًا لشن هجمات على أي أحد. وفي الواقع، تصف التقارير الصناعية عددًا قليلًا من المسارات المتكررة التي تنتهي بها النماذج إلى أداء أعمال عدائية. فالمهاجمون يمارسون الهندسة الاجتماعية على النموذج نفسه، متنكرين في هيئة باحثين في اختراق الأنظمة أو باحثين أكاديميين لدفع النموذج إلى تجاوز قيوده في الرفض. كما أنهم يسيئون استخدام واجهات برمجة التطبيقات (APIs) على نطاق واسع، غالبًا عبر حسابات مسروقة أو مُنشأة احتياليًّا. وبدرجة متزايدة، يستغلون الميزات الوكيلية (Agentic features) — أي قدرة النموذج على التخطيط لمهمات متعددة الخطوات، واستدعاء أدوات خارجية، والتكرار على النتائج بحد أدنى من التدخل البشري. وهذه هي نفس القدرات التي تُمكّن التطبيقات الشرعية وكلاء البرمجة بالذكاء الاصطناعي، وهو ما يجعل مشكلة الاستخدام المزدوج (Dual-use) بهذه الصعوبة المستعصية.
أما المخاوف الأوسع، كما يصوغها محللو الأمن، فهي أقل ما تكون في أن الذكاء الاصطناعي يخترع تقنيات هجومية جديدة، وأكثر ما تكون في أنه يضغط التقنيات القديمة في سلسلة هجومية مكثفة:
| مرحلة سلسلة الهجوم | النهج اليدوي التقليدي | النهج المدعوم بالذكاء الاصطناعي (كما ورد في التقارير الصناعية) |
|---|---|---|
| جمع المعلومات الاستخباراتية (Reconnaissance) | ساعات من البحث اليدوي عن الأهداف والبنية التحتية | يقوم النموذج بتلخيص المعلومات المفتوحة المصدر خلال دقائق |
| الهندسة الاجتماعية | رسائل تصيد احتيالي مكتوبة يدويًّا، غالبًا ما تحتوي أخطاء واضحة | رسائل تصيد احتيالي سلسة ومخصصة يتم توليدها عند الطلب |
| الأكواد الخبيثة | تتطلب مطورين مهرة | يتم صياغة الأكواد وتصحيحها وتعديلها عبر الحوار |
| تحليل الثغرات | يتطلب خبرة متخصصة وفرزًا بطيئًا | يساعد النموذج في تفسير مخرجات عمليات الفحص وتحديد أولويات نقاط الضعف |
| التوسع | مقيد بعدد المهاجمين | يمكن لدورات الوكلاء (Agentic loops) تشغيل العديد من المهام بالتوازي |
يُسرع فِرَق الأمن في الإشارة إلى أن نفس الخصائص تؤثّر في كلا الاتجاهين: فالمدافعون يستخدمون نماذج متطابقة لتصنيف التنبيهات ومراجعة الشيفرة وصياغة قواعد الكشف أسرع مما كان ممكنًا من قبل.
ما الذي تعنيه ادعاءات اختراق الذكاء الاصطناعي للمطورين والشركات
وبالنسبة للمنظمات التي تبني حلولها على الذكاء الاصطناعي، فإن الرد المنطقي على عنوان رئيسي مثل العنوان الذي نشرته مجلة «جازمودو» (Gizmodo) ليس الذعر، بل إجراء العناية الواجبة. وأصبح اختيار النموذج الآن جزءًا من قرار أمني. وتتفاوت مقدّمي الخدمات اختلافًا كبيرًا في طريقة مراقبتهم لحالات الاستغلال غير المشروع، وفي درجة مقاومة أنظمتهم لمحاولات التحايل (jailbreaking)، وفي صراحة تقاريرهم عن الحوادث — وهذه الاختلافات نادرًا ما تظهر في صفحة الأسعار.
وعلى الفِرَق التي تُنفِّذ أنظمة الوكلاء (agentic systems) أن تعاملها كأي برنامج ذي امتيازات أخرى: تسجيل كل ما يقوم به الوكيل، وتقييد الأدوات والبيانات الاعتماد (credentials) التي يمكنه الوصول إليها، واشتراط موافقة بشرية صريحة على الإجراءات الحساسة مثل إرسال الرسائل أو تنفيذ شيفرة ضد الأنظمة الإنتاجية أو التعامل مع بيانات العملاء. وتجدر وزن سجل الإفصاح الخاص بالمورِّد جنبًا إلى جنب مع نتائج الاختبارات المرجعية (benchmark scores). فالمعمل الذي ينشر تقارير تفصيلية عن حالات الاستخدام الضار التي كشف عنها، يكون غالبًا خيارًا أكثر أمانًا — رغم ما قد يبدو من تناقضٍ ظاهري — مقارنةً بمعملٍ لم يبلّغ قط عن أي حادث؛ إذ قد تعني الصمت غياب الحوادث، أو غياب القدرة على اكتشافها.
الوزن المفتوح، والواجهات المغلقة للبرمجة (APIs)، والفجوة في الضوابط الأمنية
كما أن القصص من هذا النوع تُبرز أيضًا انقسامًا هيكليًّا متزايد الوضوح في القطاع. فنماذج الذكاء الاصطناعي المغلقة التي تُقدَّم عبر واجهة برمجية (API) تمنح مطوريها نقطة رقابة مركزية: فيمكن تحديد أنماط الاستخدام المشبوهة، وحظر الحسابات، وتحديث ضوابط الأمان لجميع المستخدمين دفعة واحدة. أما النماذج المفتوحة المصدر (open-weight models) التي تُستضاف ذاتيًّا فلا توفّر هذه الآلية إطلاقًا — وبمجرد تنزيل الأوزان (weights)، لا يستطيع أي مورِّد سحب الصلاحية أو مراقبة ما يُطلب من النموذج فعله.
وهذا لا يُعد حجةً ضد النماذج المفتوحة، التي توفّر فوائد حقيقية من حيث التكلفة والخصوصية والتحكم — وهي تنازلات نقدّرها كميًّا في تقريرنا دراسة تكلفة الذكاء الاصطناعي المفتوح مقابل المغلق. لكنه يحوّل مسؤولية منع الاستخدام الضار من المورِّد إلى الجهة المنفِّذة. ولذلك، ينبغي على المنظمات التي تزن هذا الخيار أن تأخذ عبء الإدارة والرقابة (governance overhead) في الاعتبار جنبًا إلى جنب مع نفقات البنية التحتية؛ وتقريرنا حاسبة مقارنة بين الاستضافة الذاتية وواجهة برمجة التطبيقات (API) يُشكّل نقطة بداية مفيدة لجانب التكلفة في هذا القرار.
ما الذي ينبغي مراقبته أثناء تطور قصة اختراق الذكاء الاصطناعي
وسيتحدد مدى أهمية تقرير «جازمودو» بناءً على عدة عوامل. أولها التأكيد: أي شركةٍ تورّطت في الحادث، وما إذا كان المطوّر سيصدر بيانه الخاص حول ما حدث، كما جرت العادة بعد تقارير الاستخدام الضار البارزة. ثانيها طبيعة النشاط: هل قام النموذج فقط بمساعدة مشغل بشري، أم أتمّ أجزاء كبيرة من عملية الاختراق بشكل آلي وبإشرافٍ ضئيل جدًّا؟ وهذا التمييز بالغ الأهمية في تقييم المخاطر.
وثالثها استجابة السياسات العامة. فكل حادث جديد يعزّز الحجة التي يطرحها باستمرار باحثو الأمن وبعض المشرّعين، والمتعلّقة بضرورة وضع معايير موحّدة لإبلاغ الجهات المعنية عن سوء استخدام الذكاء الاصطناعي — أي ما يشبه الممارسات السائدة في الإبلاغ عن اختراقات البيانات. فإذا استمر ظهور عناوين رئيسية مثل «يُقال إنه قرصانٌ الآن أيضًا» بنفس وتيرة اليوم، فاحتمال صدور قواعد رسمية يزداد باطراد.
الأسئلة الشائعة
أي نموذج ذكاء اصطناعي تقول «جازمودو» إنه يمارس القرصنة؟ عنوان «جازمودو» الرئيسي يطرح هذا السؤال عمداً، ولا تذكر المادة المتاحة هنا اسم الشركة صراحةً. وقبل أن يُؤكَّد التقرير الكامل واستجابة المطوّر ذاته على نطاق واسع، يجب اعتبار هوية الشركة المذكورة كادعاء مبلّغ عنه، وليس كحقيقة ثابتة.
هل نفّذ نموذج ذكاء اصطناعي فعلاً هجومًا إلكترونيًّا بشكل مستقل؟ أما الحالات الموثّقة علنًا في القطاع فقد شملت عمومًا مهاجمين بشريين يوجّهون النموذج أو يُautomationون أجزاءً من سير عملهم عبره، وليس نظامًا يتصرف باستقلالية حقيقية. أما الاتجاه الذي يثير قلق الباحثين فهو الارتفاع المستمر في درجة الأتمتة.
هل يتخذ مطورو الذكاء الاصطناعي أي إجراءات لمنع سوء استخدام النماذج؟ فإن المختبرات الكبرى تشغّل فِرَق أمن وتحليل التهديدات، وتنشر تقارير دورية عن حالات سوء الاستخدام، وتحظر الحسابات المخالفة، وتطوّر نماذجها لترفض الطلبات الضارة. وإن استمرار ظهور الحوادث يدلّ على أن هذه الضوابط ليست مثالية، لا على أنها غائبة تمامًا.
هل ينبغي على الشركات التوقف عن استخدام نماذج الذكاء الاصطناعي بسبب تقارير القرصنة؟ كلا — لكن عليها أن تتعامل مع اختيار النموذج كقرار أمني. ومن الإجراءات المتناسبة مع هذا التهديد مراجعة ضوابط الأمان التي يوفّرها المورّد، وتسجيل أنشطة واجهة البرمجة (API)، وتقييد ما يمكن للوكلاء الآليين الوصول إليه؛ أما التخلّي عن التقنية تمامًا فهو إجراء غير متناسب.
ماذا يعني عمليًّا أن يصبح نموذج ذكاء اصطناعي «قرصانًا»؟ هو تعبير مجازي يشير إلى استخدام النموذج لأداء مهام ضمن سلسلة الهجوم — مثل جمع المعلومات الاستخباراتية (reconnaissance)، أو كتابة رسائل التصيد (phishing copy)، أو إعداد شيفرة الاستغلال (exploit code)، أو تنفيذ خطوات الاختراق الآلي — وغالبًا ما يكون ذلك بتوجيه من مشغل بشري، لا بمبادرة ذاتية من النموذج.
الخلاصة النهائية
إن تقرير «جازمودو» بأن نموذج ذكاء اصطناعي تابع لشركة أخرى «يُقال إنه قرصانٌ الآن أيضًا» يفتقر إلى التفاصيل العامة، لكنه غنيٌّ بالإشارات الدالة. فمهما كانت الشركة المعنية، فإن النمط أصبح واضحًا لا لبس فيه: إن نماذج الذكاء الاصطناعي المتقدمة (frontier AI models) تشكّل أدوات جذّابة للمهاجمين، وتتعرّض ضوابط أمانها لاختبارات مستمرة، وأصبح الإفصاح عن الحوادث جزءًا لا يتجزّأ من وصف وظيفة كل مطوّر. أما بالنسبة للمستخدمين والشركات، فإن اللحظة تتطلّب اختيار نماذج مبنية على معرفة واعية، وتشديد الضوابط على أنظمة الوكلاء، لا الانسحاب منها. أما بالنسبة للقطاع ككل، فإن كل عنوان رئيسي جديد يحمل عبارة «الآن أيضًا» يرفع سقف التوقعات من المطورين لإثبات أن قدرات الكشف والشفافية تسير جنبًا إلى جنب مع التقدّم في القدرات.
المصادر: news.google.com. تم الإبلاغ في ٦ أغسطس ٢٠٢٦.
