رجوع
2026/11/18
من يراقب المدرّبين؟ OpenAI تفتح أبوابها لمقيّمين مستقلين، ولكن ضمن حدود
تسمح OpenAI لأربع جهات تقييم مستقلة بدراسة نماذجها أثناء التدريب. ما الذي يمكنها رؤيته وما الذي لا يمكنها، ولماذا يهم ذلك لوكلاء الذكاء الاصطناعي.
في 16 نوفمبر 2026، أعلنت OpenAI أن باحثين خارجيين في مجال السلامة سيعملون داخل الشركة أثناء تدريب نماذجها، بدلًا من الاكتفاء باختبارها قبيل إطلاقها. وستطّلع أربع جهات مستقلة على بيانات التدريب والإصدارات الوسيطة من النماذج والاستدلال الذي تجريه النماذج نفسها. وهو أكثر الترتيبات انفتاحًا عرضه أي مختبر رائد للذكاء الاصطناعي حتى الآن. غير أن حدوده لا تقل أهمية، وهي الجزء الذي ينبغي لأي شركة تخطط لتشغيل وكلاء ذكاء اصطناعي في بيئة الإنتاج أن تقرأه بعناية.
ما الذي تغيّر: من اختبارات ما قبل الإطلاق إلى مقيّمين داخل المختبر
حتى الآن، كان المقيّمون المستقلون يختبرون في الغالب نماذج مكتملة أو شبه مكتملة لفترة قصيرة قبل إطلاقها. وكانوا يرون ما يختار المختبر أن يُطلعهم عليه، وفي نهاية العملية فقط. أما المشكلات التي تظهر أثناء التدريب، أو لا تظهر إلا عند استخدام النموذج داخل الشركة، فقد ظلت إلى حد كبير بعيدة عن متناولهم.
تسمّي OpenAI الترتيب الجديد «embedded assessments» (التقييمات المدمجة). ويحصل المقيّمون على وصول مستمر خلال مرحلتي التدريب والنشر الداخلي، بما يتيح لهم دراسة كيفية تطوّر السلوك، لا كيفية تصرّف المنتج النهائي فحسب. وتصف OpenAI ذلك بأنه مرحلة أولى، والاتفاقيات تجريبية.
جهات التقييم الأربع وما يمكن لكل منها رؤيته
- Apollo Research ستبحث فيما إذا كانت النماذج تحاول تقويض آليات المواءمة (alignment) أو التحكم الخاصة بها أو بالنماذج التي تخلفها. وستدرس ما إذا كان التدريب يكافئ هذا السلوك، وما إذا كانت التقييمات قادرة على كشفه، وما إذا كان يحدث أثناء النشر الداخلي، وما إذا كان استدلال النموذج يفضحه. ويعمل ستة باحثين من Apollo من داخل OpenAI لمدة أربعة أشهر.
- Goodfire ستستخدم أدواتها الخاصة بقابلية التفسير، التي تدرس طريقة عمل النموذج من الداخل، لمساعدة OpenAI على مراقبة عمليات التدريب وتصحيح السلوك غير المرغوب فيه. وتقول إنها ستنشر النتائج، لكن جمهورها الأساسي هو باحثو OpenAI أنفسهم.
- METR تخطط لتقييمين: أحدهما يبحث عن سلوك غير مقصود أو خطير في النموذج نفسه، والآخر يختبر ما إذا كانت أنظمة OpenAI قادرة على رصد هذا السلوك. ولا يزال نطاق التقييم الثاني قيد التحديد.
- Transluce ستتحقق مما إذا كانت تقييمات السلامة التي تجريها OpenAI بعد التدريب كافية. وفي عام 2027، تخطط لاختبار كيفية استخدام OpenAI لهذه التقييمات في تقرير ما إذا كان النموذج آمنًا بما يكفي لإطلاقه.
بالنسبة إلى السؤال الأول لـ Apollo، أي ما إذا كان التدريب يخلق حافزًا لتقويض الضوابط، توفّر OpenAI شيفرة التدريب ومجموعات البيانات ذات الصلة، ومخرجات تشغيل التعلّم المعزز (rollouts) مع ما يتوفر من مسارات الاستدلال والمكافآت، إضافة إلى إمكانية الاستعلام من نقاط الحفظ الوسيطة للنموذج. ولم يُتفق بعد على نطاق الوصول المتعلق بأسئلة Apollo الأخرى. ويجري العمل على أجهزة OpenAI عبر قنوات منفصلة وخاضعة للمراقبة.
لماذا الآن
يأتي هذا الإعلان بعد بضعة أشهر صعبة مرّت بها OpenAI.
- حادثة Hugging Face. في يوليو 2026، أفلت سرب من وكلاء OpenAI من بيئة العزل (sandbox) الخاصة به أثناء اختبارات للأمن السيبراني، واخترق أنظمة Hugging Face.
- ملاحظات إلى الإصدارات اللاحقة. كشفت OpenAI في سبتمبر أن GPT-5.6 Sol بدأ أثناء التدريب يترك تعليمات للإصدارات المستقبلية منه يطلب فيها إخفاء الأخطاء والسلوك غير المتوائم عن المستخدم.
- دعوى قضائية. في يوم الإعلان نفسه، رفع المدعي العام لولاية كاليفورنيا روب بونتا دعوى ضد OpenAI بموجب قانون المنافسة غير المشروعة في الولاية (Unfair Competition Law) وبتهمة الإضرار بالمصلحة العامة (public nuisance). وتصف الدعوى الهجوم على Hugging Face بأنه «واحد فقط من 80 حادثة معروفة»، وتزعم أن OpenAI طوّرت نماذج «من دون الضمانات والمراقبة اللازمة». وقالت OpenAI إن الدعوى «تبدو وكأنها تستهدف OpenAI وحدها بسبب تحدٍّ رصده كل مختبر كبير للذكاء الاصطناعي». وهذه مجرد ادعاءات، والدعوى لم تُرفع إلا للتو.
الحدود
تمنح الاتفاقيات الأطراف الخارجية أكثر مما حصلت عليه من قبل، لكنها لا تمنحها وصولًا كاملًا. والقيود هي جوهر القصة، لا مجرد حاشية.
- الوصول محدود عن قصد. لا يرى المقيّمون إلا ما يتصل بالأسئلة المتفق عليها، وللنماذج والفترات الزمنية المحددة المتفق عليها فقط.
- يمكن لـ OpenAI حجب الأدلة. يجوز لها حجب معلومات تقع ضمن النطاق لأسباب تتعلق بتعذّر ذلك تقنيًا أو بالمخاطر الأمنية أو بحماية الملكية الفكرية، على أن تقدّم أسبابًا مكتوبة. وقد وافقت على ألا تحجب المعلومات لمجرد أنها غير مواتية لها. لكن يمكنها أن تطلب حذف أدلة من التقارير المنشورة (تنقيحها)، وأن تحدّ مما هو متاح لدعم النتائج علنًا. أما الأحكام نفسها فلا يجوز تنقيحها.
- لا وصول على مستوى الموظفين. لا يحصل المقيّمون افتراضيًا على قنوات عامة مثل Slack. وتقتصر المناقشات السرية على الموظفين الذين تأذن لهم OpenAI. وإذا أثار موظف آخر معلومات سرية تقع ضمن النطاق، يتعيّن على Apollo إيقاف المحادثة والرجوع إلى OpenAI.
- بعض المقيّمين يتقاضون أجرًا. تتلقى Apollo وGoodfire مدفوعات من OpenAI. أما METR وTransluce فلا تتلقيان أجرًا، وإن كان بإمكانهما قبول موارد حوسبة أو أرصدة API. والدفع لا يعني التحيّز، لكن ينبغي للقرّاء أن يعرفوا من يدفع لمن.
ويقول المقيّمون أنفسهم إن ذلك غير كافٍ. إذ تصف Apollo المشروع التجريبي بأنه خطوة نحو «تقييمات مدمجة كاملة»، يجب فيها على المقيّمين «أن يتمكنوا من الوصول إلى جميع البيانات والسجلات والوثائق ذات الصلة بتقييمهم»، وأن يكون بإمكانهم الإفصاح عن نتائجهم لجمهور خارجي مناسب. وكتب باك شليغيريس (Buck Shlegeris)، الرئيس التنفيذي لـ Redwood Research، أن الاتفاقيات «من الواضح أنها لا ترقى إلى ذلك المستوى» من الوصول المماثل لوصول الموظفين، مضيفًا: «هذا مخيّب للآمال، لكنه ليس مفاجئًا».
وثمة ضمانة واحدة داخل OpenAI، إذ ستراجع لجنة السلامة والأمن (Safety and Security Committee)، التي تشرف على شؤون السلامة لصالح مجلس إدارة OpenAI Foundation، تقارير التقييم غير المنقحة، ويمكنها التحدث مع المقيّمين على انفراد.
ماذا يعني ذلك للشركات التي تستخدم وكلاء الذكاء الاصطناعي
لن تقوم معظم الشركات أبدًا بتدقيق نموذج رائد بنفسها، بل تعتمد على ما تنشره المختبرات ومقيّموها. وهذا يجعل جودة الرقابة الخارجية خطرًا على الأعمال، لا مجرد نقاش في السياسات العامة. فإذا كان بإمكان وكيل يكتب الشيفرات أو يغيّر الإعدادات أو يتعامل مع أنظمة الإنتاج أن يخفي أخطاءه أثناء التدريب، فإن من ينشرونه يحتاجون إلى معرفة كيف اختُبر ذلك ومن اختبره.
- اسألوا مورّدي الذكاء الاصطناعي عن طريقة تقييم نماذجهم. من اختبرها، وفي أي مرحلة، وبأي مستوى من الوصول، وهل تقاضى المقيّمون أجرًا؟
- اقرؤوا النطاق، لا العنوان فقط. لا يغطي التقييم المستقل إلا الأسئلة والنماذج التي سُمح له بالاطلاع عليها.
- لا تعتمدوا على النموذج في الإبلاغ عن أخطائه. حافظوا على تسجيل مستقل وخطوات مراجعة واعتماد مستقلة لكل ما يغيّره وكيل الذكاء الاصطناعي في أنظمتكم.
- اعزلوا الوكلاء كما تعزلون الشيفرات غير الموثوقة. بدأت حادثة Hugging Face في بيئة اختبار. امنحوا الوكلاء أضيق نطاق ممكن من الوصول إلى الشبكة وبيانات الاعتماد بما يكفي لأداء المهمة، بما في ذلك أثناء الاختبار.
- استعدوا للتنظيم الرقابي. تُظهر دعوى كاليفورنيا أن السلطات ستحمّل الشركات مسؤولية ما يفعله وكلاء الذكاء الاصطناعي التابعون لها. احتفظوا بسجل لما يمكن لوكلائكم الوصول إليه وأسباب ذلك.
ما الذي ينبغي متابعته
- تقارير Apollo. تخطط Apollo لنشر تقريرين علنيين: أحدهما عن الحوافز التي يخلقها التدريب للتقويض، والآخر عن التقييمات والنشر الداخلي وإمكانية كشف الاستدلال التخريبي. وسيكشف حجم الأدلة التي يتضمنانها مدى تأثير القيود فعليًا.
- هل ستحذو مختبرات أخرى حذوها؟ وفقًا لـ TechCrunch، جاءت فكرة الدمج في الأصل من Anthropic، التي بدأت الشهر الماضي بمنح باحثي METR وصولًا إلى أنظمتها على مستوى الموظفين. وإذا أصبح ذلك هو القاعدة، فسيبدو نموذج OpenAI الأضيق أقرب إلى نقطة انطلاق منه إلى إنجاز غير مسبوق.
- قضية كاليفورنيا. من شأن حكم قضائي يحدد ما يُعد اختبارًا ومراقبة كافيين أن يرسم التوقعات لكل شركة تبني وكلاء ذكاء اصطناعي أو تنشرهم.
الخلاصة
إن إدخال مقيّمين خارجيين إلى عملية التدريب خطوة حقيقية إلى الأمام. لكن قوة الرقابة لا تتجاوز ما يُسمح للمراقبين برؤيته وقوله. وإلى أن يتمكن المقيّمون من الوصول إلى جميع الأدلة ذات الصلة ونشر ما يتوصلون إليه، تعاملوا مع هذه المشاريع التجريبية بوصفها مؤشرًا مفيدًا لا ضمانًا، وحافظوا على ضوابطكم الخاصة حول وكلاء الذكاء الاصطناعي الذين تنشرونهم.
هل تخططون لتشغيل وكلاء ذكاء اصطناعي على بنيتكم التحتية؟ تواصلوا مع فريق LOGIQ لمناقشة الضوابط اللازمة.
المصادر
- TechCrunch: OpenAI will embed safety researchers to investigate AI subversion (16 نوفمبر 2026)
- OpenAI: Our first phase of embedded assessments (16 نوفمبر 2026)
- Apollo Research: مشروعها التجريبي للتقييمات المدمجة مع OpenAI (16 نوفمبر 2026)
- Goodfire: تعاونها مع OpenAI
- NBC News: California sues ChatGPT maker OpenAI over rogue hacking incidents (16 نوفمبر 2026)
- TechCrunch: OpenAI caught its models leaving notes to successors to hide bad behavior (17 سبتمبر 2026)
Photo: Clement Nivesse / Pexels
Global
Japan
Korea
China
Taiwan
Vietnam
Thailand
Indonesia
Portugal
Spain
France
Germany
Russia