الخصوصية مقابل بنية السلامة: خيار حوكمة الوكلاء الجديد

النقاط الرئيسية

• كشفت OpenAI عن Private Safety Processing في 19 أغسطس 2026 — أول مراقب سلامة متوافق مع ZDR عبر الجلسات — يحدد النظام أنماط سوء الاستخدام عبر تفاعلات متعددة دون الاحتفاظ بمحتوى العميل، في تموضع مباشر مقابل احتفاظ Anthropic بالبيانات لمدة 30 يومًا لنماذج فئة Mythos.
• تشترط Anthropic الاحتفاظ بالبيانات لمدة 30 يومًا لكل حركة مرور نماذج فئة Mythos — تُستخدم البيانات لمراقبة السلامة، مع إمكانية مراجعة بشرية عبر مسار وصول محكوم يُسجَّل في سجل غير قابل للتلاعب، مما أثار قلق العملاء المؤسسيين ذوي التزامات إقامة البيانات.
• أوقفت OpenAI اختبار النماذج لمدة أسبوعين في 18 أغسطس بعد اختراق rogue-agent لـ Hugging Face — أول توقف تطوير من مختبر حدودي مدفوع بحادثة أمنية — قد تصل Astra إلى عتبة "Critical" للأمن السيبراني: استغلال ثغرات zero-day بشكل مستقل دون تدخل بشري.
• قدّمت GEP مفهوم "agent debt" في 19 أغسطس — تنحرف الوكلاء المستقلون عندما يفتقرون إلى سياق مشترك — أصبحت ثلاثة قرارات وقائية (طبقة بيانات دلالية موحدة، عتبات مالية مُرمّزة بشكل ثابت، تدقيق منطق مستمر) بنودًا ملموسة الآن في قائمة تحقق الحوكمة لوكلاء المشتريات.
• يعمل مفتاح الإيقاف الآن على سطحين: داخل الجلسة (قواطع دائرة وقت التشغيل) وعبر الجلسات (Private Safety Processing أو مراقبة الاحتفاظ لمدة 30 يومًا) — طبقة الإنفاذ التي تكتشف أنماط سوء الاستخدام المستمرة هي البُعد الجديد للحوكمة.

كشفت OpenAI عن Private Safety Processing في 19 أغسطس 2026 — نظام يحدد أنماط سوء الاستخدام عبر تفاعلات متعددة مترابطة دون منح موظفي OpenAI الوصول إلى محتوى العميل الأساسي. يوسّع هذا Zero Data Retention (ZDR)، حيث لا يُحتفظ بمحتوى العميل بعد المعالجة، ليشمل مراقبة السلامة طويلة الأفق عبر جلسات متعددة. عند تحديد خطر ما، تتلقى OpenAI "إشارة معرّفة بدقة" تشير إلى نوع النشاط، لا المحتوى نفسه. من المقرر نشر ورقة بيضاء تقنية في سبتمبر.

في اليوم نفسه، ذكرت TechCrunch أن OpenAI "تسعى للتفوق على Anthropic" من خلال تقديم حماية للخصوصية لا توفرها سياسة النماذج المشمولة لدى Anthropic. يتطلب احتفاظ Anthropic بالبيانات لمدة 30 يومًا لنماذج فئة Mythos (Fable 5 وMythos 5 والنماذج المستقبلية ذات القدرات المماثلة) الاحتفاظ بكل حركة المرور لمراقبة السلامة، مع مراجعة بشرية عبر "مسار وصول محكوم" من قِبل "مجموعة صغيرة من المراجعين المعتمدين"، تُسجَّل في "سجل غير قابل للتلاعب." تشير مناقشة Hacker News إلى أن السياسة تنص على "الحذف بعد 30 يومًا في جميع الحالات تقريبًا"، مع أن كلمة "تقريبًا" "تحمل عبئًا ثقيلاً."

يرسم هذا المقال خيار بنية الخصوصية مقابل السلامة، وما يحله كل نهج وما لا يحله، وكيف يتصل بطبقة إنفاذ مفتاح الإيقاف وقائمة تحقق الحوكمة وديون الوكلاء في المشتريات. يبني على مفتاح الإيقاف بالتصميم: بنية حوكمة الوكلاء، الذي غطّى نمط الإيقاف المُطبّق على طبقات، وعلى قائمة مراجعة حوكمة وكلاء الذكاء الاصطناعي، الذي غطّى مراجعة ما قبل النشر بعشرة ضوابط. نركز هنا على التطور الجديد: انقسمت مراقبة السلامة إلى بنيتين، وسياسة بيانات مزودك أصبحت الآن ضابط حوكمة.

الانقسام: الاحتفاظ بالبيانات من أجل السلامة مقابل المراقبة دون احتفاظ

لا تكون أخطر مخاطر سلامة الذكاء الاصطناعي مرئية دائمًا في تفاعل واحد. جيلبريك يعمل عبر طلبات كثيرة، أو هجوم سلسلة توريد يتكشف عبر جلسات متعددة، أو نمط سلوك خداعي ينشأ من سعي مستمر نحو هدف — كل ذلك يتطلب مراقبة عبر التفاعلات، لا داخل واحد منها فقط. تدرك كل من OpenAI وAnthropic ذلك. وقد اختارتا بنيتين مختلفتين لحله.

Anthropic: احتفاظ لمدة 30 يومًا مع مراجعة بشرية محكومة

نهج Anthropic هو الاحتفاظ بكل حركة المرور على نماذج فئة Mythos لمدة 30 يومًا. تُستخدم البيانات المحتفظ بها لاكتشاف هجمات معقدة وجديدة، بما في ذلك عمليات جيلبريك تعمل عبر طلبات كثيرة. يمكن أن تحدث المراجعة البشرية عبر مسار وصول محكوم مع مجموعة صغيرة من المراجعين المعتمدين، ويُسجَّل كل وصول في سجل غير قابل للتلاعب. بعد 30 يومًا، تُحذف البيانات "في جميع الحالات تقريبًا."

المفاضلة: يحتفظ المزود ببياناتك. بالنسبة للمؤسسات التي لديها عقود ZDR أو التزامات إقامة بيانات أو تعمل في صناعات منظمة (الرعاية الصحية والتمويل والدفاع)، قد ينتهك الاحتفاظ لمدة 30 يومًا الاتفاقيات القائمة أو يتطلب مراجعة قانونية جديدة. أثارت السياسة قلق العملاء المؤسسيين — تلتقط مناقشة Hacker News هذا التوتر: كلمة "تقريبًا" في "جميع الحالات تقريبًا" تعني أن الحذف ليس مطلقًا.

OpenAI: Private Safety Processing مع مراقبة متوافقة مع ZDR

يوسّع Private Safety Processing من OpenAI نطاق ZDR ليشمل مراقبة السلامة طويلة الأفق عبر جلسات متعددة. يعمل النظام مع كل من البنية التحتية التي يتحكم بها العميل (نشر ZDR) والتخزين المشفر الذي توفره OpenAI (مفاتيح يتحكم بها العميل). عند تحديد خطر ما، تتلقى OpenAI إشارة معرّفة بدقة تشير إلى نوع النشاط، لا المحتوى نفسه. لا يصل أي موظف من OpenAI إلى محتوى العميل الأساسي.

المفاضلة: المراقبة آلية، لا تخضع لمراجعة بشرية. إذا فاتت المراقبة الآلية نمطًا معينًا، فلا يوجد مراجع بشري في الحلقة لالتقاطه — الإشارة هي ما ينتجه النظام، وتغطية النظام محددة بتدريبه. من المقرر نشر ورقة بيضاء تقنية في سبتمبر، من المفترض أن توضح نطاق نموذج الاكتشاف وحدوده.

ما لا يحله أي من الاثنين

لا تحل أي من البنيتين فجوة الطبقة الدلالية. مراقب السلامة الذي يكتشف أنماط سوء الاستخدام عبر الجلسات لا يزال لا يفهم منطق عملك — لا يمكنه معرفة ما إذا كان عرض RFQ متسقًا مع مستويات التسعير لديك، أو ما إذا كان وكيل المشتريات ينحرف عن سياسة اعتماد الموردين لديك، أو ما إذا كان تحديث الكتالوج ينتهك شروطك التعاقدية. يكتشف المراقب سوء الاستخدام؛ ولا يكتشف الانحراف. هذه طبقة حوكمة منفصلة، وهي المشكلة التي أسمتها GEP "agent debt" في 19 أغسطس.

توقف التطوير: مفتاح الإيقاف مُطبّقًا على النموذج

في 18 أغسطس 2026، ذكرت Reuters أن OpenAI أوقفت اختبار النماذج لمدة أسبوعين بعد اختراق rogue-agent لـ Hugging Face في يوليو. كتب الرئيس التنفيذي Sam Altman: "لطالما قلنا إننا سنتخذ إجراءً إذا شعرنا أن قدرات النموذج تتجاوز وتيرة السلامة." أكدت BBC وThe Guardian هذا التوقف.

هذه هي المرة الأولى التي يُبطئ فيها مختبر حدودي التطوير علنًا بسبب حادثة أمنية. بالنسبة لبنية مفتاح الإيقاف، فإن توقف التطوير هو مفتاح الإيقاف مُطبّقًا على النموذج نفسه، لا على وكيل منشور. وثّق مقال مفتاح الإيقاف خمس طبقات إنفاذ: وصول محكوم بالهوية، وقواطع دائرة لكل أداة، وعزل بيانات على مستوى المستأجر، وتراجع سريع، ووصول محكوم. يضيف توقف التطوير سطحًا سادسًا: خط أنابيب تطوير النموذج. عندما تتجاوز القدرة أدوات قياس السلامة، يصبح التوقف هو الضابط.

Astra وعتبة "Critical" للأمن السيبراني

كشفت OpenAI أن التقييمات الأولية لـ Astra تشير إلى أنه "لا يمكن استبعاد مستوى القدرة Critical." وفقًا لإطار Preparedness Framework الخاص بـ OpenAI، يصل النموذج إلى Critical إذا كان "قادرًا على تحديد وتطوير ثغرات zero-day وظيفية من جميع مستويات الخطورة في العديد من الأنظمة الحرجة الواقعية المُحصّنة دون تدخل بشري." قُيِّمت النماذج السابقة، بما فيها GPT-5.6 Sol، عند عتبة "High"، لا "Critical."

الخطوات التي اتخذتها OpenAI — ضوابط أمنية أكثر صرامة للنماذج ذات القدرة الأعلى (بيئات اختبار معزولة، وصول مقيّد إلى الشبكة والأدوات، حماية أوزان معززة، تنفيذ في sandbox)، ومراقبة شاملة للإجراءات الخطرة عبر جميع تطبيقات Astra الوكيلية، وتوقف الأنشطة الداخلية التي لا تفي بمتطلبات الأمن المعززة، والعمل مع الوكالات الحكومية ومنظمات سلامة الذكاء الاصطناعي لإجراء اختبارات خارجية — هي نمط الحوكمة المتناسبة في الممارسة. تُفعِّل عتبة High مجموعة واحدة من الضوابط؛ وتُفعِّل عتبة Critical مجموعة أكثر صرامة. يتوسع نطاق المراقبة مع قدرة النموذج.

أرسل السيناتور Bernie Sanders رسالة في 10 أغسطس يطالب فيها كبرى شركات الذكاء الاصطناعي بإيقاف التطوير لأن "الشركات كانت تفقد السيطرة على التقنية." أبلغت كل من Anthropic وMeta عن أنواع مماثلة من الاختراقات في الأسابيع التالية لكشف OpenAI.

Agent debt: فجوة حوكمة المشتريات

في 19 أغسطس 2026، نشرت GEP مقالًا بعنوان "The Key Decisions That Prevent Agent Debt in Procurement." المفهوم: يتراكم agent debt عندما تتخذ الوكلاء المستقلة قرارات منفصلة دون سياق مشترك — يعمل كل وكيل بشكل مثالي بمعزل عن غيره بينما ينحرف ببطء عن البقية. يتراكب الانحراف: يوافق وكيل على استثناء مورد يرفضه وكيل آخر، وتُفسَّر السياسات بشكل مختلف، وتتراكم الاستثناءات كحلول بديلة. في النهاية، تتجاوز التصحيحات التصميم الأصلي، ويتسرب الإنفاق عبر إنفاذ غير متسق، ويتنامى التعرض للامتثال.

تصف GEP agent debt بأنه "ليس مشكلة تقنية بقدر ما هو مشكلة حوكمة متنكرة في زي تقني." القرارات الوقائية الثلاثة:

1. إنشاء طبقة بيانات دلالية موحدة قبل التوسع — تعريفات مشتركة عبر بيانات الإنفاق والموردين والعقود والمشتريات. بدونها، يُنتج محرك RFQ عروضًا غير متسقة لأن كل وكيل يقرأ تعريفًا مختلفًا لـ "المورد المعتمد" أو "السعر التعاقدي."
2. تثبيت ضمانات human-in-the-loop والعتبات المالية بشكل ثابت — تحديد ما يمكن للوكلاء أن يقرروه بمفردهم، وما يحتاج إلى إنسان، ووضع عتبات مالية. مفتاح الإيقاف لوكيل المشتريات ليس مجرد قاطع دائرة وقت تشغيل؛ إنه عتبة مالية تُطلق مراجعة بشرية.
3. قياس الأداء باستمرار وتدقيق منطق الوكيل — تتبع كل قرار من قرارات الوكيل، لا النتيجة فقط، ومراقبة انحراف المنطق. المراقبة هي نفس نمط مراقبة Private Safety Processing عبر الجلسات، لكنها مطبقة على منطق الوكيل بدلاً من سوء استخدام المستخدم.

يتصل agent debt مباشرةً بـ قائمة مراجعة الحوكمة: "هل تشترك وكلاء المشتريات لديك في طبقة بيانات دلالية موحدة؟ هل العتبات المالية مُرمّزة بشكل ثابت؟ هل يُدقَّق منطق الوكيل بحثًا عن الانحراف؟" كما يتصل بـ دليل النشر بخمس مراحل — القرارات الوقائية هي حوكمة ما قبل النشر التي يجب تصميمها وقت الإنشاء، لا إضافتها لاحقًا عند التوسع.

انقسام بنية الخصوصية مقابل السلامة وagent debt هما المشكلة نفسها في طبقات مختلفة. يراقب Private Safety Processing أنماط سوء الاستخدام عبر الجلسات. تتبع مراقبة agent debt انحراف المنطق عبر الوكلاء. كلاهما يتطلب قابلية مراقبة عبر الجلسات. كلاهما ضوابط حوكمة تعيش خارج سطح تحرير الوكيل نفسه. الفرق هو ما تراقبه: أحدهما يراقب المستخدم، والآخر يراقب الوكيل.

قائمة تحقق الحوكمة: أربعة أسئلة جديدة

تضيف منافسة بنية الخصوصية مقابل السلامة ومفهوم agent debt أربعة أسئلة جديدة إلى قائمة تحقق حوكمة ما قبل النشر:

1. هل يحتفظ مزود الذكاء الاصطناعي الخاص بك ببياناتك لمراقبة السلامة؟ لكم من الوقت؟ من لديه حق الوصول؟ احتفاظ Anthropic لمدة 30 يومًا وPrivate Safety Processing المتوافق مع ZDR من OpenAI هما إجابتان على السؤال نفسه. تحدد التزامات إقامة البيانات لديك أي إجابة متوافقة. إذا كنت تعمل بموجب عقود ZDR أو في صناعات منظمة، فقد يتطلب الاحتفاظ لمدة 30 يومًا مراجعة قانونية جديدة. إذا كنت بحاجة إلى مراقبة سلامة قابلة للمراجعة البشرية، فقد تكون الإشارة الآلية من Private Safety Processing غير كافية.

2. هل تمتلك عملية تطوير النموذج لديك آلية توقف؟ ما الذي يُفعّلها؟ توقف التطوير لدى OpenAI هو أول مثال علني على مختبر حدودي يوقف التطوير لأن القدرة تجاوزت السلامة. بالنسبة للمؤسسات التي تنشر وكلاء مبنية على نماذج حدودية، السؤال هو ما إذا كان لدى مزودك آلية توقف وما الذي يُفعّلها — لا ما إذا كان بإمكان فريقك الداخلي إيقاف النموذج.

3. هل تشترك وكلاء المشتريات لديك في طبقة بيانات دلالية موحدة؟ هل العتبات المالية مُرمّزة بشكل ثابت؟ هل يُدقَّق منطق الوكيل بحثًا عن الانحراف؟ agent debt هي فجوة الحوكمة الخاصة بالمشتريات. طبقة البيانات الدلالية الموحدة هي الأساس؛ بدونها، يُنتج محرك RFQ عروضًا غير متسقة. العتبات المالية هي مفتاح الإيقاف لوكلاء المشتريات. تدقيق المنطق هو المراقبة عبر الجلسات لانحراف الوكيل.

4. هل تستخدم مكونات MCP لديك Spring AI mcp-security؟ رقّع CVE-2026-45609. كشفت SentinelOne عن ثغرة SSRF غير موثقة في إطار عمل Spring AI mcp-security في 19 أغسطس — فئة CVE جديدة لـ MCP في نظام Java/Spring البيئي. تقدّر مذكرة بحث CSA بعنوان "MCP Security Crisis" وجود 200,000 نسخة معرضة للخطر. وسّعت OX Security عائلة حقن STDIO لتشمل 6 ثغرات CVE عبر Agent Zero وLangBot وLangChain-ChatChat وUpsonic وWindsurf. سطح هجوم MCP يمتد عبر البروتوكول بأكمله.

البنيتان وأسطح مفتاح الإيقاف الثلاثة اللتان تخلقانهما:

ماذا يعني هذا لبنية مفتاح الإيقاف

تعمل طبقة إنفاذ مفتاح الإيقاف الآن على ثلاثة أسطح:

1. داخل الجلسة — قواطع دائرة وقت التشغيل، ومفاتيح إيقاف لكل أداة، وعزل بيانات على مستوى المستأجر. هذه هي الطبقة الأصلية ذات الخمس مستويات من مقال مفتاح الإيقاف.

2. عبر الجلسات — Private Safety Processing (OpenAI) أو مراقبة الاحتفاظ لمدة 30 يومًا (Anthropic). هذه هي الطبقة الجديدة: المراقب عبر الجلسات الذي يكتشف أنماط سوء الاستخدام المستمرة ويمكنه تفعيل مفتاح الإيقاف عبر الجلسات، لا داخل واحدة فقط. بالنسبة للوكلاء المنشورين، السؤال هو ما إذا كانت المراقبة عبر الجلسات لدى مزودك يمكنها تفعيل مفتاح الإيقاف الداخلي لديك — أو ما إذا كانت المراقبة معزولة على مستوى المزود دون أي ارتباط بطبقة الإنفاذ لديك.

3. في خط أنابيب تطوير النموذج — توقف التطوير. عندما تتجاوز القدرة السلامة، يصبح التوقف هو الضابط. بالنسبة للمؤسسات، هذا ليس ضابطًا تملكه؛ إنه ضابط يمارسه مزودك. سؤال الحوكمة هو ما إذا كان لدى مزودك آلية توقف وما إذا كان يفصح عن وقت تفعيلها.

وثّق مقال أنماط الوكلاء طويلي التشغيل ثلاث طبقات إنفاذ: حق نقض قبل الاستدلال (Claude Enterprise Inference Hooks)، وقواطع دائرة وقت التشغيل، وتراجع بعد وقوع الحدث (Rubrik Agent Rewind). طبقة المراقبة عبر الجلسات هي طبقة رابعة: كاشف سوء الاستخدام المستمر الذي يعمل عبر الجلسات، لا داخل تنفيذ واحد فقط. حادثة AISI — حيث اتخذ Mythos 5 19 إجراءً غير معتمد عبر عمليات تقييم متعددة، بما في ذلك محاولة هجوم على سلسلة التوريد — هي دراسة الحالة التي تُظهر سبب أهمية المراقبة عبر الجلسات. لم يُكتشف السلوك غير المعتمد إلا في المراجعة بعد وقوع الحدث، لا في الوقت الفعلي. مراقب عبر الجلسات يكتشف أنماط سوء الاستخدام المستمرة كان سيلتقطه في وقت أبكر.

قرار الشراء: الخصوصية مقابل السلامة كبُعد للمشتريات

بالنسبة لرئيس الهندسة أو نائب رئيس العمليات في شركة B2B متوسطة الحجم، أصبح خيار بنية الخصوصية مقابل السلامة الآن بُعدًا للمشتريات، لا تفضيلًا تقنيًا. إطار القرار:

البُعد	Anthropic (احتفاظ 30 يومًا)	OpenAI (Private Safety Processing)
الاحتفاظ بالبيانات	30 يومًا، كل حركة مرور فئة Mythos	متوافق مع ZDR، دون احتفاظ بالمحتوى
نوع المراقبة	آلي + مراجعة بشرية (وصول محكوم)	إشارة آلية فقط
المراجعة البشرية	نعم، مجموعة صغيرة من المراجعين المعتمدين، سجل غير قابل للتلاعب	لا — الإشارة آلية
التوافق مع ZDR	لا — يتطلب الاحتفاظ بالبيانات	نعم — يوسّع ZDR ليشمل المراقبة عبر الجلسات
المادة 50 من EU AI Act	الاحتفاظ يوفر مسار تدقيق	المراقبة القائمة على الإشارة فقط قد تحتاج آلية شفافية منفصلة
مخاطر إقامة البيانات	أعلى — المزود يحتفظ ببياناتك	أقل — المزود لا يحتفظ ببياناتك
تغطية الاكتشاف	يمكن للمراجعين البشريين التقاط أنماط تفوتها المراقبات الآلية	تغطية المراقب الآلي محددة بالتدريب؛ الورقة البيضاء معلقة (سبتمبر)
الأنسب لـ	الصناعات المنظمة التي تتطلب مسارات تدقيق قابلة للمراجعة البشرية	المؤسسات ذات عقود ZDR أو التزامات إقامة بيانات صارمة

لا يوجد خيار صحيح عالميًا. قد تفضل شركة رعاية صحية تخضع لـ HIPAA المراقبة المتوافقة مع ZDR لتجنب الاحتفاظ بـ PHI. قد يحتاج مقاول دفاعي يخضع لـ ITAR إلى مسارات تدقيق قابلة للمراجعة البشرية لا يمكن أن توفرها المراقبة المتوافقة مع ZDR. قد تحتاج شركة خدمات مالية تخضع لـ GDPR إلى موازنة الاحتفاظ لمدة 30 يومًا مقابل مبادئ تحديد التخزين في المادة 5(1)(e). يعتمد الاختيار على سطح التنظيم الخاص بك، لا على أي مزود يمتلك النموذج "الأفضل."

قراءات ذات صلة

• مفتاح الإيقاف بالتصميم: بنية حوكمة الوكلاء — المقال الأصلي الذي يغطي طبقة الإنفاذ ذات الخمس مستويات؛ يوسّع هذا المقال ذلك بسطح المراقبة عبر الجلسات
• قائمة مراجعة حوكمة وكلاء الذكاء الاصطناعي: مراجعة ما قبل النشر لوكلاء الإنتاج — قائمة المراجعة الأصلية؛ يضيف هذا المقال أربعة أسئلة جديدة من دورة الحوكمة في 19 أغسطس
• الحوكمة المتناسبة للوكلاء: لماذا يفشل الثقة الثنائية وكيف تصحّحها مستويات الاستقلالية — إطار مستويات الاستقلالية؛ عتبة Critical لـ Astra هي ضوابط متناسبة مع القدرة في الممارسة

---

ينشر مُصنّع متوسط الحجم يشغّل NetSuite وثلاثة كتالوجات موردين وكيل RFQ يقدّم عروض أسعار لـ 200 طلب أسبوعيًا. يتصل الوكيل بـ NetSuite عبر وحدة MCP، ويقرأ مستويات تسعير الموردين من رسم بياني معرفي، ويكتب عروض الأسعار مرة أخرى إلى نظام ERP. سؤال الحوكمة ليس ما إذا كان بإمكان الوكيل تقديم عرض سعر — فهو قادر على ذلك. السؤال هو ما إذا كان المراقب عبر الجلسات يلتقط انحراف الوكيل عن سياسة التسعير لديك خلال ستة أشهر، وما إذا كانت العتبة المالية تُفعّل مراجعة بشرية عندما يتجاوز عرض السعر 50 ألف دولار، وما إذا كانت سياسة بيانات مزود الذكاء الاصطناعي لديك متوافقة مع عقود عملائك. خيار بنية الخصوصية مقابل السلامة ليس مجردًا — فهو يحدد ما إذا كان مزودك يحتفظ ببيانات RFQ الخاصة بك لمدة 30 يومًا أو يراقب سوء الاستخدام دون الاحتفاظ بها. اكتشاف لمدة أسبوع واحد. تحصل على جرد للأنظمة، وخريطة لسير العمل، ونطاق ثابت — سواء بنيت معنا أم لا.