مفتاح إيقاف الذكاء الاصطناعي في كاليفورنيا: ما الذي يطلبه أمر نيوسوم فعلاً؟
أمر نيوسوم N-9-26 لا يفرض مفتاح إيقاف فوراً، بل يطلب توصيات بحلول 16 نوفمبر. ماذا يعني ذلك لمن يبني وكلاء الذكاء الاصطناعي، وما الذي يجب فعله الآن؟
كثيراً ما يُختزل أمر تنفيذي حكومي في عنوان واحد، والعنوان هنا لافت: «زر إيقاف طوارئ» لنماذج الذكاء الاصطناعي المتقدمة. لكن من يقرأ نص الأمر التنفيذي الذي وقّعه حاكم كاليفورنيا غافين نيوسوم في 18 سبتمبر 2026 يجد صورة أهدأ وأكثر دقة: أمر دراسة يطلب توصيات خلال شهرين، لا قانوناً يفرض شيئاً على المطوّرين اليوم. ومع ذلك فالاتجاه الذي يرسمه يهمّ كل من يبني منتجات فوق نماذج الوكلاء، لأن الأفكار المطروحة اليوم هي ما سيتحول إلى متطلبات امتثال غداً.
ما الذي ينصّ عليه الأمر فعلاً؟
يرمز للأمر بـ N-9-26، ويكلّف وكالة العمليات الحكومية في الولاية، بالتشاور مع مكتب الحاكم لحالات الطوارئ، بجمع خبراء وطنيين لتقديم توصيات في أجل أقصاه 16 نوفمبر. وأعلن مكتب الحاكم في 23 سبتمبر عن تشكيل مجموعة الخبراء التي ستقود العمل.
النقاط الأساسية في الأمر:
- تقييم فكرة «مفتاح إيقاف» (Kill Switch) لنماذج الحدود (Frontier Models)، على أن يُتحقّق من فعاليته باستمرار عبر جهة تحقق مستقلة.
- دراسة إدخال أطراف مستقلة للتحقق من أطر السلامة وتقييماتها داخل شركات الذكاء الاصطناعي الكبرى.
- إعادة تعريف «حادثة السلامة الحرجة» لتشمل أحداث فقدان السيطرة.
- تسريع قانونين وقّعهما الحاكم قبل أيام: SB 813 الذي يضع إطاراً لمنظمات تحقق مستقلة تقيّم النماذج، وAB 1405 الذي ينشئ سجلاً حكومياً لمدقّقي الذكاء الاصطناعي.
الأمر لا يفرض مفتاح إيقاف الآن؛ هو يطلب من الخبراء أن يقرّروا كيف يمكن بناؤه وكيف يمكن إثبات أنه يعمل.
بين العنوان والنص: لماذا تختلف الروايات؟
بعض التغطيات الصحفية وصفت الأمر بأنه يُلزم المختبرات بتطوير مفتاح إيقاف، بينما وصفته مصادر أخرى بأنه أمر دراسة فقط. القراءة الأدق، بحسب إعلان الولاية نفسها، أنها مقترحات قيد الدراسة. هذا الفارق مهم عملياً: لا يوجد التزام قانوني جديد اليوم على أي فريق يستخدم واجهات النماذج، لكن الاتجاه التنظيمي واضح، وقد يتحول إلى تشريع بعد التوصيات.
وللسياق السياسي أثره أيضاً. ففي 2024 استخدم نيوسوم الفيتو ضد مشروع قانون كان سيُلزم مطوّري النماذج القوية بالقدرة على إيقافها بالكامل. تغيّر الموقف الآن إلى حد كبير، ومعه تغيّر ميزان النقاش في الولايات المتحدة حول من يملك قرار الإيقاف.
ماذا يعني «مفتاح إيقاف» تقنياً؟
الفكرة تبدو بسيطة لكن تطبيقها ليس كذلك. هناك على الأقل ثلاثة مستويات مختلفة:
| المستوى | المعنى | التحدي |
|---|---|---|
| إيقاف الخدمة | تعطيل الوصول إلى النموذج عبر الواجهة | سهل لكنه لا يغطي الأوزان المفتوحة أو المنسوخة |
| إيقاف الوكيل | إلغاء هوية الوكيل وصلاحياته وجلسته الجارية | يتطلب هوية قابلة للإبطال لكل وكيل |
| إيقاف سلوك | منع قدرة بعينها من العمل | يحتاج فهماً داخلياً للنموذج لا نملكه بالكامل |
لاحظ أن أقرب هذه المستويات إلى عمل المطوّر العادي هو المستوى الثاني. فالتوجه الصناعي الذي ظهر هذا الأسبوع يسير في الاتجاه نفسه: قالت غوغل إن كل وكيل من وكلاء جيميني سيحصل على هوية تشفيرية، ويعمل في بيئة معزولة، ويمكن حوكمته عبر بوابة وكلاء (Agent Gateway)، مع التنبيه إلى أن هذه القدرات لم تُتح للعموم بعد. أي أن «زر الإيقاف» عملياً يبدأ بهوية وصلاحيات قابلة للإلغاء، لا بزر درامي في غرفة تحكم.
ما الذي يجب أن يفعله فريقك الآن؟
لا حاجة للانتظار حتى تصدر التوصيات. هذه ممارسات هندسية سليمة على أي حال:
- أعطِ كل وكيل هوية مستقلة بدل مشاركة مفتاح واحد بين الوكلاء، حتى يمكن إبطال وكيل واحد دون إسقاط الباقي.
- اجعل الإيقاف مساراً مختبَراً. إن لم تجرّب إلغاء صلاحيات وكيل أثناء عمله، فلا تعرف ما الذي سيحدث لعملياته الجارية.
- سجّل الإجراءات القابلة للتدقيق. إن صار المدقّقون المستقلون واقعاً بموجب AB 1405، فسيسألون عن السجلات أولاً.
- صنّف الحوادث. حدّد داخلياً ما الذي تعدّه «حادثة حرجة»، ومنها أن يتجاوز وكيل نطاق ما كُلّف به.
- افصل الصلاحيات الحساسة (الدفع، حذف البيانات، النشر) خلف موافقة بشرية.
هل يمس هذا مطوّراً عربياً؟
مباشرة، لا. لكن كاليفورنيا تستضيف أكبر مختبرات الذكاء الاصطناعي، وما تقرّره قد يصبح معياراً تتبعه شركات التقنية في بقية العالم، كما حدث مع قوانين الخصوصية. وإن كنت تبني منتجاً يخدم عملاء في الولايات المتحدة أو تعتمد على مزوّدين مقرّهم هناك، فمن المرجح أن تصلك المتطلبات عبر عقود المزوّدين قبل أن تصلك عبر القانون.
أسئلة شائعة
هل أصبح مفتاح الإيقاف إلزامياً؟
لا. الأمر التنفيذي أمر دراسة يطلب توصيات بحلول 16 نوفمبر، وأي إلزام فعلي يحتاج إلى تشريع أو لوائح لاحقة.
هل يؤثر الأمر على المطوّرين الذين يستخدمون واجهات النماذج فقط؟
ليس قانونياً اليوم. أثره المحتمل غير مباشر، ويأتي عبر شروط المزوّدين ومتطلبات التدقيق والسجلات إن تحوّلت التوصيات إلى قواعد.
ما علاقة SB 813 وAB 1405؟
الأول يضع إطاراً لجهات تحقق مستقلة تقيّم سلامة النماذج، والثاني ينشئ سجلاً لمدقّقي الذكاء الاصطناعي. الأمر التنفيذي يسرّع تفعيلهما.
الخلاصة
أمر نيوسوم ليس زر إيقاف جاهزاً، بل خطوة أولى نحو سؤال أصعب: كيف نثبت أن إيقاف نظام ذكي ممكن فعلاً وليس مجرد وعد؟ الجواب الذي سيصل بعد 16 نوفمبر سيحدد شكل التدقيق المستقل، لكن الدرس الهندسي حاضر من الآن: هوية لكل وكيل، وصلاحيات قابلة للإلغاء، وسجلات يمكن تدقيقها. من يبنيها مبكراً لن يضطر إلى ترقيعها تحت الضغط.
المصادر: Gizmodo، مكتب حاكم كاليفورنيا، Technology.org، ExplainX
