هل شبكات الذكاء الاصطناعي «نظيفة» أصلاً؟ جدل Goodfire حول فهم العصبونات

منذ سنوات يحاول باحثو قابلية التفسير الإجابة عن سؤال يبدو بسيطاً: ماذا يفعل كل عصبون داخل النموذج؟ الجواب الشائع كان محبطاً، فالعصبون الواحد يبدو أحياناً كأنه يستجيب لأشياء لا رابط بينها، كأن يتفاعل مع صور القطط وصور السيارات معاً. هذه الظاهرة تُعرف باسم تعدّد المعاني، وقد بُنيت عليها أدوات وأبحاث كاملة هدفها فك هذا التشابك. في الخامس عشر من أكتوبر 2026 نشر نيك كاماراتا من شركة Goodfire مقالاً بعنوان «الشبكات العصبية نظيفة أصلاً» يقترح العكس: ربما كان العصبون يحمل مفهوماً متماسكاً أعلى مستوى مما ظنّه الباحثون، وربما كانت الفوضى الظاهرة سببها شيء آخر. في هذا المقال نشرح الفكرة وأدلتها واعتراضات المتشككين، وما قد يعنيه ذلك لمن يتابع أمان النماذج.

ما المشكلة التي تحاول قابلية التفسير حلّها؟

قابلية التفسير مجال يسعى إلى فهم ما يحدث داخل النموذج، لا الاكتفاء بمراقبة مدخلاته ومخرجاته. الدافع عملي بقدر ما هو علمي: إذا أردت أن تثق بنظام يتخذ قرارات مهمة، فمن المفيد أن تعرف كيف يصل إليها، وأن تكتشف إن كان يتصرف لأسباب خاطئة.

العقبة التقليدية كانت أن وحدات النموذج الأساسية، أي العصبونات، لا تبدو مرتبة. فإذا استجاب عصبون لمفهومين غير مترابطين، يصعب أن نقول إنه «يمثّل» شيئاً محدداً. لذلك اتجه كثير من الباحثين إلى بناء تمثيلات بديلة تفكّك النشاط الداخلي إلى مكوّنات أوضح، على افتراض أن العصبونات الخام مختلطة بطبيعتها.

ما الذي يقترحه مقال Goodfire؟

يرى كاماراتا أن ما سُمّي تعدّد المعاني قد يكون في كثير من الحالات «تعميماً تكرارياً». بمعنى أن العصبون يلتقط تجريداً مشتركاً يمتد عبر مدخلات تبدو مختلفة جداً لأعيننا. المثال الذي يتكرر في التغطيات هو عصبون القطة والسيارة: يقرأه كاماراتا على أنه يتعرف على نمط مشترك على شكل حرف V، في حين تصفه تغطيات أخرى بأنه يميّز الأشكال المدببة عن المستديرة. المعنى أن ما بدا لنا خلطاً قد يكون مفهوماً واحداً لم نصل إلى وصفه الصحيح بعد.

ويضيف المقال أن بعض الاختلاط الذي رُصد في النماذج المبكرة نشأ من أسباب عادية وقابلة للإصلاح في معظمها، وليس من التراكب الذي افترضته النظريات السائدة. أي أن المشكلة قد تكون في طريقة بناء النماذج وتدريبها وقياسها أكثر منها في طبيعة الشبكات نفسها.

ما الأدلة التي يعرضها؟

بحسب ما نُقل عن المقال، تتلخص الأدلة في ثلاث نقاط:

• تعديلات معمارية: في نسخة معدّلة من نموذج InceptionV1، صارت 99% إلى 100% من العصبونات في المرحلة الحسابية الأخيرة قابلة للتفسير بسهولة، دون تغيير حجم النموذج أو بيانات تدريبه.
• فحص أولي لنموذج لغوي: في تدقيق أولي لنموذج Qwen3-32B، كان لنحو 90% من أقطاب العصبونات وظيفة رئيسية واحدة، ولنحو 7% وظيفتان متقاربتان، بينما بقي 2% إلى 4% دون تفسير.
• تجارب سببية: أجرى المقال تدخلات على نماذج لغوية، واستخدم محققون آليون أوصاف العصبونات للتنبؤ بردود فعلها على مدخلات جديدة.

المحور	الرأي التقليدي	طرح Goodfire
سبب الفوضى	تراكب بنيوي في الشبكة	أسباب عادية قابلة للإصلاح
معنى العصبون المتعدد	خلط مفاهيم غير مترابطة	تجريد مشترك لم نصفه جيداً
الحل المقترح	بناء تمثيلات بديلة	تحسين البنية وقراءة العصبونات مباشرة

الادعاء الجريء ليس أن النماذج بسيطة، بل أن صعوبة فهمها قد تكون جزئياً صعوبة في أدواتنا وأسئلتنا.

الاعتراضات: لماذا يتحفّظ الباحثون؟

من المهم قراءة هذا الطرح بحذر، لأسباب أبرزها:

1. لم يُحكَّم بعد: المقال لم يخضع لمراجعة الأقران ولم يُختبر تجريبياً على نطاق واسع من جهات مستقلة.
2. تحفّظ من داخل المجال: وصف نيل ناندا من Google DeepMind الفكرة بأنها مثيرة للاهتمام، لكنه قال إنها لا تغيّر رأيه كثيراً، وما زال يعدّ التراكب ظاهرة حقيقية.
3. الوضوح ليس بساطة الوصف: ردّ على منصة LessWrong يرى أن العصبون قد يحمل تجريداً واحداً متماسكاً ومع ذلك يصعب وصفه بكلمات بشرية.
4. ردود مضادة: تتداول على منصة X مادة بعنوان «الشبكات العصبية ليست نظيفة أصلاً»، ما يدل على أن النقاش لم يُحسم.

وتجدر الإشارة إلى أن بعض النتائج، مثل نسبة 90% في نموذج Qwen3-32B، وصفتها التغطيات بأنها تدقيق أولي، فلا ينبغي التعامل معها كحكم نهائي على النماذج اللغوية الكبيرة عموماً.

لماذا يهمّ هذا الجدل خارج المختبرات؟

أمان النماذج

إذا كانت العصبونات أوضح مما ظُنّ، فقد يصبح من الأسهل مراقبة ما يحدث داخل النموذج ورصد سلوكيات غير مرغوبة قبل ظهورها في المخرجات. أما إذا ثبت أن التراكب حقيقي وواسع، فسنحتاج إلى أدوات تفسير أكثر تعقيداً. في الحالتين، تتحسن قدرتنا على المحاسبة كلما فهمنا أكثر.

تصميم النماذج

النتيجة المعمارية في InceptionV1 تلمّح إلى أن قرارات التصميم قد تجعل النموذج أسهل في التفسير من البداية. هذا يفتح باباً لسؤال هندسي: هل نصمم نماذج قابلة للقراءة منذ التدريب بدل محاولة تفسيرها بعد وقوع الأمر؟

ثقة المؤسسات

الجهات التنظيمية والشركات في المجالات الحساسة تطلب غالباً تفسيراً لقرارات النظام. تقدّم أي طريقة موثوقة لقراءة الداخل يعني خيارات أوسع لاعتماد النماذج في الطب والمال والقانون، بشرط أن تكون الطريقة مثبتة فعلاً.

كيف يتابع المطوّر هذا النقاش دون مبالغة؟

لست بحاجة إلى أن تكون باحثاً لتستفيد. بعض النصائح العملية:

• تعامل مع المقال كفرضية قوية تنتظر التحقق، لا كحقيقة مثبتة.
• ابحث عن ردود مستقلة وتجارب مكررة قبل البناء على النتائج.
• لا تخلط بين «عصبون قابل للتفسير» و«نموذج آمن»؛ الأول خطوة نحو الثاني وليس بديلاً عنه.
• إذا كنت تبني منتجاً يعتمد على نموذج، فاستمر في الاختبارات السلوكية والتقييم الخارجي، فهي لا تُغنى عنها أبحاث التفسير حالياً.
• تابع المصادر الأولية مثل المقال الأصلي والردود عليه، لا الملخصات وحدها.

أسئلة شائعة

ما معنى تعدّد المعاني في الشبكات العصبية؟

هو أن يستجيب عصبون واحد لمفاهيم تبدو غير مترابطة، مما يصعّب القول إنه يمثّل شيئاً واحداً. يطرح مقال Goodfire أن بعض هذه الحالات قد تخفي تجريداً مشتركاً لم نلاحظه.

هل أثبت المقال أن كل العصبونات قابلة للتفسير؟

لا. النتائج التي عُرضت تخص نماذج وتجارب محددة، وجزء منها أولي، وما زالت قيد النقاش وبانتظار تحقق مستقل. حتى في التدقيق الأولي بقي جزء صغير من العصبونات دون تفسير.

هل يغيّر هذا طريقة استخدامي للنماذج اليوم؟

ليس مباشرة. هو نقاش بحثي حول فهم النماذج من الداخل، ولا يغيّر أدوات التطوير اليومية، لكنه قد يؤثر مستقبلاً في طريقة تصميم النماذج وتقييم أمانها.

الخلاصة

يقترح مقال Goodfire أن فوضى العصبونات ربما كانت وهماً جزئياً، وأن كثيراً منها يحمل وظائف متماسكة، مستنداً إلى نتائج معمارية وتدقيق أولي لنموذج Qwen3-32B وتجارب سببية. في المقابل لم يُحكَّم الطرح بعد، وتحفّظ عليه باحثون مثل نيل ناندا، وتتداول ردود مضادة. الموقف المتزن أن نتابع الجدل بفضول ونقد، وأن نواصل الاعتماد على الاختبار والتقييم المستقل لأي نموذج نستخدمه، إلى أن تتضح الصورة.

المصادر: The Neuron، LessWrong، Dataist