llmspeed: هل تستطيع «الشعور» بسرعة النموذج المحلي قبل شراء العتاد؟
llmspeed أداة مفتوحة المصدر تقدّر سرعة النماذج المحلية على عتادك قبل الشراء. نشرح كيف تعمل، ومصدر أرقامها، وأين تضلّلك في سياقات الوكلاء الطويلة.
قبل أن تدفع آلاف الدولارات على بطاقة رسوميات أو جهاز Mac لتشغيل نموذج لغوي محلياً، يبقى السؤال الذي لا يجيب عنه أحد بوضوح: كم ستكون السرعة فعلاً؟ هنا ظهرت أداة مفتوحة المصدر باسم llmspeed على منصة Show HN، وتعدك بأن «تشعر» بسرعة النموذج على عتادك المرتقب قبل الشراء. في هذا المقال نشرح ما تفعله الأداة، ومن أين تأتي أرقامها، وأين تخدعك إن لم تنتبه.
ما هي llmspeed؟
أداة ويب تختار فيها جهازاً (بطاقة رسوميات، أو Mac، أو معالجاً) ونموذجاً، فتبثّ لك إجابة بالسرعة المقدّرة لتلك التركيبة، مع انتظار ما قبل أول رمز كما لو أن موجّهك بالطول المعتاد. الفكرة ذكية لأن الرقم المجرّد، مثل «45 رمزاً في الثانية»، لا يعني شيئاً حتى تراه يتدفق أمامك.
أبرز المزايا
- تغطية واسعة: نحو 30 جهازاً بين بطاقات ومعالجات وأجهزة Mac، ونحو 15 نموذجاً شائعاً.
- أنظمة تشغيل مختلفة: CUDA وMetal وROCm وVulkan والمعالج المركزي.
- وضع السباق: تقارن تركيبتين جنباً إلى جنب، كبطاقة RTX 5090 مقابل Mac Studio.
- فحص الذاكرة: تتحقق هل يتسع النموذج في ذاكرة الجهاز لكل مستوى تكميم (Quantization).
- شفافية التصنيف: كل تقدير موسوم بأنه مقاس أو مشتق أو متوقَّع.
- روابط قابلة للمشاركة لكل إعداد أو مقارنة.
من أين تأتي الأرقام؟
تعتمد التقديرات على معايير قياس يجمعها المجتمع، مثل نقاشات r/LocalLLaMA ومنصة localscore.ai، وما لم يتوفر قياس فعلي له يُشتق أو يُتوقَّع من عتاد مشابه. هذا التمييز مهم: رقم «مقاس» أوثق بكثير من رقم «متوقَّع».
| تصنيف التقدير | معناه | مدى الثقة |
|---|---|---|
| مقاس (Measured) | نتيجة قياس فعلي من المجتمع | مرتفعة |
| مشتق (Derived) | محسوب من قياس قريب | متوسطة |
| متوقَّع (Projected) | تقدير من مواصفات العتاد | منخفضة |
لماذا تتحدد السرعة بعرض نطاق الذاكرة؟
عند توليد النص لمستخدم واحد، لا تكون القدرة الحسابية الخام هي العنق الضيق في الغالب، بل عرض نطاق الذاكرة. القاعدة التقريبية: عدد الرموز في الثانية يساوي عرض نطاق الذاكرة مقسوماً على حجم البايتات النشطة التي تُقرأ لكل رمز. لذلك يتفوق جهاز بذاكرة سريعة وواسعة على آخر أقوى حسابياً لكنه أبطأ ذاكرة. وهذا أيضاً سبب أهمية التكميم: النموذج الأصغر حجماً يُقرأ أسرع.
الرقم الذي يهمك عند الشراء ليس عدد الأنوية، بل كم بايتاً تستطيع ذاكرة الجهاز نقلها كل ثانية.
أين تضلّلك الأداة؟
أبدى المجتمع إعجاباً بالفكرة وتحفظاً على الدقة. أبرز الملاحظات:
- غياب متغيرات مهمة: مثل تعدد البطاقات، وحجم السياق، واختلاف محركات التشغيل (llama.cpp وغيره).
- الموجّه القصير: التقدير يفترض موجّهاً قصيراً، بينما وكلاء البرمجة يعملون بسياقات طويلة تُبطئ الأداء كثيراً. لذا تصلح الأداة لترتيب الأجهزة بالنسبة لبعضها أكثر مما تصلح للتنبؤ بتجربة وكيل برمجي.
- تفاوت الأرقام الفعلية: أبلغ بعض المستخدمين بنتائج مختلفة عن التقدير على أجهزتهم.
كيف تستفيد منها عملياً؟
- استخدمها لتضييق الخيارات لا لحسم الشراء.
- فضّل التقديرات الموسومة «مقاس» وتجاهل «متوقَّع» عند المفاضلة.
- اختبر النموذج الذي تنوي استخدامه بسياق بطول سياقك الحقيقي.
- قارن بين التكميمات، فقد يكون مستوى أقل دقة قليلاً أسرع بوضوح ويكفي مهمتك.
- تحقق من سعة الذاكرة أولاً، فالنموذج الذي لا يتسع يتحول إلى أبطأ بكثير عند الانسكاب إلى الذاكرة العادية.
مثال على قرار
لو كنت تختار بين جهازين لتشغيل نموذج مفتوح متوسط الحجم للمساعدة في كتابة الشيفرة، فقارنهما في وضع السباق، ثم اسأل: هل سياق عملي اليومي أطول بكثير من الموجّه التجريبي؟ إن كانت الإجابة نعم فاخصم من التقدير هامش أمان واسعاً.
أسئلة شائعة
هل llmspeed مجانية ومفتوحة المصدر؟
نعم، المشروع مفتوح المصدر على GitHub وتُستخدم الأداة عبر المتصفح دون حاجة لتثبيت.
هل تغني عن اختبار العتاد بنفسي؟
لا. هي أداة مقارنة أولية، ولا تعكس أثر السياق الطويل أو تعدد البطاقات أو اختلاف المحرك.
لماذا يختلف رقمها عن قياسي الفعلي؟
لأن كثيراً من الأرقام مشتق أو متوقَّع من عتاد مشابه، ولأن إعدادات المحرك والتكميم وطول السياق تغيّر النتيجة.
الخلاصة
llmspeed فكرة عملية تجعل أرقام الأداء المحلي محسوسة قبل الشراء، وتفيد في ترتيب الخيارات وفهم دور عرض نطاق الذاكرة. لكنها تقدير لا وعد: اعتمد على الأرقام المقاسة، وأضف هامش أمان للسياقات الطويلة، واختبر نموذجك الفعلي قبل أن تدفع ثمن العتاد.
المصادر: daily.dev، Developers Digest، AI TLDR
