محرك MDST: قم بتشغيل نماذج GGUF في المتصفح باستخدام WebGPU/WASM

محرك MDST: قم بتشغيل نماذج GGUF في المتصفح باستخدام WebGPU/WASM

يعد محرك MDST بمثابة وقت تشغيل ناشئ يمكّن المطورين والشركات من تنفيذ نماذج لغة كبيرة بتنسيق GGUF مباشرة داخل المتصفح باستخدام WebGPU وWebAssembly (WASM)، مما يلغي الحاجة إلى خادم مخصص أو وحدة معالجة رسومات سحابية. يؤدي هذا التحول نحو استنتاج الذكاء الاصطناعي من جانب العميل إلى إعادة كتابة قواعد كيفية تقديم الميزات الذكية في تطبيقات الويب، مما يجعل الذكاء الاصطناعي الخاص منخفض زمن الوصول في متناول أي شخص لديه متصفح حديث.

ما هو بالضبط محرك MDST ولماذا هو مهم؟

يعد MDST Engine إطار عمل استدلالي للذكاء الاصطناعي أصلي للمتصفح مصمم لتحميل نماذج GGUF الكمية وتشغيلها - وهو نفس التنسيق الشائع بواسطة مشاريع مثل llama.cpp - مباشرةً ضمن سياق الويب. بدلاً من توجيه كل طلب للذكاء الاصطناعي عبر نقطة نهاية سحابية، ينفذ MDST استدلال النموذج على الأجهزة الخاصة بالمستخدم باستخدام WebGPU API للمتصفح للحسابات المسرّعة بواسطة GPU وWebAssembly لأداء احتياطي لوحدة المعالجة المركزية قريب من الأصل.

وهذا مهم للغاية لعدد من الأسباب. أولاً، يقوم بإزالة زمن الوصول ذهابًا وإيابًا المتأصل في الاستدلال من جانب الخادم. ثانيًا، فهو يحتفظ ببيانات المستخدم الحساسة بالكامل على الجهاز، وهي ميزة خصوصية بالغة الأهمية لتطبيقات المؤسسات والمستهلكين على حدٍ سواء. ثالثًا، فهو يقلل بشكل كبير من تكاليف البنية التحتية للشركات التي قد تدفع مقابل كل استدعاء لواجهة برمجة التطبيقات (API) أو تحتفظ بمجموعات GPU الخاصة بها.

"لم يعد تشغيل استدلال الذكاء الاصطناعي في المتصفح أمرًا مثيرًا للفضول لإثبات المفهوم، بل هو عبارة عن بنية قابلة للاستمرار في الإنتاج والتي تستبدل تكاليف السحابة المركزية بأجهزة المستخدم اللامركزية، مما يؤدي بشكل أساسي إلى تغيير من يتحمل العبء الحسابي للتطبيقات التي تعمل بالذكاء الاصطناعي."

كيف يمكن لـ WebGPU وWASM جعل الذكاء الاصطناعي داخل المتصفح ممكنًا؟

يتطلب فهم الأسس الفنية لمحرك MDST نظرة سريعة على أساسيات المتصفح الأساسية التي يستفيد منها. WebGPU هو خليفة WebGL، حيث يوفر وصولاً منخفض المستوى إلى GPU مباشرة من JavaScript ورمز تظليل WGSL. على عكس سابقتها، يدعم WebGPU التظليل الحسابي، الذي يعد بمثابة العمود الفقري لعمليات ضرب المصفوفات التي تهيمن على استدلال LLM. وهذا يعني أن MDST يمكنه إرسال عمليات الموتر إلى وحدة معالجة الرسومات بطريقة متوازية للغاية، مما يحقق إنتاجية كانت مستحيلة في السابق داخل وضع حماية المتصفح.

يعمل WebAssembly بمثابة البديل وهدف التجميع لمنطق وقت التشغيل الأساسي للمحرك. بالنسبة للأجهزة التي تفتقر إلى دعم WebGPU - المتصفحات الأقدم أو بيئات الهاتف المحمول المحددة أو سياقات الاختبار بدون رأس - يوفر WASM طبقة تنفيذ محمولة عالية الأداء تقوم بتشغيل كود C++ أو Rust المترجم بسرعات تتجاوز بكثير JavaScript القياسي. يشكل WebGPU وWASM معًا استراتيجية تنفيذ متدرجة: وحدة معالجة الرسومات أولاً عندما تكون متاحة، ووحدة المعالجة المركزية عبر WASM عندما لا تكون متاحة.

ما هي نماذج GGUF ولماذا يعتبر هذا التنسيق أساسيًا لهذا النهج؟

GGUF (التنسيق الموحد الذي تم إنشاؤه بواسطة GPT) هو تنسيق ملف ثنائي يجمع أوزان النموذج وبيانات الرمز المميز وبيانات التعريف في قطعة أثرية محمولة واحدة. تم تصميم GGUF في الأصل لدعم التحميل الفعال في llama.cpp، وأصبح المعيار الفعلي للنماذج مفتوحة الوزن لأنه يدعم مستويات تكميم متعددة - من 2 بت إلى 8 بت - مما يسمح للمطورين باختيار المفاضلة بين حجم النموذج وبصمة الذاكرة وجودة الإخراج.

بالنسبة للاستدلال القائم على المتصفح، فإن التكميم ليس اختياريًا، بل هو ضروري. يتطلب نموذج المعلمة 7B كامل الدقة ما يقرب من 14 جيجابايت من الذاكرة. في عملية التكميم في الربع الرابع، يتقلص هذا النموذج نفسه إلى حوالي 4 جيجابايت، وفي الربع الثاني يمكن أن ينخفض ​​إلى أقل من 2 جيجابايت. إن دعم MDST Engine لـ GGUF يعني أنه يمكن للمطورين استخدام النظام البيئي الضخم للنماذج الكمية بالفعل بشكل مباشر دون أي خطوة تحويل إضافية، مما يقلل بشكل كبير من حاجز التكامل.

ما هي حالات الاستخدام الواقعية للشركات التي تقوم بتشغيل نماذج GGUF في المتصفح؟

تمتد التطبيقات العملية لاستدلال GGUF داخل المتصفح تقريبًا إلى كل قطاعات الصناعة. الشركات التي تتبنى هذا النهج تطلق العنان للقدرات التي كانت موجودة سابقًا

Related Posts

• أداة العزل في سطر الأوامر في macOS غير المعروفة (2025)
• لماذا أشعر بالقلق بشأن فقدان الوظيفة والأفكار حول الميزة النسبية
• ملحقات Chrome تتجسس على بيانات تصفح المستخدمين
• طريقة وآلة حاسبة لبناء منظمات الأدراج الرغوية