أعلنت شركتا Hugging Face وفريق تطوير llama.cpp عن إطلاق أداة جديدة تحت اسم Llama for Windows، تهدف إلى تمكين المستخدمين من تنزيل نماذج الذكاء الاصطناعي وتشغيلها محلياً على أجهزة الكمبيوتر التي تعمل بنظام ويندوز 11، وذلك عبر واجهة بسيطة لا تتطلب استخدام سطر الأوامر.
مزايا تشغيل الذكاء الاصطناعي محلياً
تختلف الأداة الجديدة عن الحلول المتاحة مثل LM Studio، حيث تعمل كتطبيق خفيف يظهر في منطقة الإشعارات بشريط مهام ويندوز، مما يسهل الوصول السريع إلى النماذج دون الحاجة إلى إعدادات معقدة. وتعتمد الأداة على إطار العمل WinUI 3 من مايكروسوفت، بالإضافة إلى محرك llama.cpp المسؤول عن تشغيل النماذج محلياً على الجهاز.
ويتيح التطبيق للمستخدمين اختيار النماذج المقترحة من منصة Hugging Face وتنزيلها بنقرة واحدة، مع إمكانية التفاعل معها عبر واجهة محادثة تعمل من خلال متصفح الويب. كما توفر الأداة تفاصيل تقنية شاملة قبل عملية التنزيل، مثل حجم النموذج، وعدد المعلمات، ومدى قدرته على معالجة الصور، لمساعدة المستخدم في اختيار النموذج المتوافق مع إمكانات جهازه.
دعم المطورين والخصوصية العالية
تتضمن الأداة ميزة دعم واجهة برمجة تطبيقات (API) متوافقة مع واجهات OpenAI، مما يسمح للمطورين بربط تطبيقاتهم، مثل محرر الأكواد أو أدوات البرمجة الذكية، بهذه النماذج المحلية بدلاً من الاعتماد على الخدمات السحابية المدفوعة. ويساهم هذا النهج في تقليل التكاليف المرتبطة بحجم الاستخدام، مع ضمان بقاء عمليات المعالجة داخل الجهاز نفسه.
ويوفر التشغيل المحلي ميزة إضافية تتعلق بالخصوصية، حيث تتم معالجة الطلبات داخل الكمبيوتر دون الحاجة لإرسال البيانات إلى السحابة، مما يقلل من مخاطر مشاركة البيانات مع جهات خارجية.
توافق الأجهزة وتقنيات NVIDIA
تدعم Llama for Windows أجهزة الكمبيوتر التي تعمل بنظام ويندوز 11 بمعماريتي x64 وARM64. كما تشمل التحسينات منصة NVIDIA RTX Spark التي طُورت بالتعاون مع إنفيديا، للاستفادة من قدرات الأجهزة في تشغيل النماذج محلياً. ومع توفر دعم ويندوز على أجهزة Arm، تبرز أهمية التوسع المستقبلي ليشمل معالجات كوالكوم Snapdragon X للاستفادة من وحدات المعالجة العصبية المخصصة (NPU).
وعلى الرغم من كون الأداة خياراً عملياً لتجنب الاشتراكات السحابية، إلا أن كفاءة التجربة تظل مرتبطة بمواصفات الكمبيوتر، خاصة الذاكرة العشوائية وقدرات المعالجة والرسوميات، حيث قد يختلف الأداء عن النماذج السحابية الضخمة.
