كيف غيّر تشغيل نماذج الذكاء الاصطناعي المحلية (Local LLM) عبر المتصفح طريقتي في أتمتة المهام؟
كيف تقوم بتشغيل نموذج LLM محلي داخل متصفحك؟
لإعداد هذه البيئة، ستحتاج إلى ربط ثلاثة عناصر أساسية: نموذج ذكاء اصطناعي محلي، خادم خلفي (Backend)، وواجهة متصفح.
الأداة الأسهل لتشغيل النماذج محلياً هي Ollama. بعد تثبيتها، يمكنك بدء تشغيل الخدمة باستخدام الأمر ollama serve، والذي يفتح واجهة برمجة تطبيقات (API) محلية. بعد ذلك، قم بتحميل النموذج الذي تريده، مثل نموذج (Qwen) باستخدام الأمر ollama pull qwen:7b الذي يقدم توازناً ممتازاً بين الأداء والقدرات.
لا يمكن للمتصفحات التحدث مباشرة مع واجهة (API) المحلية بسبب قيود أمان (CORS). لحل هذه المشكلة، يمكنك إنشاء خادم Node.js بسيط باستخدام مكتبة (Express). هذا الخادم سيعمل كوسيط: يتلقى طلباتك من المتصفح، يرسلها إلى نقطة اتصال Ollama، ثم يعيد لك الإجابة.
الخطوة الأخيرة هي إنشاء صفحة HTML بسيطة جداً تحتوي على مربع نص وزر إرسال. عندما تكتب طلبك وتضغط إرسال، يذهب الطلب إلى الخادم المحلي الذي برمجته، ومنه إلى نموذج الذكاء الاصطناعي، ثم تعود النتيجة لتظهر أمامك على الشاشة.. وكل ذلك يحدث داخل جهازك فقط!
لماذا يُعد هذا الأسلوب أفضل؟ (الفوائد والمميزات)
- الخصوصية المطلقة: بياناتك، مطالباتك (Prompts)، وملفاتك لا تغادر جهازك أبداً. هذا يجعله الخيار الأمثل للتعامل مع مستندات العمل السرية.
- العمل دون اتصال (Offline): لا تحتاج إلى اتصال دائم بالإنترنت لاستخدام الذكاء الاصطناعي لتلخيص أبحاثك أو تنظيم بياناتك.
- الاعتمادية وتوفير المال: لن تواجه مشاكل مثل "سقوط الخوادم" أو "تجاوز الحد المسموح للاستخدام" (Rate Limits). طالما جهازك يعمل، فالنموذج متاح مجاناً.
إرسال تعليق
تذكر قبل كتابه اى تعليق قول الله تعالى: مَا يَلْفِظُ مِنْ قَوْلٍ إِلَّا لَدَيْهِ رَقِيبٌ عَتِيدٌ [ق:18]؟