نشر نموذج DeepSeek R1 المُستخلص على أجهزة InHand EC5000 الطرفية

تشغيل نموذج DeepSeek R1 المُقسّم على أجهزة InHand AI الطرفية

المدونات

أهم النقاط

تشغيل نموذج DeepSeek R1 المُستخلص على حواسيب InHand AI الطرفية: يُعيد نموذج DeepSeek R1، وهو نموذج ذكاء اصطناعي مفتوح المصدر، تعريف الكفاءة والأداء في مجال الذكاء الاصطناعي. ويؤكد هذا الإنجاز الإمكانات الهائلة للأجهزة الطرفية خفيفة الوزن في مهام الاستدلال في الذكاء الاصطناعي.

يُعيد DeepSeek R1، وهو نموذج ذكاء اصطناعي مفتوح المصدر، تعريف الكفاءة والأداء في مجال الذكاء الاصطناعي. إذ تُحوّل تقنية تقطير المعرفة المتطورة فيه النماذج المعقدة إلى نماذج فائقة الأداء وخفيفة الوزن، مما يوفر قدرات استدلالية من الطراز الأول. هذا المزيج من سهولة الوصول إلى المصادر المفتوحة والتصميم الخفيف يُسهّل نشر الذكاء الاصطناعي ويفتح آفاقًا جديدة للحوسبة الطرفية.

نجح فريق تقنية الذكاء الاصطناعي في شركة InHand Networks مؤخرًا في نشر نموذج DeepSeek R1 المُستخلص على أجهزة الكمبيوتر الطرفية للذكاء الاصطناعي من سلسلة EC5000يؤكد هذا الإنجاز الإمكانات الهائلة للأجهزة الطرفية خفيفة الوزن في مهام استدلال الذكاء الاصطناعي. فمقارنةً بالنشر السحابي التقليدي، تُغني الحوسبة الطرفية للذكاء الاصطناعي عن الحاجة إلى خوادم عالية الأداء، مما يُتيح الاستدلال في الوقت الفعلي في بيئات منخفضة الطاقة. وهذا يجعل حلول الذكاء الاصطناعي أكثر كفاءة. مرن وآمن وفعال لتطبيقات مثل فحص الجودة الصناعية، والنقل الذكي، والطب عن بعد.

تشغيل نموذج DeepSeek R1 المُقسّم على أجهزة الكمبيوتر الطرفية EC5000 AI

بخطوات قليلة فقط، يمكنك نشر نموذج DeepSeek R1 المُقسّم على أجهزة الكمبيوتر الطرفية من سلسلة EC5000:

الخطوة 1: تثبيت مجموعة أدوات Jetson Containers من Nvidia

(تساعد هذه المجموعة من الأدوات في إدارة ونشر تطبيقات الذكاء الاصطناعي المعبأة في حاويات بكفاءة.)

قم بتشغيل الأوامر التالية لتنزيل وتثبيت مجموعة أدوات Jetson Containers:

git clone https://github.com/dusty-nv/jetson-containers

bash jetson-containers/install.sh

الخطوة الثانية: تثبيت مجموعة أدوات Nvidia JetPack

(يوفر JetPack برامج التشغيل والمكتبات الأساسية لتشغيل أحمال عمل الذكاء الاصطناعي على الأجهزة التي تعمل بتقنية Jetson.)

لتثبيت مجموعة أدوات JetPack، نفّذ ما يلي:

sudo apt update

sudo apt install nvidia-jetpack

sudo systemctl restart docker

انتظر لمدة دقيقة تقريبًا قبل اتخاذ الخطوات التالية. الخطوة 3: قم بتنزيل وتشغيل حاوية أولاما docker run -itd --runtime nvidia --name ollama ollama/ollama الخطوة 4: قم بتنزيل وتشغيل نموذج DeepSeek R1 المُقطّر باستخدام Ollama مرجع: مكتبة DeepSeek R1 اختر نموذج DeepSeek R1 المُقسّم المناسب من مكتبة أولاما وتثبيته تلقائيًا عبر سطر الأوامر. على سبيل المثال، لتشغيل DeepSeek-R1-Distill-Qwen-1.5B النموذج، التنفيذ:

docker exec -it ollama ollama run deepseek-r1:1.5b

يمكنك استبدال deepseek-r1:1.5b بأي اسم طراز آخر متاح من صفحة بحث أولاما.

يوضح الجدول أدناه نماذج DeepSeek R1 المقطرة التي تدعمها أجهزة الكمبيوتر الطرفية EC5000.

التفاعل مع النموذج

بمجرد تشغيل النموذج، يمكنك التفاعل معه مباشرة من خلال سطر الأوامر، مما يتيح الاستعلامات والاستجابات في الوقت الفعلي المصممة خصيصًا لتطبيقات الذكاء الاصطناعي الخاصة بك.

ملحوظة: استبدل "deepseek-r1:1.5b" باسم النموذج الذي تريد استخدامه، بناءً على متطلباتك الخاصة.

مراقبة استخدام أجهزة EC5000

للتحقق من استخدام وحدة المعالجة المركزية ووحدة معالجة الرسومات والذاكرة استخدم جهاز الكمبيوتر الطرفي EC5000 الخاص بك في الوقت الفعلي، jtop يأمر:

sudo jtop

سيؤدي هذا إلى عرض حالة الجهاز الحالية.

مهم: يجب تنفيذ أمر jtop باستخدام صلاحيات الجذر.

ملاحظات إضافية

بالإضافة إلى نموذج DeepSeek R1 المُقطّر، تدعم أجهزة الكمبيوتر الطرفية من سلسلة EC5000 أيضًا نماذج لغات كبيرة مفتوحة المصدر أخرى (LLMs)، مثل لاما 3.
تشغيل وحدات التعلم الآلي على أجهزة الكمبيوتر الطرفية EC5000 عبر أولاما ليست هذه هي الطريقة الوحيدة المتاحة - يمكن استكشاف خيارات نشر أخرى بناءً على احتياجاتك الخاصة.

إن نشر نموذج DeepSeek R1 المُقسّم على سلسلة EC5000 يوضح التكامل السلس للذكاء الاصطناعي المتطور مع أجهزة الحوسبة الطرفية، مما يمهد الطريق لعصر جديد من الذكاء الاصطناعي الطرفي خفيف الوزن وعالي الأداء.

مع استمرار تطور تقنيات التقطير، يمكن للشركات الاستفادة من هذه التطورات لبناء خدمات ذكاء اصطناعي خاصة، مما يقلل تكاليف الحوسبة ويضمن أمن البيانات. يفتح هذا التقدم آفاقًا تحويلية في مختلف القطاعات، بدءًا من التصنيع الذكي والنقل الذكي وصولًا إلى التشخيص الطبي والمركبات ذاتية القيادة، مما يتيح معالجة البيانات محليًا، وتقليل زمن الاستجابة، وتعزيز خصوصية البيانات، واتخاذ القرارات في الوقت الفعلي.

لا تزال شركة InHand Networks ملتزمة بتطوير النظام البيئي للذكاء الطرفي، وتمكين المؤسسات في جميع أنحاء العالم من تبني مستقبل الحوسبة الطرفية الذكية.

المنتجات المستقبلية

EC5550

حاسوب طرفي يعمل بالذكاء الاصطناعي مزود بمعالج NVIDIA Jetson Orin NX بسعة 16 جيجابايت، وسرعة معالجة 100 تيرابايت في الثانية، وواجهات صناعية غنية، وإدارة سحابية أصلية.