كيفية استخدام Chat With RTX AI Chatbot من Nvidia على جهاز الكمبيوتر الخاص بك
كيفية استخدام Chat With RTX AI Chatbot من Nvidia على جهاز الكمبيوتر الخاص بك
النقاط الرئيسية
- Nvidia Chat with RTX هو روبوت محادثة يعمل بالذكاء الاصطناعي ويتم تشغيله محليًا على جهاز الكمبيوتر الخاص بك، باستخدام TensorRT-LLM وRAG للاستجابات المخصصة.
- يتطلب تثبيت Chat with RTX الحد الأدنى من المتطلبات التالية: وحدة معالجة رسومية RTX، وذاكرة وصول عشوائي (RAM) سعة 16 جيجابايت، ومساحة تخزين 100 جيجابايت، ونظام التشغيل Windows 11.
- استخدم Chat with RTX لإعداد الملفات لـ RAG وطرح الأسئلة وتحليل مقاطع فيديو YouTube وضمان أمان البيانات.
أطلقت شركة Nvidia تطبيق Chat with RXT، وهو عبارة عن روبوت محادثة يعمل بالذكاء الاصطناعي ويعمل على جهاز الكمبيوتر الخاص بك ويوفر ميزات مشابهة لبرنامج ChatGPT والمزيد! كل ما تحتاجه هو وحدة معالجة رسوميات Nvidia RTX، وستكون جاهزًا لبدء استخدام روبوت المحادثة بالذكاء الاصطناعي الجديد من Nvidia.
ما هو Nvidia Chat مع RTX؟
Nvidia Chat with RTX هو برنامج ذكاء اصطناعي يتيح لك تشغيل نموذج لغة كبير (LLM) محليًا على جهاز الكمبيوتر الخاص بك. لذا، بدلاً من الاتصال بالإنترنت لاستخدام روبوت محادثة بالذكاء الاصطناعي مثل ChatGPT، يمكنك استخدام Chat with RTX دون اتصال بالإنترنت متى شئت.
يستخدم Chat with RTX تقنية TensorRT-LLM وتسريع RTX وMistral 7-B LLM الكمي لتوفير أداء سريع واستجابات عالية الجودة على قدم المساواة مع برامج الدردشة الأخرى عبر الإنترنت التي تعمل بالذكاء الاصطناعي. كما يوفر أيضًا توليدًا معززًا بالاسترجاع (RAG)، مما يسمح لبرنامج الدردشة بقراءة ملفاتك وتمكين الإجابات المخصصة بناءً على البيانات التي تقدمها. يتيح لك هذا تخصيص برنامج الدردشة لتوفير تجربة أكثر شخصية.
إذا كنت تريد تجربة Nvidia Chat مع RTX، فإليك كيفية تنزيله وتثبيته وتكوينه على جهاز الكمبيوتر الخاص بك.
كيفية تنزيل وتثبيت Chat with RTX
لقد جعلت شركة Nvidia تشغيل برنامج LLM محليًا على جهاز الكمبيوتر الخاص بك أسهل كثيرًا. لتشغيل Chat with RTX، ما عليك سوى تنزيل التطبيق وتثبيته، تمامًا كما تفعل مع أي برنامج آخر. ومع ذلك، يتطلب Chat with RTX بعض متطلبات المواصفات الدنيا لتثبيته واستخدامه بشكل صحيح.
- وحدة معالجة الرسوميات RTX 30-Series أو 40-Series
- 16 جيجا بايت من ذاكرة الوصول العشوائي
- مساحة ذاكرة خالية 100 جيجابايت
- ويندوز 11
إذا اجتاز جهاز الكمبيوتر الخاص بك الحد الأدنى من متطلبات النظام، فيمكنك المضي قدمًا وتثبيت التطبيق.
- الخطوة 1: قم بتنزيل ملف ZIP الخاص بالدردشة مع RTX.
- الخطوة 2: استخرج ملف ZIP بالنقر بزر الماوس الأيمن وتحديد أداة أرشفة الملفات مثل 7Zip أو النقر المزدوج على الملف وتحديد استخراج الكل.
- الخطوة 3: افتح المجلد المستخرج وانقر نقرًا مزدوجًا فوقه ملف setup.exeاتبع التعليمات التي تظهر على الشاشة وقم بتحديد جميع المربعات أثناء عملية التثبيت المخصص. بعد النقر فوق التاليسيقوم المثبت بتنزيل وتثبيت LLM وجميع التبعيات.
سيستغرق تثبيت Chat with RTX بعض الوقت حتى ينتهي لأنه يقوم بتنزيل كمية كبيرة من البيانات وتثبيتها. بعد عملية التثبيت، اضغط على يغلقلقد انتهيت. الآن حان الوقت لتجربة التطبيق.
كيفية استخدام Nvidia Chat مع RTX
على الرغم من أنه يمكنك استخدام Chat مع RTX مثل برنامج الدردشة الآلي AI العادي عبر الإنترنت، إلا أنني أقترح عليك بشدة التحقق من وظيفة RAG الخاصة به، والتي تمكنك من تخصيص مخرجاته استنادًا إلى الملفات التي تمنحها حق الوصول إليها.
الخطوة 1: إنشاء مجلد RAG
لبدء استخدام RAG على Chat مع RTX، قم بإنشاء مجلد جديد لتخزين الملفات التي تريد أن يقوم الذكاء الاصطناعي بتحليلها.
بعد الإنشاء، ضع ملفات البيانات في المجلد. يمكن أن تغطي البيانات التي تخزنها العديد من الموضوعات وأنواع الملفات، مثل المستندات وملفات PDF والنصوص ومقاطع الفيديو. ومع ذلك، قد ترغب في الحد من عدد الملفات التي تضعها في هذا المجلد حتى لا تؤثر على الأداء. يعني وجود المزيد من البيانات للبحث من خلالها أن Chat with RTX سيستغرق وقتًا أطول لإرجاع الردود على استعلامات محددة (ولكن هذا يعتمد أيضًا على الأجهزة).
الآن أصبحت قاعدة البيانات الخاصة بك جاهزة، يمكنك إعداد الدردشة مع RTX والبدء في استخدامها للإجابة على أسئلتك واستفساراتك.
الخطوة 2: إعداد البيئة
افتح الدردشة مع RTX. يجب أن تبدو مثل الصورة أدناه.
تحت مجموعة البياناتتأكد من أن مسار المجلد تم تحديد الخيار. انقر الآن على أيقونة التحرير أدناه (أيقونة القلم) وحدد المجلد الذي يحتوي على جميع الملفات التي تريد أن يقرأها Chat with RTX. يمكنك أيضًا تغيير نموذج الذكاء الاصطناعي إذا كانت هناك خيارات أخرى متاحة (في وقت كتابة هذا التقرير، يتوفر Mistral 7B فقط).
أنت الآن جاهز لاستخدام الدردشة مع RTX.
الخطوة 3: اطرح أسئلتك على RTX في الدردشة!
هناك عدة طرق للاستعلام عن Chat with RTX. الطريقة الأولى هي استخدامه مثل روبوت الدردشة AI العادي. سألت Chat with RTX عن فوائد استخدام برنامج LLM محلي وكنت راضيًا عن إجابته. لم تكن الإجابة عميقة للغاية، لكنها دقيقة بدرجة كافية.
ولكن بما أن Chat with RTX قادر على RAG، فيمكنك أيضًا استخدامه كمساعد شخصي للذكاء الاصطناعي.
في الأعلى، استخدمت Chat with RTX للاستفسار عن جدول أعمالي. جاءت البيانات من ملف PDF يحتوي على جدول أعمالي وتقويمي وأحداثي وعملي وما إلى ذلك. في هذه الحالة، قام Chat with RTX بسحب بيانات التقويم الصحيحة من البيانات؛ سيتعين عليك تحديث ملفات البيانات وتواريخ التقويم لديك حتى تعمل ميزات مثل هذه بشكل صحيح حتى تتوفر عمليات تكامل مع تطبيقات أخرى.
هناك العديد من الطرق التي يمكنك من خلالها استخدام Chat with RTX’s RAG لصالحك. على سبيل المثال، يمكنك استخدامه لقراءة الأوراق القانونية وتقديم ملخص لها، وإنشاء كود ذي صلة بالبرنامج الذي تقوم بتطويره، والحصول على نقاط بارزة حول مقطع فيديو لا تستطيع مشاهدته، وغير ذلك الكثير!
الخطوة 4: ميزة المكافأة
بالإضافة إلى مجلد البيانات المحلي لديك، يمكنك استخدام Chat with RTX لتحليل مقاطع فيديو YouTube. للقيام بذلك، ضمن مجموعة البياناتتغيير مسار المجلد ل رابط اليوتيوب.
انسخ عنوان URL الخاص بفيديو YouTube الذي تريد تحليله والصقه أسفل القائمة المنسدلة. ثم اسأل!
كان تحليل الفيديو على YouTube الخاص بـ Chat with RTX جيدًا جدًا وقدم معلومات دقيقة، لذا فقد يكون مفيدًا للبحث والتحليل السريع والمزيد.
هل الدردشة بين Nvidia و RTX جيدة؟
يوفر ChatGPT وظيفة RAG. تتطلب بعض برامج الدردشة الآلية المحلية متطلبات نظام أقل بشكل كبير. لذا، هل يستحق استخدام Nvidia Chat مع RTX؟
الإجابة هي نعم! يعد استخدام Chat with RTX أمرًا يستحق العناء على الرغم من المنافسة.
تتمثل إحدى أهم نقاط البيع لاستخدام Nvidia Chat with RTX في قدرته على استخدام RAG دون إرسال ملفاتك إلى خادم تابع لجهة خارجية. قد يؤدي تخصيص GPTs من خلال الخدمات عبر الإنترنت إلى تعريض بياناتك للخطر. ولكن نظرًا لأن Chat with RTX يعمل محليًا وبدون اتصال بالإنترنت، فإن استخدام RAG على Chat with RTX يضمن أمان بياناتك الحساسة وعدم إمكانية الوصول إليها إلا على جهاز الكمبيوتر الخاص بك.
بالنسبة لبرامج الدردشة الأخرى التي تعمل محليًا والتي تعمل بنظام Mistral 7B، فإن Chat with RTX يعمل بشكل أفضل وأسرع. على الرغم من أن جزءًا كبيرًا من تعزيز الأداء يأتي من استخدام وحدات معالجة رسومية أعلى مستوى، فإن استخدام Nvidia TensorRT-LLM وتسريع RTX جعل تشغيل Mistral 7B أسرع على Chat with RTX مقارنة بالطرق الأخرى لتشغيل LLM المحسّن للدردشة.
تجدر الإشارة إلى أن إصدار Chat with RTX الذي نستخدمه حاليًا هو إصدار تجريبي. ومن المرجح أن تصبح الإصدارات اللاحقة من Chat with RTX أكثر تحسينًا وتقدم تعزيزات للأداء.
ماذا لو لم يكن لدي وحدة معالجة رسومية RTX 30 أو 40 Series؟
يُعد Chat with RTX طريقة سهلة وسريعة وآمنة لتشغيل برنامج LLM محليًا دون الحاجة إلى اتصال بالإنترنت. إذا كنت مهتمًا أيضًا بتشغيل برنامج LLM أو محليًا ولكنك لا تمتلك وحدة معالجة رسومية من سلسلة RTX 30 أو 40، فيمكنك تجربة طرق أخرى لتشغيل برنامج LLM محليًا. اثنتان من أكثر الطرق شيوعًا هما GPT4ALL وText Gen WebUI. جرِّب GPT4ALL إذا كنت تريد تجربة التوصيل والتشغيل محليًا لتشغيل برنامج LLM. ولكن إذا كنت تميل إلى الجانب التقني، فإن تشغيل برامج LLM من خلال Text Gen WebUI سيوفر ضبطًا دقيقًا ومرونة أفضل.
اكتشاف المزيد من موقع قلم ورقم
اشترك للحصول على أحدث التدوينات في بريدك الإلكتروني.
