في العصر الرقمي الحالي، يتزايد طلب المؤسسات على الخدمات الذكية يومًا بعد يوم، وأصبحت سيناريوهات التطبيقات مثل خدمة عملاء الذكاء الاصطناعي والأسئلة والأجوبة الخاصة بمعرفة التجار أكثر شيوعًا. أبلغني العديد من الأصدقاء أنهم بحاجة إلى إنشاء نظام مماثل للأسئلة والأجوبة داخل الشركة، على أمل العثور على حلول مفتوحة المصدر وفهم كيفية دمجها في التعليمات البرمجية الموجودة. في هذا الفيديو، سأقودك إلى استخدام إطار العمل مفتوح المصدر FastGPT لتنفيذ نظام أسئلة وأجوبة المعرفة الداخلية للمؤسسة. في الواقع، العملية ليست معقدة، دعونا نلقي نظرة.
FastGPT هو نظام للأسئلة والأجوبة قائم على قاعدة معرفية يعتمد على نموذج اللغة الكبير LLM وله العديد من الوظائف العملية. فهو لا يوفر وظائف معالجة البيانات واستدعاء النماذج خارج الصندوق فحسب، بل ينفذ أيضًا تنسيق سير العمل من خلال تصور العملية لتحقيق سيناريوهات الأسئلة والأجوبة المعقدة. من مخطط البنية، يكون الجانب الأيسر مسؤولاً عن البيانات الأساسية وتخزين البيانات المتجهة. تم إنشاء البوابة النموذجية من خلال واجهة برمجة التطبيقات (API) في المنتصف. يمكن للجزء السفلي توصيل العديد من النماذج الكبيرة، ويمكن أيضًا استخدام النماذج الكبيرة مفتوحة المصدر المنتشرة محليًا. الاختيار غني جدًا.
نظرًا للطلب الكبير على موارد وحدة معالجة الرسومات لعمليات النماذج الكبيرة، إذا تم استخدام وحدة معالجة مركزية خالصة، فقد يستغرق الرد على الأسئلة والأجوبة أكثر من دقيقة. لذلك، اخترت هذه المرة خادم GPU أولاً واستخدمت النظام الأساسي السحابي للحوسبة الذكية GPUEZ. على هذا النظام الأساسي، نقوم بتأجير مثيل بسعة 48 جيجا بايت من ذاكرة الفيديو حسب الطلب. نظرًا لأن هذا مشروع تجريبي، فقد اخترت الدفع أولاً بأول، واستئجاره لمدة ساعة، وتحديد الصورة الأساسية. بالنسبة للبحث العلمي والاستكشاف المتعلق بالتعلم الآلي والذكاء الاصطناعي، فإن المنصة مريحة للغاية للاستخدام. بعد تشغيل المثيل، يتم دعم كل من اتصال SSH ووضع Jupiter Lab. بعد الدخول، حدد المحطة، المشابهة لوحدة تحكم تسجيل الدخول SSH. يمكنك إدخال أوامر LINUX والحصول على التعليقات.
من أجل تثبيت FastGPT، نستخدم طريقة docker compose، وهي مناسبة لأنظمة LINUX وMac OSX وWindows. العملية بسيطة ويمكن أن يطلق عليها "التثبيت بلا عقل". التكوين الوحيد المطلوب هو وصول النموذج إلى منصة API واحدة. إذا أخذنا الوصول إلى نموذج رعاية عامة محلي كبير كمثال، فليس من الصعب متابعة المستندات المقدمة من FastGPT.
تتمتع منصة الحوسبة السحابية الذكية GPUEZ المستخدمة هذه المرة بتجربة ممتازة. وهو يدعم ذاكرة الفيديو الكبيرة الحجم ذات البطاقة الواحدة مثل 32G و48G، وهي مرنة ومريحة؛ وهي نادرة على الأنظمة الأساسية الأخرى، وتوفر بيئة مثبتة مسبقًا، ويمكن حفظ الصور ذاتية الصنع وإعادة استخدامها؛ يحتوي على مجموعة غنية من بيانات التعلم الآلي والتدريب النموذجي. وهو ذو فائدة كبيرة للبحث العلمي والاستكشاف. تتعاون المنصة مع أساتذة وطلاب من العديد من الجامعات على مستوى الدولة وباحثين من مؤسسات البحث العلمي، لذلك فهي آمنة ومستقرة ومضمونة. سجل الآن لتحصل على مكافأة تجريبية بقيمة 5 يوان وخصم استهلاك بنسبة 20%. لقد تم وضع الرابط في قسم التعليقات. قد يرغب الأصدقاء الذين يحتاجون إلى استئجار الطاقة الحاسوبية في تجربتها.
من خلال الخطوات المذكورة أعلاه، تعلمنا استخدام FastGPT لبناء نظام الأسئلة والأجوبة لقاعدة المعرفة الداخلية للمؤسسة. العملية برمتها بسيطة وسهلة الفهم. آمل أن يتمكن الجميع من محاولة إنشاء نظام الأسئلة والأجوبة الخاص بالذكاء الاصطناعي على مستوى المؤسسة. إذا كان لديك أي أسئلة أو أفكار، يرجى ترك رسالة في منطقة التعليق لمشاركتها. نراكم في الفيديو التالي!
حصة على التغريد أنشرها على الفيسبوك
Indie123
تعليقات
لا يوجد حاليا أي تعليقات