AsposeAIModelConfig

AsposeAIModelConfig class

يمثل إعدادات التكوين لتحميل نموذج LLM.

public class AsposeAIModelConfig

المنشئات

الاسمالوصف
AsposeAIModelConfig()المنشئ الافتراضي.

الخصائص

الاسمالوصف
AllowAutoDownload { get; set; }إذا كان صحيحًا، سيتم تنزيل النموذج تلقائيًا إذا لم يكن متوفرًا محليًا.
ContextSize { get; set; }يحدد الحد الأقصى لعدد الرموز التي يمكن للنموذج اللغوي الكبير (LLM) استخدامها كسياق أثناء الاستدلال. إذا كان القيمة null، سيتم استخدام حجم السياق الافتراضي المحدد من قبل النموذج. القيم الأكبر تسمح للنموذج بأخذ نصوص أكثر في الاعتبار ولكن قد تتطلب المزيد من الذاكرة.
DirectoryModelPath { get; set; }مسار اختياري حيث سيتم تخزين النماذج التي تم تنزيلها أو معالجتها مؤقتًا. إذا لم يتم تحديده، سيُستخدم موقع نظام افتراضي.
FileModelPath { get; set; }المسار المحلي للمجلد الذي يحتوي على ملفات النموذج. إذا تم تحديده، سيُستخدم بدلاً من التنزيل. القيمة الافتراضية فارغة.
GpuLayers { get; set; }عدد طبقات GPU لاستخدامها مع النموذج. إذا لم يتم تحديده، ستُستخدم القيمة الافتراضية (40). اضبطه على 0 لتشغيل النموذج بالكامل على وحدة المعالجة المركزية.
HuggingFaceFileName { get; set; }اسم النموذج الاختياري للاستخدام عند التنزيل من HuggingFace. أمثلة: “TableGPT2-7B.Q4_K_S.gguf”. القيمة الافتراضية للذكاء الاصطناعي للجدول - TableGPT2-7B.Q4_K_S.gguf.
HuggingFaceRepoId { get; set; }معرف النموذج على HuggingFace (مثال: “openai/gpt2”). إذا تم تحديده، سيتم تنزيل النموذج من HuggingFace. القيمة الافتراضية bartowski/Qwen2.5-3B-Instruct-GGUF.

انظر أيضًا