OnnxRuntimeSessionOptions

Inheritance: java.lang.Object

public class OnnxRuntimeSessionOptions

خيارات التكوين لإنشاء ONNX InferenceSession. نوصي بالحفاظ على الإعدادات الافتراضية المُحسّنة ما لم تكن متأكدًا تمامًا من التعديلات. للحصول على تفاصيل تقنية، راجع وثائق ONNX Runtime.

المُنشئات

المُنشئالوصف
OnnxRuntimeSessionOptions()

الحقول

الحقلالوصف
enableCpuMemArenaيفعل أو يعطل مُخصِّص مساحة الذاكرة للمعالج (CPU) الذي يستخدمه ONNX Runtime.
enableMemoryPatternيفعل أو يعطل تحسين نمط الذاكرة للمتجهات (tensors) المدخلة.
executionModeوضع التنفيذ للجلسة.
graphOptimizationLevelمستوى تحسين الرسم البياني للجلسة.
interOpNumThreadsعدد الخيوط لتشغيل عمليات متعددة بالتوازي.
intraOpNumThreadsعدد الخيوط لعملية واحدة.

OnnxRuntimeSessionOptions()

public OnnxRuntimeSessionOptions()

enableCpuMemArena

public static boolean enableCpuMemArena

يفعل أو يعطل مُخصِّص مساحة الذاكرة للمعالج (CPU) الذي يستخدمه ONNX Runtime. عند التفعيل، تُجمع الذاكرة وتُعاد استخدامها لأداء أفضل، لكن قد يؤدي ذلك إلى زيادة استهلاك الذاكرة في سيناريوهات متعددة الخيوط. عطلها لتقليل استهلاك الذاكرة القصوى على حساب الأداء.

enableMemoryPattern

public static boolean enableMemoryPattern

تمكين أو تعطيل تحسين نمط الذاكرة للمتجهات المدخلة. عند التمكين، يقوم ONNX Runtime بتخزين أنماط تخصيص الذاكرة للتنفيذ الأسرع، ولكن قد يزيد من استهلاك الذاكرة للأشكال المدخلة الديناميكية. عطل إذا كانت المدخلات تختلف بشكل كبير أو لتقليل البصمة الذاكرية.

executionMode

public static ExecutionModeOnnx executionMode

وضع التنفيذ للجلسة. بشكل افتراضي، يتم تنفيذ المشغلات بشكل متوازي كلما كان ذلك ممكنًا.

graphOptimizationLevel

public static GraphOptimizationLevelOnnx graphOptimizationLevel

مستوى تحسين الرسم البياني للجلسة. بشكل افتراضي، يتم تمكين جميع التحسينات المتاحة لأقصى أداء.

interOpNumThreads

public static int interOpNumThreads

عدد الخيوط لتشغيل عمليات متعددة بالتوازي. إذا تم تمكين التنفيذ المتسلسل، يتم تجاهل هذه القيمة.

intraOpNumThreads

public static int intraOpNumThreads

عدد الخيوط لعملية واحدة.