OnnxRuntimeSessionOptions

Inheritance: java.lang.Object

public class OnnxRuntimeSessionOptions

خيارات التكوين لإنشاء ONNX InferenceSession. نوصي بالحفاظ على الإعدادات الافتراضية المحسّنة ما لم تكن متأكدًا تمامًا من التعديلات. للحصول على تفاصيل تقنية، راجع وثائق ONNX Runtime.

المنشئات

منشئالوصف
OnnxRuntimeSessionOptions()

الحقول

حقلالوصف
enableCpuMemArenaيفعل أو يعطل مخصص مساحة الذاكرة للمعالج (CPU) المستخدم من قبل ONNX Runtime.
enableMemoryPatternيفعل أو يعطل تحسين نمط الذاكرة للمتجهات المدخلة.
executionModeوضع التنفيذ للجلسة.
graphOptimizationLevelمستوى تحسين الرسم البياني للجلسة.
interOpNumThreadsعدد الخيوط لتشغيل عمليات متعددة بالتوازي.
intraOpNumThreadsعدد الخيوط لعملية واحدة.

OnnxRuntimeSessionOptions()

public OnnxRuntimeSessionOptions()

enableCpuMemArena

public static boolean enableCpuMemArena

يفعل أو يعطل مخصص مساحة الذاكرة للمعالج (CPU) المستخدم من قبل ONNX Runtime. عند التفعيل، يتم تجميع الذاكرة وإعادة استخدامها لأداء أفضل، لكن قد يؤدي ذلك إلى زيادة استهلاك الذاكرة في سيناريوهات متعددة الخيوط. عطل لتقليل أقصى استهلاك للذاكرة على حساب الأداء.

enableMemoryPattern

public static boolean enableMemoryPattern

يقوم بتمكين أو تعطيل تحسين نمط الذاكرة للمتجهات المدخلة. عند التمكين، يقوم ONNX Runtime بتخزين أنماط تخصيص الذاكرة للتنفيذ الأسرع، لكن قد يزيد من استهلاك الذاكرة للأشكال المدخلة الديناميكية. عطل إذا كانت المدخلات تختلف بشكل كبير أو لتقليل حجم الذاكرة.

executionMode

public static ExecutionModeOnnx executionMode

وضع التنفيذ للجلسة. بشكل افتراضي، يتم تنفيذ المشغلات بشكل متزامن كلما كان ذلك ممكنًا.

graphOptimizationLevel

public static GraphOptimizationLevelOnnx graphOptimizationLevel

مستوى تحسين الرسم البياني للجلسة. بشكل افتراضي، يتم تمكين جميع التحسينات المتاحة لتحقيق أقصى أداء.

interOpNumThreads

public static int interOpNumThreads

عدد الخيوط لتشغيل عمليات متعددة بالتوازي. إذا تم تمكين التنفيذ المتسلسل، يتم تجاهل هذه القيمة.

intraOpNumThreads

public static int intraOpNumThreads

عدد الخيوط لعملية واحدة.