OnnxRuntimeSessionOptions

Inheritance: java.lang.Object

public class OnnxRuntimeSessionOptions

Configuratie‑opties voor het maken van een ONNX InferenceSession. We raden aan de geoptimaliseerde standaardinstellingen te behouden, tenzij u absoluut zeker bent van de wijzigingen. Voor technische details, raadpleeg de ONNX Runtime‑documentatie.

Constructors

Constructor	Beschrijving
OnnxRuntimeSessionOptions()

Velden

Veld	Beschrijving
enableCpuMemArena	Schakelt de CPU‑geheugenarena‑allocator die door ONNX Runtime wordt gebruikt in of uit.
enableMemoryPattern	Schakelt geheugenpatroonoptimalisatie voor invoertensors in of uit.
executionMode	Uitvoermodus voor de sessie.
graphOptimizationLevel	Grafiekoptimalisatieniveau voor de sessie.
interOpNumThreads	Aantal threads voor het parallel uitvoeren van meerdere bewerkingen.
intraOpNumThreads	Aantal threads voor een enkele bewerking.

OnnxRuntimeSessionOptions()

public OnnxRuntimeSessionOptions()

enableCpuMemArena

public static boolean enableCpuMemArena

Schakelt de CPU‑geheugenarena‑allocator die door ONNX Runtime wordt gebruikt in of uit. Wanneer ingeschakeld, wordt geheugen gebundeld en hergebruikt voor betere prestaties, maar dit kan leiden tot een hoger geheugenverbruik in multi‑threaded scenario’s. Schakel uit om het piekgeheugengebruik te verminderen ten koste van de prestaties.

enableMemoryPattern

public static boolean enableMemoryPattern

Schakelt geheugenpatroonoptimalisatie voor invoertensors in of uit. Wanneer ingeschakeld, cachet ONNX Runtime geheugenallocatiepatronen voor snellere uitvoering, maar kan het het geheugenverbruik verhogen voor dynamische invoervormen. Schakel uit als invoer sterk varieert of om de geheugengebruik te verminderen.

executionMode

public static ExecutionModeOnnx executionMode

Uitvoermodus voor de sessie. Standaard worden operatoren gelijktijdig uitgevoerd, wanneer mogelijk.

graphOptimizationLevel

public static GraphOptimizationLevelOnnx graphOptimizationLevel

Grafiekoptimalisatieniveau voor de sessie. Standaard zijn alle beschikbare optimalisaties ingeschakeld voor maximale prestaties.

interOpNumThreads

public static int interOpNumThreads

Aantal threads voor het parallel uitvoeren van meerdere bewerkingen. Als sequentiële uitvoering is ingeschakeld, wordt deze waarde genegeerd.

intraOpNumThreads

public static int intraOpNumThreads

Aantal threads voor een enkele bewerking.