OnnxRuntimeSessionOptions

OnnxRuntimeSessionOptions class

创建 ONNX InferenceSession 的配置选项。除非您对修改非常确定，否则建议保留优化的默认值。有关技术细节，请参阅 ONNX Runtime 文档。

public static class OnnxRuntimeSessionOptions

名称	描述
static EnableCpuMemArena { get; set; }	启用或禁用 ONNX Runtime 使用的 CPU 内存 arena 分配器。启用后，内存将被池化并重复使用，以获得更好性能，但在多线程场景下可能导致内存消耗增加。禁用可在牺牲性能的情况下降低峰值内存使用。
static EnableMemoryPattern { get; set; }	启用或禁用对输入张量的内存模式优化。启用后，ONNX Runtime 会缓存内存分配模式以加快执行，但可能会增加动态输入形状的内存使用。若输入差异显著或希望降低内存占用，请禁用。
static ExecutionMode { get; set; }	会话的执行模式。默认情况下，运算符会在可能的情况下并发执行。
static GraphOptimizationLevel { get; set; }	会话的图优化级别。默认情况下，已启用所有可用的优化以获得最大性能。
static InterOpNumThreads { get; set; }	用于并行运行多个操作的线程数。如果在 ExecutionMode 属性中启用了顺序执行 (ExecutionModeOnnx.ORT_SEQUENTIAL)，则此值将被忽略。
static IntraOpNumThreads { get; set; }	单个操作使用的线程数。