OnnxRuntimeSessionOptions

Inheritance: java.lang.Object

public class OnnxRuntimeSessionOptions

Επιλογές διαμόρφωσης για τη δημιουργία του ONNX InferenceSession. Συνιστούμε να διατηρείτε τις βελτιστοποιημένες προεπιλογές, εκτός εάν είστε απολύτως βέβαιοι για τις τροποποιήσεις. Για τεχνικές λεπτομέρειες, ανατρέξτε στην τεκμηρίωση του ONNX Runtime.

Κατασκευαστές

Κατασκευαστής	Περιγραφή
OnnxRuntimeSessionOptions()

Πεδία

Πεδίο	Περιγραφή
enableCpuMemArena	Ενεργοποιεί ή απενεργοποιεί τον κατανεμητή μνήμης arena CPU που χρησιμοποιείται από το ONNX Runtime.
enableMemoryPattern	Ενεργοποιεί ή απενεργοποιεί τη βελτιστοποίηση προτύπου μνήμης για τα εισαγώμενα τανυστές.
executionMode	Λειτουργία εκτέλεσης για τη συνεδρία.
graphOptimizationLevel	Επίπεδο βελτιστοποίησης γραφήματος για τη συνεδρία.
interOpNumThreads	Αριθμός νημάτων για την εκτέλεση πολλαπλών λειτουργιών παράλληλα.
intraOpNumThreads	Αριθμός νημάτων για μία ενιαία λειτουργία.

OnnxRuntimeSessionOptions()

public OnnxRuntimeSessionOptions()

enableCpuMemArena

public static boolean enableCpuMemArena

Ενεργοποιεί ή απενεργοποιεί τον κατανεμητή μνήμης arena CPU που χρησιμοποιείται από το ONNX Runtime. Όταν είναι ενεργοποιημένος, η μνήμη συγκεντρώνεται και επαναχρησιμοποιείται για καλύτερη απόδοση, αλλά μπορεί να οδηγήσει σε αυξημένη κατανάλωση μνήμης σε σενάρια πολλαπλών νημάτων. Απενεργοποιήστε το για να μειώσετε τη μέγιστη χρήση μνήμης με κόστος την απόδοση.

enableMemoryPattern

public static boolean enableMemoryPattern

Ενεργοποιεί ή απενεργοποιεί τη βελτιστοποίηση προτύπου μνήμης για τα εισαγώμενα τανυστές. Όταν είναι ενεργοποιημένο, το ONNX Runtime αποθηκεύει στην κρυφή μνήμη πρότυπα κατανομής μνήμης για ταχύτερη εκτέλεση, αλλά μπορεί να αυξήσει τη χρήση μνήμης για δυναμικά σχήματα εισόδου. Απενεργοποιήστε το εάν οι εισροές διαφέρουν σημαντικά ή για μείωση του αποτυπώματος μνήμης.

executionMode

public static ExecutionModeOnnx executionMode

Λειτουργία εκτέλεσης για τη συνεδρία. Από προεπιλογή, οι τελεστές εκτελούνται ταυτόχρονα, όποτε είναι δυνατόν.

graphOptimizationLevel

public static GraphOptimizationLevelOnnx graphOptimizationLevel

Επίπεδο βελτιστοποίησης γραφήματος για τη συνεδρία. Από προεπιλογή, όλες οι διαθέσιμες βελτιστοποιήσεις είναι ενεργοποιημένες για μέγιστη απόδοση.

interOpNumThreads

public static int interOpNumThreads

Αριθμός νημάτων για την εκτέλεση πολλαπλών λειτουργιών παράλληλα. Εάν η διαδοχική εκτέλεση είναι ενεργοποιημένη, αυτή η τιμή αγνοείται.

intraOpNumThreads

public static int intraOpNumThreads

Αριθμός νημάτων για μία ενιαία λειτουργία.