Class TruncationStrategy

TruncationStrategy-Klasse

Stellt die Truncation-Strategie dar, die steuert, wie ein Thread vor dem Lauf gekürzt wird.

public class TruncationStrategy

Konstruktoren

NameBeschreibung
TruncationStrategy()Der Standardkonstruktor.

Eigenschaften

NameBeschreibung
LastMessages { get; set; }Ruft die Anzahl der aktuellsten Nachrichten aus dem Thread ab oder legt sie fest, wenn der Kontext für den Lauf erstellt wird.
StrategyType { get; set; }Ruft die Truncation-Strategie ab oder legt sie fest, die für den Thread verwendet werden soll. Der Standardwert ist auto. Wenn auf last_messages gesetzt, wird der Thread auf die n aktuellsten Nachrichten im Thread gekürzt. Wenn auf auto gesetzt, werden Nachrichten in der Mitte des Threads verworfen, um die Kontextlänge des Modells, max_prompt_tokens, anzupassen.

Siehe auch