ContextSize
AsposeAIModelConfig.ContextSize property
定义 LLM 在推理期间可用作上下文的最大 token 数量。如果为 null,将使用模型定义的默认上下文大小。更大的值允许模型考虑更多文本,但可能需要更多内存。
public int? ContextSize { get; set; }
另请参见
- class AsposeAIModelConfig
- namespace Aspose.OCR.AI
- assembly Aspose.OCR
定义 LLM 在推理期间可用作上下文的最大 token 数量。如果为 null,将使用模型定义的默认上下文大小。更大的值允许模型考虑更多文本,但可能需要更多内存。
public int? ContextSize { get; set; }