ILlamaClient.CreateCompletionAsync

ILlamaClient.CreateCompletionAsync 方法

在 Llama 服务中创建聊天完成请求。

public Task<LlamaChatCompletionResponse> CreateCompletionAsync(
    LlamaChatCompletionRequest chatCompletionRequest, 
    CancellationToken? cancellationToken = default)
参数类型描述
chatCompletionRequestLlamaChatCompletionRequest聊天完成请求。
cancellationTokenNullable`1取消令牌。

返回值

聊天完成响应。

另请参阅