1. 使用场景
前缀续写中,用户提供希望输出的前缀信息,来让模型基于用户提供的前缀信息来补全其余的内容。 基于上述能力,模型能有更好的指令遵循能力,满足用户一些特定场景的指定格式的问题。2. 使用方式
在请求中添加3. 支持模型列表
目前大语言类模型 中非推理模型支持上述参数,推理模型中 Qwen3 系列,需要通过增加enable_thinking=true
关闭推理后,支持上述参数,deepseek R1系列暂时不支持上述参数。
注意:支持的模型情况可能会发生变化,请查阅本文档了解最新支持的模型列表。