同一句提示词,别人跑出来干净利落,你跑出来要么死板,要么跑偏。差别常常不在提示词,而在那几个从来没调过的参数。
原文用一段写奶茶宣传语的代码,把 model、system、temperature、top_p、max_tokens、stop、stream 逐个拆开讲。这篇按「先选模型、再定指令、最后管输出」的顺序重新整理:五个参数各自管什么、什么时候该动,一次说清。
一、先选模型:Flash 会先想,Chat 直接答
原文的例子里写的是 deepseek-flash。Flash 的特点是快、便宜,适合日常对话和简单任务;它默认走思考模式,模型会先「想」一段再回答,这段思考过程本身也占 token、也计费。
如果任务简单、只要一个结果,不需要它推理,可以换成 chat 模型:不进入思考模式,直接输出,省时也省钱。这一点和前面发的「思考过程在 API 里怎么读」是同一件事的两面。
这一步比后面所有参数都重要。模型选错,参数调得再细也救不回来。
二、system 写规则,temperature 管发挥
system 角色相当于「设定规则的人」。原文的例子是:写一句关于夏天奶茶的宣传语,15 到 20 个字以内,不要加引号。要求写清楚,模型才知道边界在哪。
temperature 控制「放飞」程度:值越大越有创意、越随机,值越小越保守、越稳定。默认 1 属于正常发挥,不太死板也不太飘。
写文案、起标题可以往上调一点;整理数据、抽取字段、写代码这类要稳定复现的任务,往下压。
三、top_p 管候选池,max_tokens 管长度
top_p 是核采样:0.5 表示只从概率最高的前 50% 候选词里挑,输出集中、变化少;1.0 放开全部候选,输出更多样。一般默认在 0.9 左右,压到 0.5 会让输出明显偏保守。
这里有个容易踩的坑:temperature 和 top_p 都影响随机性,通常只调其中一个。两个一起压低,输出会非常死板,甚至反复说同一句话。
max_tokens 限制最多输出多少 token。原文设成 20,对应「15 到 20 个字」的需求。要注意 token 不完全等于汉字,中文大约 1 到 2 个字折算 1 个 token,所以这个值要留余量;卡得太死,句子会在半截被截断。
四、stop 与 stream:一个管停,一个管吐
stop 是停止序列:生成内容里一旦出现指定的字符串,立刻停笔。原文写的是 stop=[“语言”],意思是遇到「语言」两个字就收。
这个参数适合强制截断不想要的内容。比如模型总爱在结尾补一句「希望对你有帮助」,就把这句的开头放进 stop。但它按字面匹配,写得太宽会把正文也切掉,用之前先想清楚。
stream=True 是流式输出:像打字机一样逐字往外吐,用户能实时看到生成过程;设成 False 则等全部生成完一次性返回。做聊天界面、需要首字延迟低,就开流式;做批处理、只关心最终结果,关掉更省事。
五、把五个参数串起来看
原文那段配置翻译成一句话就是:用 Flash 模型,让它写一句奶茶宣传语,输出控制在 20 个 token 以内,遇到「语言」就停,打字机式实时返回,创意程度中等偏保守。
换成你自己的任务,顺序也一样:先定模型(要不要思考),再用 system 把规则写死,然后决定 temperature 和 top_p 二选一调,接着用 max_tokens 卡住长度,最后按交付方式决定 stream 开不开。
六、两个提醒
第一,参数是兜底,不是万能。提示词本身含糊,temperature 调到 0 也不会变准;反过来,提示词清楚,默认参数往往就够用。
第二,改参数要一次只改一个。同时动 temperature、top_p、max_tokens,输出变了你也说不清是哪个起的作用。原文这套配置之所以好懂,就是因为每个字段都有明确分工。
参数配置这件事,难点不在记住七个字段,而在知道哪个字段对应哪个毛病:答得太死板看 temperature,答得太发散看 top_p,答到一半断了看 max_tokens,结尾总带废话看 stop,等得着急就开 stream。对着症状调,比背默认值有用。
本文转载自掘金(掘黄金的打工人) 《DeepSeek 参数解读》,原文链接:https://juejin.cn/post/7702595202624913462。版权归原作者所有,如需删除请联系我们。