用 temperature 和 top_k 控制大模型输出一个 LangChain 双链路实验同一个 Prompt为什么大模型有时写得很保守有时又充满想象力核心原因之一是模型不是每次都机械选择概率最高的下一个 Token而是会根据采样参数从候选 Token 中选择。本文基于一个 LangChain Demo搭建“创意写作”和“严谨写作”两条调用链对比temperature、top_k和 Prompt 工作流的作用。文中代码基于本地项目梳理运行未验证具体参数支持情况以模型服务商 API 文档为准。1. 大模型生成从概率分布中采样大模型每生成一个 Token都会预测候选 Token 的概率。候选 Token → 概率分布 → 采样策略 → 下一个 Token如果永远选概率最高的 Token结果通常稳定但可能重复、缺少变化。采样参数的作用是在“稳定”和“多样”之间找平衡。2. temperature控制发散程度示例中创建了两个ChatOpenAI实例constcreativeModelnewChatOpenAI({model:deepseek-v4-flash,temperature:0.8,topK:4,maxTokens:600,})constpreciseModelnewChatOpenAI({model:deepseek-v4-flash,temperature:0.2,topK:8,maxTokens:600,})可以先这样理解temperature较低更偏向高概率词输出更稳定temperature较高概率差距被拉平更多候选词有机会被选中表达更有变化。常见经验场景建议 temperature代码、事实问答、合同类文本0 0.3普通对话、改写、总结0.4 0.7文案、故事、头脑风暴0.7 1.0这不是固定标准。模型不同、Prompt 不同最佳值也不同必须通过样本评测确定。3. top_k先缩小候选集合top_k的思路是每一步只保留概率最高的 K 个候选 Token再从中选择。所有候选 Token → 只保留概率最高的 K 个 → 按采样策略选择K 较小时候选范围窄通常更保守K 较大时候选更多表达可能更多样。要注意不同模型服务对top_k的支持并不完全一致。有的服务只支持temperature或top_p调用前应阅读 API 文档并确认请求参数是否真正传递到服务端。4. 不要同时“拉满”多个随机性参数调参常见误区是同时将temperature、top_k、top_p调得很激进。这样即使输出变得新颖也容易降低稳定性。更可靠的实验方式固定模型版本、Prompt 和测试输入先只调一个参数记录输出的可读性、重复率、事实性和任务完成度选出合适区间后再调下一个参数。Demo 中用同一主题“秋日山野晚风”分别跑两条链就是“固定输入对比配置”的基本实验框架。5. LangChain 如何组织这条调用链Demo 用到了三个核心对象import{ChatOpenAI}fromlangchain/openaiimport{PromptTemplate}fromlangchain/core/promptsimport{StringOutputParser}fromlangchain/core/output_parsersPromptTemplate保存带{theme}变量的提示词ChatOpenAI调用聊天模型StringOutputParser把结果整理为字符串。Prompt 模板conststoryPromptPromptTemplate.fromTemplate(请你写一篇短篇散文主题{theme} 风格治愈温柔篇幅 200 字左右文字细腻又有画面感)通过pipe()按数据流顺序连接constparsernewStringOutputParser()constcreativeChainstoryPrompt.pipe(creativeModel).pipe(parser)完整数据流invoke({ theme }) → PromptTemplate 替换变量 → ChatOpenAI 请求模型 → StringOutputParser 提取文本顺序不能写反。模型需要接收格式化后的 Prompt而不是直接接收{ theme }这个普通对象。6. 两条链的价值constcreativeChainstoryPrompt.pipe(creativeModel).pipe(parser)constpreciseChainstoryPrompt.pipe(preciseModel).pipe(parser)同一个 Prompt 复用不同任务只替换模型配置。这种拆法有两个好处Prompt 和模型参数解耦便于维护可针对不同业务选择不同“输出风格”。例如营销文案可走创意链路提取结构化信息、生成代码说明时可走更稳定的链路。总结temperature控制概率分布的发散程度top_k限制采样候选集合。它们的目标不是单独追求随机或保守而是让输出匹配具体业务。LangChain 通过PromptTemplate → ChatOpenAI → OutputParser将 AI 调用拆成清晰的工作流。先固定测试集再逐项调参才能让“大模型随机性”变得可观测、可控制。