上一篇学习了 Agent 的基本概念这一篇主要学习 Prompt Engineering、文本分词Tokenizer、本地调用开源模型以及模型选型。一、Prompt Engineering提示工程Prompt 就是人与大语言模型沟通的方式一个好的 Prompt 能明显提升 Agent 的执行效果。1. 模型采样参数模型生成文本本质是在不断预测下一个 Token。常用参数Temperature控制随机性低稳定、准确问答、代码中自然聊天、客服高发散创作、BrainstormTemperature 越低越保守越高越有创造力。Top-k只保留概率最高的 k 个 Token 参与采样。Top-p保留累计概率达到 p 的 Token更灵活。一般Top-k 和 Top-p 二选一即可。2. Prompt 的三种方式根据示例数量分为Zero-shot不给示例直接下指令。One-shot给一个示例。Few-shot给多个示例效果通常最好。3. 指令调优Instruction Tuning早期模型更偏向文本补全需要多个示例。经过 Instruction Tuning 后模型能够直接理解自然语言指令因此现在的 ChatGPT、DeepSeek、Qwen 等模型都属于指令模型。4. 常见 Prompt 技巧Role Playing角色扮演赋予模型特定身份引导回答风格。In-context Example上下文示例提供输入输出示例约束输出格式。Chain of ThoughtCoT让模型一步一步思考适用于推理、计算、多步骤任务。二、Tokenization文本分词模型不能直接理解文本而是处理Token → Token ID。现代 LLM 基本采用子词Subword分词兼顾词表大小与泛化能力。BPEByte Pair EncodingGPT 系列采用 BPE。核心思想不断合并出现频率最高的相邻 Token逐步形成子词词表。后续算法WordPieceBERTSentencePieceLlamaTokenizer 对开发的重要性主要影响三个方面上下文窗口按 Token 计算API 成本按 Token 计费模型效果不同分词可能影响理解三、本地调用开源模型教程使用Qwen/Qwen1.5-0.5B-Chat基本流程安装依赖 ↓ 加载 Tokenizer ↓ 加载 Model ↓ 构造 Prompt ↓ Tokenizer 编码 ↓ Model.generate() ↓ Decode 解码 ↓ 得到回复整体流程可以理解为Prompt → Token → Model → Token → Text四、大语言模型选型模型选择需要综合考虑性能成本响应速度上下文窗口部署方式API / 本地生态工具可微调能力安全性主流模型闭源GPTGeminiClaude文心、混元、星火等特点能力强、开箱即用。开源LlamaQwenMistralChatGLM特点支持本地部署、可微调、自主可控。学习总结本章主要学习了 Prompt 工程、Tokenizer、开源模型调用以及模型选型。对 Agent 开发来说Prompt 决定模型输出质量Tokenizer 影响上下文、成本和效果模型选型需要在能力、成本和部署之间做权衡。