转载：释放大语言模型潜力的提示工程（综述译文·第 2 篇：进阶方法·下）

署名与许可（文首必读）

• 原作标题：Unleashing the potential of prompt engineering for large language models
• 作者：Banghao Chen、Zhaofeng Zhang、Nicolas Langrené、Shengxin Zhu（北师港浸大 广东省数据科学交叉研究与应用重点实验室；北京师范大学数学研究中心）
• 期刊正式版：Patterns（Cell Press），DOI: 10.1016/j.patter.2025.101260；开放获取全文见 PMC
• 本文翻译所据版本：arXiv:2310.14735v6（HTML 版：https://arxiv.org/html/2310.14735v6），首版 2023-10-23，本修订版 2026-08-24
• 许可：CC BY 4.0（arXiv 页标注 License: CC BY 4.0；PMC 页声明 open access article under the CC BY license）
• 是否修改：是。本文为原文第 3 节「进阶方法」后半（3.5 思维树至 3.12 推理与主动交互）的完整中文翻译，按原文顺序逐段译出；图示处以图题与中文说明呈现；正文引用保留原文「作者（年份）」格式。与「进阶方法·上」（3.1–3.4）合计覆盖第 3 节全文；全系列共 4 篇。
• 署名声明：译自 Chen, Zhang, Langrené, Zhu 的 Unleashing the potential of prompt engineering for large language models（arXiv:2310.14735v6 / Patterns 2025），采用 CC BY 4.0 许可，已作修改（翻译与排版）。

---

3.5 思维树（Tree of thoughts）

大语言模型中的「思维树」（Tree of Thoughts, ToT）提示是一种进阶方法：用结构化方式引导模型的推理与回答生成。它通过探索多条推理路径（称为「想法」）来增强解题能力。与传统线性提示不同，ToT 允许模型考虑多种可能解法与策略，包括前瞻、回溯与自我评估，从而更交互、更能适应当前任务复杂度。该方法推动复杂解题中的决策更动态、更审慎，超越僵硬的层级提示结构，走向更灵活、自适应的推理过程（Yao et al., 2023）。例如在复杂数学题上，ToT 会提示模型生成多种候选解并加以评估，而不是只要求给出一个答案。

Yao et al.（2023）表明，这种表述更通用，能处理标准提示可能力不从心的挑战任务。Long（2023）的另一项研究进一步强调：通过结构化思维过程，该技术有望提升大语言模型表现。

Hulbert（2023）提出「tree-of-thought prompting」：把 ToT 框架的基本原则吸收并转化为更精简的提示方法，使模型能在单一提示内评估中间认知构造。图 11 给出了一则 ToT 提示示例。

图 11：ToT 提示示例（Hulbert, 2023）。（原图见 arXiv HTML。）

3.6 思维图（Graph of thoughts）

与「思维链」或「思维树」范式不同，「思维图」（Graph of Thoughts, GoT）框架（Besta et al., 2023）以更精细的方式表示大语言模型生成的信息。其核心是把这些信息建模为任意图：信息的基本单元称为「LLM 想法」，表示为顶点；边表示顶点之间的依赖。这种表示允许任意组合模型想法，从而在输出中产生协同效应。

在应对复杂挑战时，使用 GoT 的模型可能先产生若干彼此独立的想法或方案，再按相关性与相互依赖把它们连接成图。该图可用多种遍历方式加以利用，使最终解既精确又全面，覆盖问题的多个侧面。

GoT 的效力扎根于其适应性与所能提供的深刻洞见，尤其适用于需要多面解法的复杂问题。但须认识到：虽然 GoT 为解题提供系统路径，也要求对主题有深刻理解，并仔细设计提示，才能达到最优结果（Wang et al., 2023）。

3.7 分解提示（Decomposed prompting）

分解提示（DECOMP，Khot et al., 2023）是一种模块化方法：把复杂任务拆成更简单、可管理的子任务。它借助大语言模型能力，让每个子任务由专门的处理器处理，从而简化解题并提高灵活性与效率。

关键组件见图 12。DECOMP 的核心是一个分解器大语言模型，它为复杂任务 (Q) 生成提示程序 (P)。程序 (P) 是一系列步骤，每一步把更简单的子查询导向辅助子任务函数集合 (F) 中的某个函数。程序可表示为：

[ P={(f_{1},Q_{1},A_{1}),\ldots,(f_{k},Q_{k},A_{k})} ]

其中 (A_{k}) 是 (P) 预测的最终答案，(Q_{i}) 是导向子任务函数 (f_{i}\in F) 的子查询。高层命令式控制器管理 (P) 的执行，在分解器与子任务处理器之间传递输入输出，直至得到最终输出。

为训练分解器，使用上下文内示例演示如何把复杂查询拆成更简单的子查询。每个示例如下：

[ E_{j}=\left(Q_{j},\left{(f_{j,1},Q_{j,1},A_{j,1}),\ldots,(f_{j,k_{j}},Q_{j,k_{j}},A_{j,k_{j}})\right}\right) ]

其中 (A_{j,k_{j}}=A_{j}) 是 (Q_{j}) 的最终答案，((Q_{j,1},\ldots,Q_{j,k_{j}})) 是 (Q_{j}) 的分解。每个子任务函数 (f) 通过子任务处理器落地，处理器可以是额外的大语言模型提示，也可以是符号或学习到的函数（Khot et al., 2023）。流程示意见图 13。

图 12：DECOMP 的关键组件。（原图见 arXiv HTML。）

图 13：DECOMP 流程示例。（原图见 arXiv HTML。）

DECOMP 有多项优势。其一，模块性使每个子任务处理器可独立优化、调试与升级，便于系统改进并接入新方法或模型。其二，可纳入纠错型子任务处理器，提高整体准确与可靠。其三，支持多样分解结构，包括层级与递归分解，对复杂大规模问题尤其有用。其四，子任务处理器可跨任务复用，提高效率。

DECOMP 与 Least-to-Most 提示（Zhou et al., 2023）都通过分解复杂任务来增强推理，但 DECOMP 以灵活的模块化方式区分自己：与 Least-to-Most「由易到难」的线性推进不同，DECOMP 允许非线性与递归分解，并由可独立优化与替换的专用子任务处理器执行。这种模块性不仅增强跨任务灵活性与复用，还引入潜在纠错机制，使 DECOMP 在复杂多步推理上更稳健、更可适配。尽管 DECOMP 在符号推理与多步问答等特定领域表现更优，相对 Least-to-Most 的优势仍可能因任务性质而异（Khot et al., 2023）。

案例中，DECOMP 在多种场景表现更优。例如在第 k 个字母拼接任务中，通过进一步分解「提取第 k 个字母」子任务，DECOMP 优于 CoT。在列表反转中，通过递归把任务拆成反转更小子列表，DECOMP 比 CoT 表现出更好的长度泛化。在长上下文问答中，DECOMP 能容纳比 CoT 可行范围更多的示例，从而提升表现。在开放域问答中，在 DECOMP 框架内接入符号检索 API，相对 CoT 提升了多跳问答数据集表现。在数学问答中，通过对 CoT 提示做后处理以修复常见格式错误，DECOMP 带来显著准确度提升（Khot et al., 2023）。

借助 DECOMP 的模块化、灵活与系统化路径，复杂任务可被有效分解与求解，相对传统 CoT 及其他当代方法展现出优势。

3.8 主动提示（Active prompt）

采用主动提示方法（Diao et al., 2024）标志着大语言模型用于复杂推理任务的重要进展。该方法并不涉及传统前缀微调（prefix-tuning，Li and Liang, 2021），而是通过策略性地选择并标注任务专用示例来提升推理能力。系统地选择并标注最不确定的问题，既能细化模型理解，也能更有效地运用人类专长（Sahoo et al., 2024）。流程从为每个问题生成多个预测开始，再用分歧、熵、方差等多种指标计算不确定性（Settles, 2009；Culotta and McCallum, 2005），确保优先标注最具信息量的问题。人工标注阶段至关重要：需提供详细的思维链推理与答案，再在推理时用作提示示例，引导模型走过复杂推理路径并提升预测准确度。再结合自洽（Wang et al., 2023）技术，从多条推理路径中选出最一致的答案。该方法的关键创新在于找出最高效的单样本或少样本（Logan IV et al., 2022）示例，从而提升特定领域推理能力。完整流程示意见图 14。

图 14：主动提示全流程示意。（1）不确定性估计；（2）收集、排序与选择；（3）人工标注；（4）推理。（原图见 arXiv HTML。）

主动提示的主要收益包括：高效的任务适配，以及在多种推理领域的显著表现提升。这一思路与更交互、更自适应的 AI 系统趋势一致，强调提示工程中响应式设计的重要性。它通过聚焦最不确定、最具信息量的问题来降低人工工程量，是推进大语言模型能力的重要工具：既提升任务专用提示质量，也最大化人类专长的使用（Diao et al., 2024）。

3.9 提示模式目录（Prompt pattern catalog）

提示模式目录（White et al., 2023）是一组有组织的提示模板与模式，用于增强提示工程有效性，尤其面向 ChatGPT 等大语言模型。该方法创建标准化的提示模式集合，可跨任务应用，保证一致性，并通过系统化提示设计优化模型表现。有了目录，研究者与实践者能对提示工程保持一致做法，减少临时拼凑带来的变异与错误（White et al., 2023；Desmond and Brachman, 2024）。预定义模式能精简流程、节省时间：选择并改编模式，而不是从零编写。设计良好的目录覆盖多种情境与应用，使模型能通过选取最合适模式快速适配新任务与新领域。系统使用经优化的模式能提供更有效、更合语境的提示，从而改善任务专用结果（Mondal et al., 2024）。

研究的核心方法是概念化并应用提示模式：它们是与大语言模型交互时常见问题的可复用解法，类似于软件工程中的设计模式，为提升输出与交互质量提供结构化、可文档化的路径。文档化框架包含详细结构，确保模式可跨领域适配（White et al., 2023）。

为系统分类，作者将模式分为五类：输入语义、输出定制、错误识别、提示改进与交互。该分类按功能角色与所解决问题组织模式。在此框架下，研究给出 16 种提示模式目录，每种均细致记录：名称与分类、意图与语境、动机、结构与关键思想、示例实现、实践后果。例如，输入语义类含「元语言创建」，用于为大语言模型定义自定义输入语言；输出定制类含「输出自动化器」「可视化生成器」等；错误识别类如「事实检查清单」；提示改进类包括「问题精炼」「替代路径」；交互类如「翻转交互」「游戏化」。研究还强调组合使用这些模式以应对更复杂的提示工程任务，并通过详细示例展示如何整合多种模式（White et al., 2023）。

相关研究支持目录的有效性：White et al.（2023）概述目录可提升提示工程的有效性与效率；Mondal et al.（2024）探讨预定义结构化模式如何增强对话式 AI 中的用户交互与模型输出；Desmond and Brachman（2024）考察企业场景中的提示工程模式；White et al.（2023）还强调其在软件开发中对代码质量、需求梳理与重构效率的改进。

3.10 提示优化（Prompt optimization）

在大语言模型提示工程领域，写出有效提示仍因大量人工与专长要求而构成障碍。提示优化通过对输入提示做系统精炼来提升表现：调整提示以提高准确与相关，减少手工试错。

已有多种自动化提示优化方法，包括基于梯度的方法如带文本梯度的提示优化（ProTeGi，Pryzant et al., 2023），用基于文本的梯度迭代精炼提示；以及仅依据输出表现、无需模型内部的黑盒方法。另有模型自适应技术，如模型自适应提示优化（MAPO，Chen et al., 2023），按具体大语言模型特性定制优化。梯度方法高效且有方向；黑盒方法适用范围广、易实现；模型自适应方法可为特定模型提供定制优化。选择取决于任务需求、模型复杂度与可用资源。

3.10.1 带文本梯度的提示优化（ProTeGi）

ProTeGi（Pryzant et al., 2023）受梯度下降启发，但把该概念适配到自然语言处理离散、非参数的特性。它不依赖数值梯度，而是生成「文本梯度」：基于小批量数据上的表现，用自然语言描述给定提示的缺陷，指示提示需要改进的语义方向。

ProTeGi 再把这些文本梯度用于沿相反语义方向修改提示，类似于语言空间中的反向梯度下降。迭代过程由束搜索与 bandit 选择策略引导，高效探索可能提示空间并选出最有希望的候选（Pryzant et al., 2023）。

ProTeGi 已在情感分析、假新闻检测以及大语言模型越狱检测等 NLP 任务上验证：相对初始提示可提升最多约 31%，并在效率与准确度上超过既有提示优化方法。该方法为提示工程提供稳健、数据驱动且可扩展的方案，且无需访问大语言模型内部状态（Pryzant et al., 2023）。

3.10.2 黑盒提示优化（BPO）

近期研究关注在不重新训练模型的情况下对齐大语言模型与人类意图。传统对齐技术如 RLHF、DPO 通常需要大量算力与对模型参数的直接访问，对 GPT-4、Claude-2 等闭源模型并不总是可行或高效。为此，Cheng et al.（2024）提出黑盒提示优化（BPO）：仅通过提示优化增强对齐。

BPO 把焦点从「以模型为中心」转到「以输入为中心」：关键是精炼用户提示，而不是改模型内部参数。它利用含人类偏好的既有数据集，构造「原提示—优化提示」对，再训练序列到序列模型来改写提示，使大语言模型输出更贴近人类期望（Cheng et al., 2024）。

BPO 的优势包括：模型无关，可跨开源与 API 型模型使用而无需访问内部；可解释性更强，对提示的改动透明可观察；实证显示 BPO 能改善 GPT-3.5、LLaMA-2 等模型的对齐，并在单独或与 RLHF/DPO 联用时表现突出（Cheng et al., 2024）。

3.10.3 模型自适应提示优化（MAPO）

传统提示优化多聚焦「为任务定制提示」。Chen et al.（2023）强调：提示不仅要适配任务，还要适配不同大语言模型的具体特性，由此提出 MAPO。MAPO 用两阶段优化：先建立热身数据集，生成并评估候选提示对各模型的适配性；再结合监督微调（SFT）与强化学习（如 PPO、RRMF）精炼提示，使其符合各模型偏好。

实证表明，相对常规任务专用优化，MAPO 在问答、分类与文本生成等任务上显著提升表现，把「一刀切」转向更细致的模型专用策略（Chen et al., 2023）。

3.10.4 PromptAgent

PromptAgent 方法把提示优化框定为战略规划问题。其核心之一是使用蒙特卡洛树搜索（MCTS）在专家级提示的广阔空间中战略导航。与通过局部变异生成提示的常规方法不同，PromptAgent 采用试错机制，受人类解题启发，根据错误反馈迭代精炼提示，模拟未来奖励并优先高奖励路径（Wang et al., 2023）。另一核心例如 PromptSource（Bach et al., 2022）通过数据集探索、提示编写与文档化，为约 170 个数据集收集超过 2000 条开源提示。

PromptAgent 已在通用 NLP 挑战与生物医学文本处理等域专用应用上验证：自主生成的提示纳入域知识与细致任务指令，持续优于人工设计提示及其他自动化优化方法（Wang et al., 2023）。

3.10.5 强化学习

用于提示优化的强化学习（RL）通过迭代精炼训练与推理时的提示来提升大语言模型表现。定义奖励函数评估不同提示的有效性，模型据此经多轮迭代调整提示，使提示演化以最大化目标任务表现（Deng et al., 2022）。

以视觉问答（VQA）为例：模型可从一组初始提示开始，根据答案准确度迭代精炼。若问「图中汽车是什么颜色？」，初始提示可能产生多样回答；奖励函数评估这些回答，偏向导向正确答案的提示。多轮之后，模型学会生成更精确的提示，提升今后类似问题的准确度（Awal et al., 2024）。

3.10.6 GPTs（插件）

在结束提示优化讨论前，需提及近期出现的外部提示工程助手：它们分析用户输入并在其自定义语境中产出相关输出，从而放大提示效力。OpenAI GPT 商店中的一些插件即是例子（OpenAI, 2023）。图 15 展示了若干专注生成或优化提示的 GPT 应用。

图 15：专注生成或优化提示的 GPT 应用示例（OpenAI, 2024）。（原图见 arXiv HTML。）

在某些实现中，插件定义被写入提示，从而改变输出（Bisson, 2023）。这会影响模型如何解释与响应提示，体现提示工程与插件之间的联系。插件减轻繁琐的复杂提示工程，使模型无需过分细节化的提示也能更好理解或响应用户。例如 AISEO 的「Prompt Enhancer」可用以「AISEO」开头的提示自动增强提示；「Prompt Perfect」可用以「perfect」开头自动增强提示（whatplugin.ai, 2023；AISEO.ai, 2023；ChatGPT for Search Engines, 2023；Prompt Perfect, 2023）。不过，由于多数插件闭源，往往难以弄清其具体采用了哪种（或哪几种组合的）提示工程技术。

3.11 检索增强（Retrieval augmentation）

提示工程研究的另一方向旨在减少幻觉。使用 GPT-4 等 AIGC 工具时，常见「幻觉」：生成内容语法正确，却与事实不符或缺乏真实数据支持（Lee et al., 2018；Maynez et al., 2020）。幻觉出现，可能是因为训练数据中证据不足，或模型在追求流畅连贯时过度泛化某些模式（Ji et al., 2023）。

减少幻觉并增强提示效力的一种做法是检索增强：把最新外部知识纳入模型输入（Lazaridou et al., 2022；Jiang et al., 2023）。它正成为从外部来源检索事实的 AI 框架。Ram et al.（2023）考察通过并入外部信息来增强上下文检索，提出把从外部来源获得的相关信息直接拼接到提示上，作为输入大语言模型的基础知识；并引入自回归检索与解码技术。研究表明：基于现成通用检索器构建的上下文检索增强语言模型，能在多种模型规模与多样语料上带来显著提升。Shuster et al.（2021）表明，通过研究 RAG（Lewis et al., 2020）、Fusion-in-Decoder（Izacard and Grave, 2020）、Seq2seq（Lewis et al., 2020；Raffel et al., 2020；Roller et al., 2021）等检索增强实现，GPT-3 可减少幻觉。Dhuliawala et al.（2023）提出验证链（CoVe），让模型在自我纠正前先审议自己的回答，并推测结合检索增强可能带来进一步收益。UNIWEB（Li et al., 2023）把知识密集型任务转为统一的文本到文本框架，并把网络当作通用知识来源。

3.12 推理与主动交互

本小节探讨两种进阶技术：通过外部工具或其他行动能力，把推理与交互结合起来增强大语言模型。自动推理与工具使用（ART）把 CoT 提示与专用工具结合，引导多步推理并接入计算器、数据库等资源，提升逻辑连贯与准确。ReAct 框架（Reasoning and Acting）把推理与可执行步骤协同：提示模型设计逻辑序列并与外部工具动态交互，从而高效处理复杂多步任务。ART 与 ReAct 都代表提示工程的重要进展，通过整合推理与交互，扩展大语言模型可可靠完成的任务范围。

3.12.1 自动推理与工具使用（ART）

ART 是一种进阶提示技术：把自动 CoT 提示原则与策略性使用外部工具相结合，通过引导多步推理并借助专用工具，提升大语言模型推理能力与输出相关准确度（Paranjape et al., 2023）。

ART 建立在 CoT 之上：鼓励模型在给出最终答案前生成中间推理步骤；这些步骤再由计算器、数据库或其他软件等外部工具增强。工具整合帮助模型完成需要精确计算、最新信息或专门数据处理、而单靠模型本身难以有效处理的任务。

例如，用 ART 设计的提示可先引导模型列出求解复杂数学题所需步骤，再调用计算器完成计算，使输出既逻辑连贯又计算准确。Greyling（2023）等表明，ART 能通过把任务拆成可管理步骤并在各阶段使用合适工具，帮助模型更有效地在复杂问题空间中导航；在自动化客服等需动态访问与处理信息的 NLP 任务中已有积极结果（Vinija, 2023）。Badhan（2023）也探讨进阶 ART 技术以提升 AI 应用准确与可靠。这些发现强调 ART 对增强大语言模型功能与表现的重要性，尤其适合需要具体精确输出的技术解题任务，如财务计算或数据分析。

3.12.2 ReAct 框架

ReAct（Reasoning and Acting）把推理与行动过程协同起来，使大语言模型不仅能想通问题，还能与外部工具和环境交互，以获得更准确、更合语境的结果。

其运作方式是：提示模型同时生成推理轨迹与任务专用行动。模型先思考问题、设计逻辑思想序列，再执行可能包括查询外部数据库、使用计算器或与其他软件交互的行动。这对需要细致推理后再采取具体行动的场景尤其有效，使模型能高效处理复杂多步任务（Yao et al., 2023）。

例如在财务分析任务中，ReAct 会先提示模型列出评估投资组合所需步骤，随后使用财务分析工具获取当前市场数据并计算，再把结果并入最终分析。相对静态提示，这种「推理 + 行动」组合带来更稳健、更可靠的结果。图 16 给出另一具体示例。

图 16：ReAct 方法示例。（原图见 arXiv HTML。）

通过整合推理与行动，ReAct 使大语言模型能做出更知情、更准确的决策，尤其在金融、医疗与法律分析等领域——决策必须基于全面数据与逻辑推理（Li, 2023）。与外部工具交互也有助于使用最新、相关信息，降低因过时或不完整数据导致的错误（Roberts, 2023）。

实现 ReAct 并非琐事：需要开发能同时引导思维过程与行动的提示，要求对任务与可用工具有细致理解，确保模型能从推理平滑过渡到行动。

---

本篇范围说明：第 2 篇（下）覆盖第 3 节 3.5–3.12，与「进阶方法·上」（3.1–3.4）合计完成第 3 节。若希望严格「第 2 篇 = 整节 3」，可以把上、下合并为一篇再发。后续第 3、4 篇计划覆盖多模态方法、评测、应用与安全等章节。

上一篇：进阶方法·上（3.1–3.4）。已上线：第 1 篇。

再分发时请保留

1. 署名全体作者 Banghao Chen、Zhaofeng Zhang、Nicolas Langrené、Shengxin Zhu；
2. 标明许可 CC BY 4.0，并注明本文为翻译、已作修改；
3. 链接原文：arXiv 2310.14735v6，以及期刊 DOI 10.1016/j.patter.2025.101260；
4. 如需引用学术结论，请以期刊正式版或 arXiv 原文及其参考文献为准。