结构化输出和思维链:增强GPT-4o完成

Foto di Bernice Chan: https://www.pexels.com/it-it/foto/matematica-figure-figurine-apprendimento-3649874/

介绍

在人工智能不断发展的领域中,以迅速进行工程处理已经成为发挥大语言模型潜力的关键技能。在各种技术中,有一种因其高效性和简单性而脱颖而出:指导模型在生成回应之前“思考”。这种方法被称为Chain of Thought (CoT),通过GPT-4o的结构化输出功能的引入,使其达到了新的高度。让我们探讨这种创新是如何改变AI交互游戏的。

逐步思考的力量

如果您花时间尝试使用像ChatGPT、Claude或Llama这样的人工智能模型,您可能会遇到提示,比如“逐步思考”,“解释您的推理”或“在回答之前反思”。这些提示旨在引导人工智能进行逻辑思维过程,就像我们处理复杂问题的方式一样。

这种技术不仅仅是一个技巧;它是改进人工智能性能的基本方法。通过鼓励模型将推理分解成步骤,我们让它可以:

1. 有效地组织其广泛的知识 2. 确定并纠正其逻辑中的潜在错误 3. 提供更透明和可追踪的输出

GPT-4o:把思维链推向更高水平

OpenAI 最新的语言模型,代号为“草莓”(o1-preview),经过特别训练,可以将这种逐步方法应用到遇到的每个任务上。这意味着模型本身处理问题时会采用更有结构和深思熟虑的方法,即使没有明确的指令。

结构化输出:一个新的API功能

GPT-4o中最令人振奋的发展之一是在API级别引入了Structured Output。这一功能允许开发人员轻松实现一系列思维推理,方法是创建一个验证模式,促使模型填充其思维过程。

这是如何运作的:

  1. 开发人员定义他们期望输出的结构。
  2. 模型使用其推理步骤填充此结构。
  3. 最终输出是基于这个结构化思维过程生成的。

就像在OpenAI文档页面上找到的下面例子一样。

from pydantic import BaseModel
from openai import OpenAI

client = OpenAI()

class Step(BaseModel):
explanation: str
output: str

class MathReasoning(BaseModel):
steps: list[Step]
final_answer: str

completion = client.beta.chat.completions.parse(
model="gpt-4o-2024-08-06",
messages=[
{"role": "system", "content": "You are a helpful math tutor. Guide the user through the solution step by step."},
{"role": "user", "content": "how can I solve 8x + 7 = -23"}
],
response_format=MathReasoning,
)

math_reasoning = completion.choices[0].message.parsed

这种方法提供了几个好处:

  • 改进性能:通过遵循清晰的结构,模型更不容易出现逻辑跳跃或忽略重要细节。
  • 更容易的调试:开发人员可以追踪模型的思维过程,更容易地确定错误发生的位置和原因。
  • 强化定制:结构可以根据特定用例进行定制,确保模型的推理与手头的任务保持一致。

对于即时工程的影响

结构化输出的引入将彻底改变即时工程实践。开发人员现在可以更直接地引导模型的思考过程,而不仅仅依靠巧妙措辞的提示。这种转变承诺:

  • 减少与及时工程常见的试错。
  • 创建更加一致和可靠的输出结果,适用于不同的查询。
  • 启用更复杂和细致的与AI模型的交互

一句警告

虽然思维连锁和结构化输出提供了令人兴奋的可能性,但重要的是要注意它们并非普遍有益处。最近的研究表明,思维连锁的有效性可能会因特定任务和领域而异。

与AI工具箱中的任何工具一样,关键是测试并评估其对您特定用例的影响。对于一个应用程序效果卓越的方法,可能对另一个应用程序不那么有效。

结论

在GPT-4o中集成思维链和结构化输出代表了我们与AI模型互动和利用的重大进步。通过提供逐步思考的框架,我们不仅改善了模型的性能,还洞察了其认知过程。

随着我们继续探索人工智能的新领域,关键是要既充满热情又进行批判性评估来对待每一项创新。人工智能互动的未来不仅在于更强大的模型,还在于我们引导并理解它们的推理能力。

你在提示中尝试过思维链吗?你有什么经历?在下面的评论中分享你的想法和见解!

引用文章:[2409.12183] 使用CoT还是不使用CoT?思维链主要有助于数学和符号推理(arxiv.org)

#人工智能 #提示工程 #GPT4o #结构化输出 #思维链

2024-10-03 04:15:55 AI中文站翻译自原文