“上下文工程”有多强？ Andrej Karpathy称他为Phil Schmid文章，将上下文工程介绍给Hacker News的顶部，并领导了Zhihu搜索列表。我们之前介绍了工程工程的基本概念，现在我们谈论的是实用练习。为什么要专注于“上下文工程”，让我们容易拟人化llms-将它们视为可以“思考”，“理解”或“困惑”的超级助手。从工程的角度来看，这是一个重大错误。 LLM没有信念或目的，它是智能文本生成器。更准确的视图是：LLM是一般且不确定的操作。这种函数方法是：您给它一块文本（上下文），并形成新的文本（输出）。通常：这意味着它可以处理各种任务（例如翻译，编写代码），而无需单独编程每个任务。不确定：这意味着相同的输入，并且您每次都可以获得略有不同的输出。蒂S是它的特征，而不是问题。无状态：这意味着它没有内存。每次输入它时，您都必须提供所有相关的背景信息，以“记住”对话。这种观点很重要，因为它定义了我们的工作重点：我们不能更改模型本身，但是我们可以拥有完整的输入控制。所有优化的关键是如何开发最佳文本（即上下文）来指导模型以生成我们期望的输出。 “及时的单词项目”曾经很受欢迎，但它也强调了寻找“魔术咒语”的搜索。在实际应用程序中，此方法不可靠，因为“咒语”可能由于模型更新而失败，并且实际输入比单个句子指令更为复杂。一个更准确和系统的概念是“上下文工程”。两者之间的主要区别是：提示单词项目：主要是手动构想一小部分神秘的说明，例如唱歌。上下文上下文：主要是开发自动化系统，例如设计“信息管道”。该系统负责自动破解数据库，文档等信息，将其包装在完整的上下文中，然后将其馈送到模型中。正如Andrej Karpathy所说，LLM是一种新型的操作系统。我们的工作意志将不给它订单，而是为运行所需的所有数据和环境做准备。简而言之，“上下文的上下文”是创建一个“超级输入”工具。我们听到的各种时尚技术（例如抹布，代理）只是此工具箱中的工具。只有一个目标：以最合适的格式和最合适的时间喂食最有效的模型信息。以下是工具箱中的许多关键元素：指令：释放命令是最关键的事情，它将直接告诉模型该怎么做。例如，命令它“扮演专家”，或者显示一些示例，然后让它相应地学习。知道壁架：给“内存”模型本身没有内存，因此我们需要帮助它记住。 chatbotsa在其中，ipchat记录汇集在一起。如果记录太长，请进行“摘要”或仅保留最新的对话。工具：搜索改进的生成（RAG）：给它一本“开放书考试”的参考书。为了防止模型说话（引起幻觉），我们可以要求系统首先从我们自己的知识库（例如公司文档）中找到本质上的信息，然后提供“参考”和模型问题，以根据事实回答。代理：让它自行“检查信息”，这是一种更高级的播放方式。我们不再提前准备所有信息，而是让一个智能的“机构”根据信息本身需要判断，然后积极使用Atools（例如Internet搜索和数据库搜索）来找到答案，最后总结它们以解决问题。简而言之，所有这些方法，无论是简单的还是复杂的，这个问题：“我们如何为模型创建最完美的输入？”上下文工程的实用方法使用的LLM更像是进行科学实验，而不是制作艺术创作。您不能依靠猜测，您需要通过试验才能证明。工程师的基本能力不是写花哨的技巧，而是学习如何通过科学过程继续改善系统。此过程分为两个步骤：第一步：计划从后面到前面（设置目标→i -disassemper the Task），并将系统倒在Finalakas倒置。首先考虑终点：清楚地指定您想成为LLM输出（内容，格式等）的完美答案。获得此完美答案需要哪些原材料：LLM的输入（上下文）中应包含哪些信息？它定义了需要准备系统的“原材料包”。最后，设计“会议线”：计划一个可以自动生产此“原材料包”。步骤2：从前到后计划（构建构建块→最终组装）后，开始建造。关键是：建造一块，尝试一块，最后组装。首先尝试“数据接口”：确保可以稳定获得原始数据。尝试再次尝试“查找”：单独尝试搜索模块，以查看是否准确或不完整的信息。然后尝试“包装程序”：检查最终输入工作中累积所有信息（指令，数据）的程序是否正常工作。最后，进行了“最终组装测试”：在正确确认所有零件后，它们已连接并在末尾进行了测试。在这一点上，您可以完全专注于评估LLM输出质量，因为您知道它收到的输入绝对是正确的。主要思想是：通过严格的“首先计划，然后开发和测试步骤”的过程，我们将使用LLM从A更改通过政策感受工程科学的感觉。对于更具体的实际程序，您可以参考Langchain的最新博客和视频，该博客和视频详细介绍了上下文的四个基本引擎程序，并显示Langraph和Langsmith如何帮助Langchain生态系统帮助开发人员有效地实施工程的环境。博客地址：视频代理的上下文工程地址：代理的上下文（Langchain）
