热门搜索!提示不再是人工智能的焦点,新的热门话题是在上下

作者: bet356亚洲版本体育 分类: 奇闻 发布时间: 2025-07-06 08:47
“上下文工程”有多强? Andrej Karpathy称他为Phil Schmid文章,将上下文工程介绍给Hacker News的顶部,并领导了Zhihu搜索列表。我们之前介绍了工程工程的基本概念,现在我们谈论的是实用练习。为什么要专注于“上下文工程”,让我们容易拟人化llms-将它们视为可以“思考”,“理解”或“困惑”的超级助手。从工程的角度来看,这是一个重大错误。 LLM没有信念或目的,它是智能文本生成器。更准确的视图是:LLM是一般且不确定的操作。这种函数方法是:您给它一块文本(上下文),并形成新的文本(输出)。通常:这意味着它可以处理各种任务(例如翻译,编写代码),而无需单独编程每个任务。不确定:这意味着相同的输入,并且您每次都可以获得略有不同的输出。蒂S是它的特征,而不是问题。无状态:这意味着它没有内存。每次输入它时,您都必须提供所有相关的背景信息,以“记住”对话。这种观点很重要,因为它定义了我们的工作重点:我们不能更改模型本身,但是我们可以拥有完整的输入控制。所有优化的关键是如何开发最佳文本(即上下文)来指导模型以生成我们期望的输出。 “及时的单词项目”曾经很受欢迎,但它也强调了寻找“魔术咒语”的搜索。在实际应用程序中,此方法不可靠,因为“咒语”可能由于模型更新而失败,并且实际输入比单个句子指令更为复杂。一个更准确和系统的概念是“上下文工程”。两者之间的主要区别是:提示单词项目:主要是手动构想一小部分神秘的说明,例如唱歌。上下文上下文:主要是开发自动化系统,例如设计“信息管道”。该系统负责自动破解数据库,文档等信息,将其包装在完整的上下文中,然后将其馈送到模型中。正如Andrej Karpathy所说,LLM是一种新型的操作系统。我们的工作意志将不给它订单,而是为运行所需的所有数据和环境做准备。简而言之,“上下文的上下文”是创建一个“超级输入”工具。我们听到的各种时尚技术(例如抹布,代理)只是此工具箱中的工具。只有一个目标:以最合适的格式和最合适的时间喂食最有效的模型信息。以下是工具箱中的许多关键元素:指令:释放命令是最关键的事情,它将直接告诉模型该怎么做。例如,命令它“扮演专家”,或者显示一些示例,然后让它相应地学习。知道壁架:给“内存”模型本身没有内存,因此我们需要帮助它记住。 chatbotsa在其中,ipchat记录汇集在一起​​。如果记录太长,请进行“摘要”或仅保留最新的对话。工具:搜索改进的生成(RAG):给它一本“开放书考试”的参考书。为了防止模型说话(引起幻觉),我们可以要求系统首先从我们自己的知识库(例如公司文档)中找到本质上的信息,然后提供“参考”和模型问题,以根据事实回答。代理:让它自行“检查信息”,这是一种更高级的播放方式。我们不再提前准备所有信息,而是让一个智能的“机构”根据信息本身需要判断,然后积极使用Atools(例如Internet搜索和数据库搜索)来找到答案,最后总结它们以解决问题。简而言之,所有这些方法,无论是简单的还是复杂的,这个问题:“我们如何为模型创建最完美的输入?”上下文工程的实用方法使用的LLM更像是进行科学实验,而不是制作艺术创作。您不能依靠猜测,您需要通过试验才能证明。工程师的基本能力不是写花哨的技巧,而是学习如何通过科学过程继续改善系统。此过程分为两个步骤:第一步:计划从后面到前面(设置目标→i -disassemper the Task),并将系统倒在Finalakas倒置。首先考虑终点:清楚地指定您想成为LLM输出(内容,格式等)的完美答案。获得此完美答案需要哪些原材料:LLM的输入(上下文)中应包含哪些信息?它定义了需要准备系统的“原材料包”。最后,设计“会议线”:计划一个可以自动生产此“原材料包”。步骤2:从前到后计划(构建构建块→最终组装)后,开始建造。关键是:建造一块,尝试一块,最后组装。首先尝试“数据接口”:确保可以稳定获得原始数据。尝试再次尝试“查找”:单独尝试搜索模块,以查看是否准确或不完整的信息。然后尝试“包装程序”:检查最终输入工作中累积所有信息(指令,数据)的程序是否正常工作。最后,进行了“最终组装测试”:在正确确认所有零件后,它们已连接并在末尾进行了测试。在这一点上,您可以完全专注于评估LLM输出质量,因为您知道它收到的输入绝对是正确的。主要思想是:通过严格的“首先计划,然后开发和测试步骤”的过程,我们将使用LLM从A更改通过政策感受工程科学的感觉。对于更具体的实际程序,您可以参考Langchain的最新博客和视频,该博客和视频详细介绍了上下文的四个基本引擎程序,并显示Langraph和Langsmith如何帮助Langchain生态系统帮助开发人员有效地实施工程的环境。博客地址:视频代理的上下文工程地址:代理的上下文(Langchain)

如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!