本文将系统拆解 Agent 的底层原理与设计逻辑,帮助产品人理解如何从技术组件走向产品能力,构建真正可用、
从 LLM 到工具调用,从记忆机制到任务规划,Agent 的四大核心能力构成了其“类人智能”的基础,也决定了其在实际场景中的落地深度。
本文将系统拆解 Agent 的底层原理与设计逻辑,帮助产品人理解如何从技术组件走向产品能力,构建真正可用、可控、可演化的智能体系统。
之前发过一篇落地Agent必做的六件事Agent没人用?是你没做对这6件事(含0-1医疗Agent真实复盘),随着最近对Agent研究的更加深入,我认为有必要拆解一下其原理。
我去阅读了Agent相关的论文,又试用了现有的Agent产品,有众所周知的独立Agent:如manus、loveart,也有嵌入现有App的Agent:如夸克搜索Agent、飞猪旅行Agent、淘宝AI万能搜等。
我发现独立Agent一般都“高调登场”,尽其所能向全世界宣布“我来了!”
而大厂现有产品中的Agent功能上线普遍比较“低调”,一定会经过长时间的内测、灰度,才会小范围上线,例如“淘宝AI万能搜”至少是在半年前就听说在做,至今才上线。
虽然“淘宝AI万能搜”没有特别惊艳,但整体的使用体验,在各类导购型Agent中,算是数一数二的了,下图有入口,大家有兴趣可体验。
接下来,我会拆解一下 Agent 的组成结构:包括它是怎么规划任务的、怎么调用工具执行、又是如何记住上下文和偏好的。
这不仅是理解 Agent 的方式,也是一种全新的产品设计范式。
首先,我们可以把 Agent 想成是一个终于长出了“手脚”和“记忆”的大模型,是一个能完成复杂任务、能打配合、还能持续优化执行路径的“数字助理”。
它的基本组成有 4 个关键部件:大模型( LLM )、工具使用(Tools)、记忆(Memory)、规划能力(Plan)。
在聊 Agent 是怎么动手干活之前,我们得先搞清楚一个问题:Agent 到底是怎么“理解人话”的?
答案就是——它的“大脑”是 LLM(大语言模型)。
LLM,全称是 Large Language Model(大语言模型),简单来说,它是一个在海量文本上训练出来的“预测机器”——你输入一句话,它预测你可能想听什么,输出相应的内容。
那它是怎么预测的呢?本质上,LLM 是基于上下文预测下一个词的概率模型。
它不会“理解”你说了什么(它没有真正的意识),但它非常擅长从大量语言数据中学习出哪些词是“最可能”出现在当前语境后面的。
举个简单的例子:假设你对 LLM 说了一句话开头:“我今天早上喝了一杯……”
它会从它学过的海量数据中判断,这个位置最有可能出现的词是什么,
“咖啡” → 可能性 42%“奶茶” → 可能性 27%“白开水” → 可能性 12%“酒” → 可能性 3%“电视” → 可能性 0.01%(不合常理)于是,模型就选了概率最高的词 —— “咖啡”。
下一步,它再接着预测下一个词,比如:“我今天早上喝了一杯咖啡,然后……”
“去” → 32%“就” → 25%“感觉” → 20%“跑” → 10%就这样一个词一个词地接下去,每一步都在预测“最有可能”出现的词。
这也解释了 LLM 的一个典型特性:它不是“在思考”,而是根据概率生成最合理的内容。
虽然 LLM 听起来就已经很厉害,但它其实像是一个天赋极高但不具备行动能力的智者(类似于《权力的游戏》中布兰·史塔克),你让它分析,它能讲得头头是道;
但让它去干活,比如查实时票价、登录网站、下订单……它就祭了。
一句话总结它们的区别:
在真实世界中,我们做的事情往往是「多步骤+跨工具+有明确目标」的,比如:
想写一篇竞品分析报告 → 需要查询多个网站 → 提炼关键信息 → 写文章/写PPT想订一张机票 → 需要查航班 → 比价 → 下单 → 记录日程如果 AI 只会告诉你怎么做,而不能替你去做,等于你还是得一个个页面点,一个个 app 切换,根本没有省下多少精力。
而 Agent 就是为了实现“从知道怎么做 → 真的帮你做”而诞生的。
它以 LLM 为“核心”,再配上工具调用、任务规划、上下文记忆能力,最终进化成的一个可以自主完成任务的数字助理。
如果说 LLM 是 Agent 的“大脑”,那 Tools 就是它的“手脚”——真正能下场干活的部分。
LLM 虽然能回答很多问题,但它本质上是个封闭系统。
它的知识截止于训练时间,不能联网、不能读网页、不能主动获取最新的数据。
你问它“明天北京天气怎么样”,它只能说“我无法访问实时信息”。
但换个方式:让它调用一个天气 API,它就能给你答得头头是道。
工具是补上 LLM 无法“感知现实世界”的那一块短板,让它不止能说,还能查、能干、能动。
典型工具调用案例:
GPT + Bing 浏览器插件:用户问“最新的iPhone15什么时候发布”,模型就能自动调用 Bing 搜索 API 来实时抓网页、读内容、生成摘要,信息比默认 LLM 更新、更准确。
携程问道:当用户说“帮我找一张下周去广州的便宜机票”,它会调用航旅票务系统获取实时航班信息->查询用户评价、机型舒适度->返回结构化选项卡(含票价、时间、直飞/中转等标签)。
当用户告诉 AI 要去成都玩 3 天、预算 2000、喜欢住民宿、不吃辣,它会立马埋头开始规划,但下一轮用户补充一句“酒店预算可以放宽点”,它若回复:“您要订哪里的酒店?”用户会不会很崩溃?
这正是没有“记忆能力”的 Agent 经常暴露出的尴尬瞬间。
因此真正能完成完整任务的 Agent,往往都拥有一定程度的记忆能力,而这份“记性”,是它能否从“工具”升级为“助理”的关键。
Agent 记忆可以分为三类:
1、短期记忆
定义:短期记忆主要通过上下文学习实现,上下文学习指的是利用Prompt中包含的相关信息来改善生成结果的能力。
局限性:
上下文窗口的长度限制了LLM可以有效利用的短期记忆容量。当输入Prompt过长时,LLM可能会出现“中间丢失”的现象,即模型难以有效地利用Prompt中间部分的信息。
案例:用户说“我想订去成都的票”,“下午也可以”→ LLM需要通过短期记忆知道“下午”指的是“飞成都的航班”。
2.长期记忆
定义:长期记忆使AI Agent能够跨多次交互存储和检索信息,提供持续性和个性化体验。
虽然无法在每次对话中将用户的所有历史会话都纳入Prompt,但可以通过特定的存储机制保留关键信息,并在需要时检索以补充上下文。
存储内容:
关键事实,如用户的职业、兴趣或重要事件;用户偏好,如喜欢简洁回答或偏好某种语言风格;
历史决策,如用户过去的选项选择或行为模式。
案例:讯飞晓医会自动记录用户的年龄、性别、慢性病史,用户下一次打开时,只需说“我最近又咳嗽了”,它就能结合既往记录推荐就诊科室或用药建议。
3.记忆反思
定义:指Agent分析其存储的记忆,从中提取经验教训或模式,以优化未来的行为和决策,这一过程类似于人类通过回顾过去来改进当下的能力。
Agent的“反思”方式:
从交互中学习,通过分析历史记录,识别重复出现的模式或错误,并调整策略;个性化响应,利用长期记忆中的用户偏好,Agent能为每个用户量身定制回答;
优化决策,通过反思历史决策,Agent能在相似场景下做出更优选择;
知识积累,随着时间推移,Agent构建并完善知识库,提供更准确、更有深度的回答。
通过记忆反思,Agent从静态的响应工具转变为动态的学习者,这种能力不仅提升了回答的质量和效率,还使Agent更具适应性,能够应对复杂的用户需求和变化的场景。
真正能解决任务的 Agent,一定拥有 Plan,也就是“规划”的能力。
这份能力,才是它从“语言模型”迈向“任务执行器”的核心跨越。
Plan,说白了就是让 Agent 具备拆任务、排顺序、定策略、协调执行的能力。
不是“你问我答”,而是“你交代任务,我安排流程”。
这件事的难点不在“调用工具”,而在于:在合适的时机,用对的工具,干对的事。
Plan 的三大关键能力:
理解任务目标:Agent 不只是听懂语义,还要明确用户到底要解决什么。用户说“我想去成都玩三天”,它要理解你不是“想了解成都”,而是“希望获得一份可落地的三日行程安排”。
拆分子任务:一个目标往往需要多个步骤配合完成:订机票->找酒店->安排行程(分三天)->推荐美食和交通。
每一步都依赖上一步的结果。
排定执行顺序并动态调整:Agent 需要知道什么任务必须先做(如订机票定时间),什么可以后做(如安排餐馆),还要根据用户反馈随时调整计划。
比如:用户突然说“我不想住民宿了”,它就要重新筛选酒店、更新交通方案,而不是“重来一次”。
当前主流的 Plan 实现方式有四种:
1、按提示词进行规划
靠设计 prompt引导大模型“自己”拆解任务,好处是轻量、快上手,缺点是稳定性差、难跟踪,例如让 ChatGPT 写一份面试准备清单,它靠 prompt 自动列出流程,但中途改需求就崩。
2、按规则进行规划
通过 if-else 或流程图硬编码规则,适合流程固定、变化少的场景,例如企业对话机器人。
3、用代码规划进行规划
用代码构建任务图或执行链,每一步都显式定义,逻辑可控、可追踪,例如LangChain 的 AgentExecutor、AutoGPT 的多步指令系统。
4、LLM + Planner 模块
LLM 负责意图理解和任务拆解,Planner 模块协调任务流、调用工具、管理状态,这是当前最灵活、最强大的方案,例如Manus就是用这种方式。
以飞猪 Agent 为例:用户说:“我想从北京去成都玩 3 天。
”
LLM理解意图:出行需求 + 时间 + 地点Planner拆解任务:查航班 → 筛酒店 → 生成行程 → 输出总结卡片Tool调用:航旅 API、价格比价、地图服务、用户偏好筛选Memory 记忆:用户预算、是否携带老人、对餐饮的偏好Plan 全程串联:每一步都按依赖顺序执行,中间结果还能被动态更新最后用户收到的是:已查航班->推荐酒店卡片->导出日程->推荐用户偏好的餐馆
我曾经以为 AI 只是个更聪明的工具,现在慢慢发现,它已经逐渐变成了“能干活的搭子”。
但也别高估现状——现在市面上大多数 Agent,不管名字起得多响,很多其实还停留在“半搭子”状态:
有的会拆任务,但不会调合适的工具;有的记住了用户过多偏好,导致用户对话始终在自己的“记忆”中打圈圈;
有的做完了第一步,却走错了下一步,想修改却在错误的道路越走越远。
所以,真正好的Agent,是它能否像一个“产品经理+研发”——不仅能准确理解用户的需求,还能将大目标拆解成可执行的小任务,并能在复杂路径中灵活调整,最终把事办成。
我心中最理想的Agent,就是《终结者2:审判日》中的T-1000,它不是一个被动执行命令的机器人,而是一个具备高度自主性和适应能力的终结者Agent。
规划与执行:它的核心任务是追杀约翰·康纳。
它能根据环境变化(例如,约翰逃跑的方式、交通工具的选择),实时调整自己的追捕策略,而不是简单地遵循固定路径。
图:T1000通过液体形态进入直升机,去追杀康纳
工具调用:它能将自己的身体形态转变为各种工具(如刀、钩),甚至伪装成人类,这就像Agent能灵活调用不同的外部工具来完成任务。
持久记忆:它能记住目标人物的特征、声音,并利用这些记忆进行伪装和诱捕,这完美体现了Agent的长期记忆能力。
图:T1000伪装成康纳的养母,并用剑杀死了康纳的养父
本文由 @AI产品泡腾片 原创发布于人人都是产品经理。
未经作者许可,禁止转载
题图来自Unsplash,基于CC0协议
马修·卡索维茨将AI技术称为"我们所需要的最后一件艺术工具",并对外界关于AI侵犯知识产权的担忧不以为然,他在接受《卫报》采访时直言:"版权算什么。
" 这位获奖无数的导演兼演员,正在筹拍一部几乎完全由AI技术实现的电影,该片改编自埃德蒙-弗朗索瓦·卡尔沃于20世纪40年代创作的战时漫画。
他同时预言,第一批AI电影明星即将登场。
卡索维茨表示,尽管其他电影人担心AI生成的人物角色毫无灵魂,但他最近看到一个AI角色时,竟被其"眼中流露出的情感震惊得不寒而栗"。
"现在,所有人都心存恐惧,"他说,"但在未来几年内,你将看到真正优秀的AI超级明星。
会有AI演员拥有数百万粉丝,他们会活在你的手机里,当他们为某部电影做宣传时,你可以直接与他们对话。
" 卡索维茨对AI代表电影未来的坚定支持,出现在第二届世界AI电影节上,该活动在戛纳举行。
同月,戛纳主电影节宣布,官方竞赛单元禁止AI生成影片参赛。
电影节主席艾里斯·克诺布洛赫表示:"AI模仿能力很强,但永远无法真正感受深层情感。
" 然而,现年58岁的卡索维茨——其1995年执导的《火爆街头》曾斩获三项凯撒奖——却表示,"两年后,没有人会在意"电影角色究竟是由AI创造还是由真人演员出演。
卡索维茨坦言,看到AI表演如此以假乱真,他"心里很难受",但他同时强调,声音部分仍然需要演员的参与。
他还宣布将在巴黎成立一家AI电影工作室,并将其比作乔治·卢卡斯于1975年为制作《星球大战》而创立的工业光魔特效公司。
随着视频AI技术的快速进步,卡索维茨暂停了改编电影《野兽已死》的前期筹备工作,转而探索AI技术的应用可能。
他透露,美国和欧洲的传统制片公司曾为他期望的视觉效果报价5000万至6000万美元,而借助AI,成本将压缩至2500万美元。
卡索维茨发表上述言论之际,好莱坞各大制片公司也开始将AI更深度地融入电影制作,纷纷投资AI公司,并聘请科技行业领袖引领这一技术变革。
支持者认为,AI是一种能降低制作成本、激发创意的工具,有望向更广泛的创作群体开放电影艺术,并推动更多影片得以面世。
派拉蒙总裁大卫·艾里森——他近期收购了华纳兄弟,也是科技亿万富翁拉里·艾里森之子——表示:"AI已经到来,它将对这个行业的方方面面带来颠覆性变革。
" 上周,曾主演《蝙蝠侠永远》和《壮志凌云》、于一年前离世的演员瓦尔·基尔默,出现在新片《深埋墓中》的预告片里。
在其遗产管理人的授权下,他在片中的表演由AI生成。
然而,批评AI技术的人士担忧,AI驱动的电影缺乏灵魂,并将导致演员、作曲家及各类创意从业者失去工作。
编剧、导演和音乐人也在奋起抵制科技公司在未经同意、未予补偿的情况下,将受版权保护的作品用于训练AI模型。
卡索维茨对版权问题不屑一顾,并说:"《火爆街头》本身就是从其他电影中汲取灵感创作出来的。
他们也在借用别人的东西。
我从斯科塞斯那里偷了镜头,他又是从黑泽明那里偷的,黑泽明则是从爱森斯坦那里偷的。
除非你是从零开始凭空创造,否则我们都是小偷。
所以,说AI偷了一切,倒不如说它什么都没偷。
" 不过,他也补充道:"如果我看到有人拿《火爆街头》做些毫无意义的烂事,我肯定会起诉他们。
" 同样出席此次电影节的德国知名版权律师蒂姆·克拉夫特表示,目前全球针对AI公司的版权诉讼案件多达近140起,主要集中在美国,德国也有部分案件。
他说:"要求科技平台为内容使用付费,完全合情合理——它们赚取了巨额财富……我们迫切需要找到解决方案,让谷歌、OpenAI这样的公司为其使用行为付费,因为它们的运营建立在我们的知识和版权材料之上。
" Q&A Q1:卡索维茨正在筹拍的AI电影是什么?进展如何? A:卡索维茨正在筹拍一部名为《野兽已死》的电影,改编自埃德蒙-弗朗索瓦·卡尔沃于20世纪40年代创作的战时漫画,计划几乎完全借助AI技术实现。
他曾暂停前期筹备工作,转而深入探索AI技术的应用潜力。
传统制片公司为其所需视觉效果报价高达5000万至6000万美元,而采用AI技术后,成本可压缩至2500万美元。
Q2:戛纳电影节对AI影片的态度是什么? A:2025年戛纳主电影节宣布,在官方竞赛单元禁止AI生成影片参赛。
电影节主席艾里斯·克诺布洛赫表示,AI模仿能力虽强,但永远无法真正感受深层情感。
而与此同时,另一个专注AI内容的世界AI电影节也在戛纳举行,两者形成了鲜明对比,折射出业界对AI电影的分歧与争论。
Q3:目前全球针对AI公司的版权诉讼情况如何? A:据德国知名版权律师蒂姆·克拉夫特介绍,目前全球针对AI公司的版权诉讼案件已接近140起,主要集中在美国,德国也有部分案件涉及其中。
争议焦点在于,谷歌、OpenAI等科技公司在未经授权、未予补偿的情况下,大量使用受版权保护的内容训练AI模型。
律师界普遍呼吁尽快建立相应的付费机制。