大模型技术全景图谱
LLM · Agent · MCP · Tools · Skills · Memory · RAG
从「会说话」到「能干活」：一文读懂AI技术七大核心概念
📅 2026年4月 · 技术科普深度版
🚀 前言：为什么你需要读这篇文章
如果你最近关注AI领域，一定被各种术语轰炸过：LLM、Agent、MCP、RAG、Function Call、Skills、Memory……这些概念到底是什么关系？谁是谁的上级？谁调用谁？
更让人困惑的是：有人说"Agent = 有记忆的LLM"，有人说"MCP就是给AI装USB接口"，还有人说"Skills是Agent的手脚"——这些说法都对，但也都不完整。
本文将用一套完整的技术框架，把这七个核心概念彻底讲清楚，告诉你每个概念的本质是什么、解决什么问题、以及它们如何协同工作，构成完整的"能干活的AI"。
一句话结论：LLM是大脑，Memory是记忆，RAG是图书馆，Tools是双手，MCP是USB标准，Skills是技能证书，Agent是身体——它们合在一起，才是一个真正能干活的AI员工。
📐 技术栈全景：七层架构图
在深入每个概念之前，先看清楚整体架构。这七个概念并不是平行关系，而是有清晰的层级结构：
| 层级 | 技术概念 | 核心职责 | 类比 |
|---|---|---|---|
| 第7层（顶层） | Agent | 感知-决策-执行的总指挥 | 公司CEO/项目经理 |
| 第6层 | Skills（技能） | 封装好的专业能力模块 | 员工的技能证书 |
| 第5层 | Memory（记忆） | 短期+长期+语义记忆管理 | 大脑的海马体 |
| 第4层 | MCP（协议） | 工具调用的统一接口标准 | USB接口标准 |
| 第3层 | Tools（工具） | 可执行的外部功能集合 | 扳手/计算器/手机 |
| 第2层 | RAG（检索增强） | 从外部知识库检索信息 | 随身携带的图书馆 |
| 第1层（底层） | LLM | 语言理解与生成推理引擎 | 人类大脑皮层 |
注：Agent处于顶层，统一调度下方所有层级；LLM是所有智能的基础。每一层都依赖下层提供服务，职责不同但协同作战。
🧠 第一层：LLM 大语言模型
1.1 什么是LLM？
LLM（Large Language Model，大语言模型）是一切AI应用的"推理核心"。它本质上是一个经过海量文本训练的神经网络，能够理解人类语言并生成有意义的回应。
2023年以前，LLM主要用于"聊天"——你问，它答，一问一答，就此结束。但这种模式有明显局限：知识有截止日期、只能生成文字不能执行操作、可能产生幻觉（编造事实）。
1.2 LLM的核心能力
●语言理解：读懂复杂的自然语言指令
●逻辑推理：分析问题、拆解步骤、制定计划
●代码生成：编写、理解、调试代码
●多语言支持：中英文等数十种语言
●上下文理解：在对话中保持连贯（受上下文窗口限制）
1.3 2026年主流LLM对比
| 模型 | 厂商 | 上下文窗口 | 特长 | 价格参考 |
|---|---|---|---|---|
| Claude Opus 4.7 | Anthropic | 1M tokens | 代码推理/安全性 | $15/M输入 |
| GPT-5 | OpenAI | 128K tokens | 通用能力最强 | $25/M输入 |
| Gemini 3.1 Pro | 2M tokens | 超长上下文 | $1.25/M输入 | |
| DeepSeek V4 | 深度求索 | 256K tokens | 性价比极高 | ¥0.1/M输入 |
| 通义千问 Qwen3 | 阿里巴巴 | 128K tokens | 中文理解强 | ¥0.5/M输入 |
| 文心4.5 | 百度 | 128K tokens | 中文生成流畅 | ¥0.8/M输入 |
💡 LLM的本质局限
LLM本身只是一个"问答机器"——它能理解和生成语言，但无法主动行动、无法记住上次对话、无法调用工具、无法访问实时信息。这正是为什么我们需要其他层级的技术。
💾 第二层：Memory 记忆系统
2.1 为什么LLM需要Memory？
LLM天生"失忆"——每次新对话，它都不记得你上次说了什么。这对需要长期服务的AI应用来说是致命缺陷。Memory系统就是给AI装上"海马体"，让它能记住和利用历史信息。
2.2 Memory的三种类型
| 记忆类型 | 存储方式 | 生命周期 | 典型应用 |
|---|---|---|---|
| 短期记忆（Working Memory） | 上下文窗口/对话历史 | 单次会话内 | 当前任务追踪、多轮对话 |
| 长期记忆（Long-term Memory） | 向量数据库/关系型DB | 跨会话永久 | 用户偏好、历史项目记录 |
| 语义记忆（Semantic Memory） | RAG/嵌入向量 | 按需检索 | 知识库、文档问答 |
| 程序记忆（Procedural Memory） | Skills/工作流模板 | 持久化 | 特定任务的执行步骤 |
2.3 Memory的技术实现
●向量数据库：Pinecone、Milvus、Chroma、Weaviate——将文本转为数学向量，支持语义相似度搜索
●关系型数据库：存储结构化的用户偏好、历史记录
●知识图谱：Neo4j等——存储实体关系，支持复杂推理
●Mem0框架：专为AI Agent设计的个性化长期记忆系统（GitHub 30k+ Stars）
2.4 Memory与RAG的区别
很多人混淆Memory和RAG（检索增强生成），实际上它们有明确分工：
●Memory：存储关于"人"和"交互历史"的信息（谁在用？上次说了什么？偏好是什么？）
●RAG：存储关于"知识"的信息（文档库、数据库、产品手册等）
●两者协同：Agent先查Memory了解用户背景，再查RAG获取知识，最后由LLM生成回答
📚 第三层：RAG 检索增强生成
3.1 RAG是什么？
RAG（Retrieval-Augmented Generation，检索增强生成）是给AI装上"随身图书馆"的技术。LLM的知识有训练截止日期，而且训练时无法包含你公司的私有文档。RAG解决了这两个问题。
3.2 RAG的工作流程
●Step 1 - 索引：将文档切分成小块，转换为向量嵌入，存入向量数据库
●Step 2 - 检索：用户提问时，将问题也转为向量，在数据库中搜索最相关的文档片段
●Step 3 - 增强：将检索到的相关内容注入LLM的提示词中
●Step 4 - 生成：LLM基于真实检索到的内容生成准确回答
3.3 RAG的演进：五代技术
| 代际 | 技术特点 | 代表框架 |
|---|---|---|
| 第1代：朴素RAG | 分块+向量检索，基础问答 | LlamaIndex基础版 |
| 第2代：高级RAG | 混合检索+重排序，提升准确率 | LangChain Advanced |
| 第3代：模块化RAG | 可插拔组件，灵活组合 | DSPy, Haystack |
| 第4代：Agentic RAG | Agent主导检索策略，多跳推理 | LangGraph RAG Agents |
| 第5代：自适应RAG（2026） | 实时调整检索策略，多模态支持 | Llama 4 RAG, GraphRAG |
💡 RAG vs 直接训练微调
RAG适合知识频繁更新的场景（新闻、产品文档）；微调适合固化特定风格或专业能力的场景。实际项目中两者常组合使用。
🔧 第四层：Tools 工具调用
4.1 什么是Tools？
Tools（工具）是AI可以调用的外部功能集合。有了工具，AI才能从"说话"变成"行动"——查天气、执行代码、发邮件、查数据库、控制浏览器……
4.2 工具调用的技术原理
工具调用（Function Calling / Tool Calling）分为两步：
●意图识别：LLM分析用户请求，判断需要调用哪个工具、传入什么参数（输出结构化JSON）
●执行回调：宿主程序接收JSON指令，真正执行工具，将结果返回给LLM继续推理
4.3 常见工具类型分类
| 工具类别 | 具体例子 | 典型应用场景 |
|---|---|---|
| 信息查询 | web_search、Wikipedia、股票行情 | 实时数据获取、事实核查 |
| 代码执行 | Python沙箱、JavaScript运行时 | 数学计算、数据分析、自动化 |
| 文件操作 | read_file、write_file、list_dir | 代码生成、文档处理 |
| 网络请求 | HTTP GET/POST、GraphQL | API调用、第三方服务集成 |
| 浏览器控制 | CDP协议、Playwright、Puppeteer | Web自动化、表单填写 |
| 通讯工具 | 发邮件、发Slack消息、微信推送 | 通知提醒、报告发送 |
| 数据库 | SQL查询、NoSQL操作 | 数据读写、状态持久化 |
| 系统操作 | 终端命令、文件系统、进程管理 | 系统自动化、DevOps |
4.4 Function Call vs Tool Call：有什么区别？
●"Function Call" 是早期OpenAI的说法，强调"调用一个函数"
●"Tool Call" 是现代更通用的说法，含义更广（可以是函数、API、服务等）
●本质相同：都是LLM输出结构化指令 → 外部程序执行 → 结果回传给LLM
●现代框架（LangChain、LangGraph、MCP）统一使用 “Tool” 这个概念
🔌 第五层：MCP 模型上下文协议
5.1 MCP是什么？
MCP（Model Context Protocol，模型上下文协议）是Anthropic于2024年11月发布、2025年12月捐赠给Linux基金会的开放标准协议。它解决了一个根本性问题：
以前：每个AI工具有自己的接口，Claude要单独对接、GPT要单独对接，同一个工具对不同AI要写N份适配代码。 之后有了MCP：工具开发者只需开发一次MCP服务器，所有支持MCP的AI（Claude/GPT/Cursor/GitHub Copilot等）都能直接使用！
5.2 MCP架构模式
MCP采用Client-Server架构：
●MCP Host（宿主）：AI应用程序，如Claude Desktop、Cursor IDE、WorkBuddy
●MCP Client：Host内部的协议客户端，负责与MCP Server通信
●MCP Server：封装外部工具/数据的服务端程序，通过标准协议暴露能力
5.3 MCP三大核心原语
| 原语类型 | 功能 | 示例 |
|---|---|---|
| Tools（工具） | Agent可调用的函数（有副作用） | 读文件、执行代码、查数据库、发消息 |
| Resources（资源） | Agent可读取的数据（只读） | 文档内容、数据库记录、API响应结果 |
| Prompts（提示模板） | 预定义的可复用指令片段 | 代码Review模板、日报生成模板 |
5.4 MCP生态现状（2026年4月数据）
●官方SDK：支持Python、TypeScript、Java、C#、Go等10种语言
●GitHub Stars：modelcontextprotocol/servers 已超 82,885 Stars
●支持平台：Claude、GPT、Gemini、Cursor、GitHub Copilot、VS Code Agent等全面支持
●第三方服务器：社区贡献数千个MCP服务器，覆盖GitHub、Slack、数据库、浏览器等
5.5 MCP vs 直接工具调用：如何选择？
| 场景 | 推荐方案 | 原因 |
|---|---|---|
| 工具会被多个Agent复用 | MCP Server | 一次开发，到处接入，标准化维护 |
| 临时调用某个REST API | 直接工具调用 | 简单快速，无需额外服务器 |
| 持久化连接（数据库监听） | MCP Server | 独立进程，生命周期管理 |
| 平台无关工具共享 | MCP Server | 跨AI平台通用 |
| 快速原型验证 | 直接工具调用 | 开发速度快 |
⭐ 第六层：Skills 技能模块
6.1 Skills是什么？
Skills（技能）是比MCP更高层的能力封装形式——它不是"给AI一个工具"，而是"给AI一套完整的专业工作流程"。如果MCP是工具，Skills就是使用手册+最佳实践+完整操作流程的综合包。
6.2 Skills的形态特点
●通常以Markdown文件形式存在（SKILL.md）
●包含：角色定义、工作流程（SOP）、工具调用指引、输出规范
●无需启动独立服务器，Agent在推理时直接加载执行
●安装简单：下载文件放入指定目录，即刻生效
6.3 Skills vs MCP Server：深度对比
| 维度 | MCP Server | Skills |
|---|---|---|
| 本质 | 协议+工具服务端程序 | 专业知识+工作流指令包 |
| 形态 | 独立进程，需启动服务 | Markdown文件，直接加载 |
| 能力类型 | 底层原子操作（读写文件、调API） | 高层业务流程（发文章、做分析） |
| 安装方式 | 配置Server地址+认证 | 复制文件到技能目录 |
| 跨平台性 | 任何支持MCP的AI通用 | 特定于AI平台/框架 |
| 适合场景 | 持久连接、通用工具 | 一次性任务、领域专家流程 |
| 示例 | GitHub MCP（代码操作） | 发布微信公众号文章Skill |
6.4 Skills的典型应用
●代码开发类：代码Review、单元测试生成、性能分析、重构指引
●内容创作类：公众号文章写作、SEO优化、视频脚本生成
●商业分析类：竞品分析、财报解读、市场调研报告
●自动化运维类：部署检查、日志分析、故障排查
●金融数据类：股票分析、量化策略、风险评估
💡 一句话区分
MCP = 工具的"USB接口"（标准化连接）；Skills = 专家的"操作手册"（封装知识+流程）。两者互补，常同时使用。
🤖 第七层：Agent 智能执行引擎
7.1 Agent是什么？
Agent（智能体）是整个技术栈的顶层——它是把LLM从"回答问题的机器"变成"能自主完成任务的员工"的关键。Agent的核心是一个持续循环：感知 → 推理 → 行动 → 观察 → 再推理……
7.2 Agent的运作循环（ReAct模式）
●Reason（推理）：分析当前任务状态，决定下一步做什么
●Act（行动）：调用合适的Tools/MCP，执行具体操作
●Observe（观察）：接收工具执行结果，更新任务状态
●Memory（记忆）：将关键信息存入Memory，供后续步骤参考
●Repeat（循环）：如任务未完成，继续下一轮推理
7.3 Agent的核心能力组成
| 能力维度 | 具体表现 | 依赖的底层技术 |
|---|---|---|
| 感知能力 | 理解文本、图像、代码等多模态输入 | LLM多模态能力 |
| 规划能力 | 将复杂任务拆解为可执行的步骤 | LLM推理 + Prompt工程 |
| 工具使用 | 调用外部API、数据库、浏览器 | Tools / MCP |
| 记忆管理 | 在任务进行中维护上下文、更新状态 | Memory系统 |
| 知识检索 | 按需查询相关文档和知识 | RAG + 向量数据库 |
| 技能调用 | 加载专业技能模块处理特定任务 | Skills系统 |
| 自我反思 | 评估执行结果，纠错重试 | LLM推理能力 |
7.4 2026年主流Agent框架对比
| 框架 | GitHub Stars | 核心定位 | 适合场景 |
|---|---|---|---|
| LangChain | 132,263 ⭐ | Agent工程全家桶 | 灵活定制、多工具组合 |
| Claude Code | 108,080 ⭐ | 终端AI编程Agent | 代码自动化、系统操作 |
| LangGraph | 28,359 ⭐ | 有状态多Agent图编排 | 复杂多步骤工作流 |
| OpenAI Agents SDK | 20,552 ⭐ | 轻量Agent框架 | OpenAI生态集成 |
| AutoGPT | 170,000+ ⭐ | 自主任务完成 | 长期目标执行 |
| Hermes Agent | 60,000+ ⭐ | 自我进化跨平台Agent | 14+消息平台、持久记忆 |
📊 七大概念终极对比表
一张表格彻底看清七个概念的关系：
| 概念 | 层级 | 本质 | 类比 | 解决的问题 | 没有它会怎样 |
|---|---|---|---|---|---|
| LLM | 底层引擎 | 语言推理模型 | 大脑皮层 | 语言理解和生成 | 没有任何智能，就是个计算器 |
| RAG | 知识层 | 检索增强生成 | 随身图书馆 | 知识过时/私域文档 | 只知道训练时的知识，知识库无法更新 |
| Memory | 记忆层 | 跨会话状态管理 | 海马体/笔记本 | 对话无状态/忘记用户 | 每次对话从零开始，不认识老用户 |
| Tools | 能力层 | 可调用的外部功能 | 双手/工具箱 | AI只能说不能做 | 只会生成文字，不能操作世界 |
| MCP | 协议层 | 工具接口标准化 | USB规范 | 工具接入重复开发 | 每个AI都要单独适配工具，成本极高 |
| Skills | 经验层 | 专业知识工作流 | 技能证书/SOP手册 | 领域专业性不足 | 泛泛而谈，无法专业处理垂直场景 |
| Agent | 指挥层 | 自主任务执行引擎 | CEO/项目经理 | 单步问答无法完成复杂任务 | 只能一问一答，无法自主完成多步骤任务 |
🎯 开发者选型指南：什么时候用什么？
场景一：我只是想做一个问答机器人（客服/FAQ）
●需要：LLM + RAG（加载公司文档）+ Memory（记住用户信息）
●不需要：Tools、MCP、Agent（没有复杂任务执行需求）
●推荐：DeepSeek V4（经济实惠）+ LlamaIndex（RAG）+ Redis（Memory）
场景二：我想做一个自动化编程助手（代码生成+执行）
●需要：LLM + Agent框架 + Tools（代码执行、文件操作）+ MCP（IDE集成）
●可选：Skills（代码Review技能）+ Memory（记住项目上下文）
●推荐：Claude Opus 4.7 + LangGraph + MCP Filesystem Server
场景三：我想做一个7×24自动化运营Agent
●需要：LLM + Agent（循环执行）+ Memory（状态持久化）+ Tools（通知/发布）+ Skills（业务流程）
●推荐：Hermes Agent框架（内置14+平台集成和持久记忆）
场景四：我想做企业内部知识库
●需要：LLM + RAG（核心）+ Memory（用户偏好）
●推荐：通义千问或文心（中文更优）+ Milvus（向量数据库）+ Langchain
场景五：我想做复杂的多步骤业务流程自动化
●需要：完整技术栈：LLM + Agent + Memory + RAG + Tools + MCP + Skills
●推荐：LangGraph（流程编排）+ Claude Opus 4.7（推理）+ 自定义MCP Server套件
说真的，这两年看着身边一个个搞Java、C++、前端、数据、架构的开始卷大模型，挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis，稳稳当当过日子。
结果GPT、DeepSeek火了之后，整条线上的人都开始有点慌了，大家都在想：“我是不是要学大模型，不然这饭碗还能保多久？”
我先给出最直接的答案：一定要把现有的技术和大模型结合起来，而不是抛弃你们现有技术！掌握AI能力的Java工程师比纯Java岗要吃香的多。
即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地！大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇！
这绝非空谈。数据说话
2025年的最后一个月，脉脉高聘发布了《2025年度人才迁徙报告》，披露了2025年前10个月的招聘市场现状。
AI领域的人才需求呈现出极为迫切的“井喷”态势
2025年前10个月，新发AI岗位量同比增长543%，9月单月同比增幅超11倍。同时，在薪资方面，AI领域也显著领先。其中，月薪排名前20的高薪岗位平均月薪均超过6万元，而这些席位大部分被AI研发岗占据。
与此相对应，市场为AI人才支付了显著的溢价：算法工程师中，专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%；产品经理岗位中，AI方向的产品经理薪资也领先约20%。
当你意识到“技术+AI”是个人突围的最佳路径时，整个就业市场的数据也印证了同一个事实：AI大模型正成为高薪机会的最大源头。
最后
我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。
我整理出这套 AI 大模型突围资料包【允许白嫖】：
- ✅从入门到精通的全套视频教程
- ✅AI大模型学习路线图（0基础到项目实战仅需90天）
- ✅大模型书籍与技术文档PDF
- ✅各大厂大模型面试题目详解
- ✅640套AI大模型报告合集
- ✅大模型入门实战训练
这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
①从入门到精通的全套视频教程
包含提示词工程、RAG、Agent等技术点
② AI大模型学习路线图（0基础到项目实战仅需90天）
全过程AI大模型学习路线
③学习电子书籍和技术文档
市面上的大模型书籍确实太多了，这些是我精选出来的
④各大厂大模型面试题目详解
⑤640套AI大模型报告合集
⑥大模型入门实战训练
👉获取方式：
有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
