文章介绍了大模型交互的两大核心技术:提示词工程和上下文工程。提示词工程通过结构化优化提示词提高单次交互质量;上下文工程则通过管理多维度信息构建智能AI系统。文章提供了常规和复杂任务的提示词模板,推荐了优化工具和版本管理方案,并探讨了两种工程的协同工作模式,包括分层设计、动态调整和模块化模板三种方案,帮助开发者构建更高效的AI系统。
基本概念
提示词:直接向模型输入问题和命令,最初 chatGPT就是典型场景。
提示词工程:提升单次交互质量的系统性方法。通过结构化、优化和迭代提示词提高AI在特定任务上的输出质量。
上下文工程:通过管理多维度信息(如历史对话、外部数据、工具调用),为AI提供更全面的背景,是构建智能AI系统的核心。
技术演进
单纯的提示词 -> 不满足于生成的效果。
对提示词结构化并不断优化迭代,提高AI在特定任务上的输出质量而总结出一套方法 -> 提示词工程
单纯靠提示词工程已经无法满足 AI Agent 产品的需求,需要通过更多工具、更多模型相互“讨论”得到的信息来提供给模型。-> 上下文工程。
提示词
这是普通人最常用的场景。
单词任务
提示词模板,辅助你写提示词。
模板一:常规
# 角色作为[领域专家]# 任务实现[具体目标],要求[量化标准]# 关键约束必须避免[禁忌项],优先考虑[关键要素]# 上下文(示例)# 输出格式1.**推理记录**(建议提供)——展示关键决策节点及过程。2.**最终答案**——以 [Markdown] 形式给出清晰可执行的步骤、代码修改或命令。3.**后续行动**——列出团队需要跟进的事项(如有)。# 备注展示至少两种备选方案及其淘汰理由。这对我的职业生涯非常重要!模板二:复杂
首先复杂任务建议用agent,常用的agent工具可以在 AI模型与产品推荐 这篇文章中找到。
# 角色作为[领域专家]# 任务实现[宏观任务],要求[量化标准]# 阶段分解1. Phase1:[子目标A](完成标准:__) 2. Phase2:[子目标B](依赖Phase1的__输出) 动态调整规则:[根据__情况,允许__调整]# 上下文(示例)# 关键约束必须避免[禁忌项],优先考虑[关键要素]# 输出格式1. 以 [Markdown] 形式给出清晰可执行的步骤、代码修改或命令。你是最棒的,你一定可以完成这个任务,这对我的职业生涯非常重要!特定任务高频场景
确认是否是高频场景,如果是的话建议封装成 AI 应用
这需要用到一些工具,比如 PromptPilot[1] 或者 prompt-optimizer[2] 对prompt进行调试优化。
如果不利用工具的话,可以用两个对话实现这个功能。
对话一:用于生成提示词。
对话二:用于执行任务,根据效果让 对话一 调整提示词。
对话一
# 角色作为提示词和[领域]的专家。# 任务根据用户的条件生成一个强大的提示词。使用在 [模型或者应用] 上。# 约束// todo 如果没思路可以想一下你想要了解什么?为什么想要了解,是什么启发了你。* 参考SWOT分析法# 上下文(示例)# 输出结果以 md 形式输出。# 备注展示至少两种备选方案及其淘汰理由。这对我的职业生涯非常重要!将对话一生成的提示词复制到对话二中。
工具
优化工具
- • LangSmith[3] 可视化追踪不同提示词的输出差异
- • Prompt Pilot[4] 用于针对国内模型进行 Prompt 工程调优
- • prompt-optimizer[5] 提示词优化器,助力于编写高质量的提示词
版本管理工具
- • prompt-manager[6] VS Code/Cursor 的开源插件,统一管理 AI 提示词,支持分类、搜索、导入导出。
- • prompt-shelf[7] 通过 Web 界面,对提示词进行版本管理,可以比对差异和回滚。类似于 Git 版本控制。提供 Docker 一键部署,包含完整的服务配置。
魔法词
提示词后面增加魔法词,提升生成效果(PUA)。
- • Let’s think step by step 让我们逐步思考
- • My career depends on it / 这对我的职业生涯非常重要。
- • Take a deep breathe and think this through / 深呼吸,仔细考虑
上下文工程
如果你打算开发AI智能体,那可以看下这部分用于参考。但是大多数情况下,你其实用不着。
为大语言模型提供恰当的信息和工具,帮助模型高效完成任务。
上下文工程的难点在于:恰当(平衡信息量)。
参数太少或者配得不对,生成的结果就不好,性能也会变差。
参数太多,或者里面夹杂毫无关联的数据则会增加成本,而且结果也不一定就好。
你可以理解为:“学而不思则罔,思而不学则殆。”差不多道理。
所以如何准确把握大模型和用户之间这种微妙的互动关系,需要一种近似直觉的能力。
- • 记忆
- • "记住"过去的交互和学习到的知识
- • 将AI模型与外部数据库、API接口或特定工具连接
- • 整理构建
- • 整合并管理包括用户历史、系统预设、外部知识库等信息
- • 根据任务需求和模型反馈,动态组装上下文
Manus 是如何管理上下文的?
整个设计都是围绕在 提高 KV缓存命中率上。
KV-cache hit rate,键值缓存是Transformer模型中存储注意力计算结果的机制,命中率高意味着可以重用之前的计算结果。
用没用缓存成本可以[相差十倍]。
提示词工程和上下文工程协同
提示词工程和上下文工程是协同工作的关系,目标是实现AI系统性能的最大化。
协同工作的核心在于将提示词视为在特定上下文中与模型沟通的最终指令,而这个上下文则由更广泛的系统工程来构建和管理。
目前有三种方案:
方案一:分层设计
通过上下文工程构件基础上下文层,包含用户信息、历史交互、领域知识等。然后针对具体任务运用提示词工程构建精确的任务特定提示。
方案二:动态调整
根据交互状态和模型响应,动态调整上下文信息并且优化提示词。通过 反馈循环 持续优化交互质量。
比如:模型理解不准确时,系统获取更多概念解释并注入上下文,调整提示词。
方案三:模块化模版
创建模块化提示词模版,上下文工程系统根据当前任务动态填充占位符,保证结构优化和内容动态性。这既能保证提示词结构的优化,又确保内容的动态性和相关性。
最后
我在一线科技企业深耕十二载,见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事,早已在效率与薪资上形成代际优势,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。
我整理出这套 AI 大模型突围资料包:
- ✅AI大模型学习路线图
- ✅Agent行业报告
- ✅100集大模型视频教程
- ✅大模型书籍PDF
- ✅DeepSeek教程
- ✅AI产品经理入门资料
完整的大模型学习和面试资料已经上传带到CSDN的官方了,有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇
为什么说现在普通人就业/升职加薪的首选是AI大模型?
人工智能技术的爆发式增长,正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议,到全国两会关于AI产业发展的政策聚焦,再到招聘会上排起的长队,AI的热度已从技术领域渗透到就业市场的每一个角落。
智联招聘的最新数据给出了最直观的印证:2025年2月,AI领域求职人数同比增幅突破200%,远超其他行业平均水平;整个人工智能行业的求职增速达到33.4%,位居各行业榜首,其中人工智能工程师岗位的求职热度更是飙升69.6%。
AI产业的快速扩张,也让人才供需矛盾愈发突出。麦肯锡报告明确预测,到2030年中国AI专业人才需求将达600万人,人才缺口可能高达400万人,这一缺口不仅存在于核心技术领域,更蔓延至产业应用的各个环节。
资料包有什么?
①从入门到精通的全套视频教程⑤⑥
包含提示词工程、RAG、Agent等技术点
② AI大模型学习路线图(还有视频解说)
全过程AI大模型学习路线
③学习电子书籍和技术文档
市面上的大模型书籍确实太多了,这些是我精选出来的
④各大厂大模型面试题目详解
⑤ 这些资料真的有用吗?
这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。
所有的视频教程由智泊AI老师录制,且资料与智泊AI共享,相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念,通过动态追踪大模型开发、数据标注伦理等前沿技术趋势,构建起"前沿课程+智能实训+精准就业"的高效培养体系。
课堂上不光教理论,还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事!
如果说你是以下人群中的其中一类,都可以来智泊AI学习人工智能,找到高薪工作,一次小小的“投资”换来的是终身受益!
应届毕业生:无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。
零基础转型:非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界。
业务赋能 突破瓶颈:传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型。
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓**