今天给大家整理了一份新鲜出炉的大模型应用开发面经,涵盖近半年真实面试经历、核心考点、求职心得,适合正在冲击大模型秋招的同学参考,建议收藏备用,助力高效备战、顺利拿offer
1、时间范围
近半年。
2、实际面过的公司
阿里、腾讯、美团、字节、快手、同程、京东、360、keep、滴滴、印象笔记、作业帮、彩云科技、蓝色光标、江城互娱、Aviagames、Hungry Stdios、深言科技、即时科技、RockFlow、格灵深瞳、百融云创、印象笔记、网龙、 HiDream.ai、昆仑万维、数驱互动、Authing。
3、先说总结
(1)面试内容 & 难度
个人觉得,在 LLM 应用的面试题上,没有太多复杂、高深的问题,不像上来让你说一下分布式锁怎么设计然后死扣设计细节或是描述一下 MVCC 原理这种偏高难度的八股文问题(当然也遇到了一两次)。
究其原因以下几点:
- 一是大模型应用目前仍没有很成熟且被广泛接纳的方案,都还在探索;
- 二是很多公司今年刚开始 all in AI(我司 all 进去的比较早点),面试官也懂得不多。
例如 RAG 这个东西,大部分的面试题无非是“你觉得 RAG 中最难的是什么?(文档切割喽)”、“你是怎么解决幻觉问题的?”,“微调和 RAG 的区别是啥?”等等。
如果你做过 RAG 加上你经常看技术文章结合你的“侃侃而谈”,基本面试官都觉得 ok。
但这里着重说一下我觉得当前非常重要且极大概率提升面试通过率的的一个技术点,就是掌握微调原理并且做过动手做过微调工作再加上动手部署过大模型。
这是我面试中最常被问到而又只能说没做过的问题,当然大部分公司都有专门的算法团队去做这件事,自己到没机会参与其中,也是可以理解的。
算法题:一半是 DP 问题,还有一部分难度是 easy 的问题,总体上都是“老熟人”,但是,你即使写出来,面试不一定就能过,有的干脆就不考算法题。
八股文:明显比之前少很多,这个和面试的岗位有关系,LLM 应用的岗位更偏实践,所有很多一面就是 leader 面,直接问项目,除非一面也不懂 LLM 的东西,就会考八股文。
但总的来说,八股少了,但是绝对不可以不准备,好几次挂在这上面,别小瞧它。
岗位内容:
- 游戏公司:基本上是 LLM + AB test for 游戏策划;BI 分析;游戏社区客服助手;
- toC:Agent 个人助手
- toB:Agent for 解决方案
- other:通用 Agent 平台;公司内部 AI 助手、平台;Agent for 运维
(2)offer
会有很多横向对比,如果你期望薪资比较高,对方说要在等等,基本上凉了。
大部分涨幅基本是不到 20% 的,但我的期望是 30% 左右,最后还是拿到了(要有一点点耐心,还要有一定的运气)。
不要眼高手低,先拿一个低于自己预期的 offer,再慢慢谈,前提是公司想要你。
规划好时间,集中面试,集中对比,由于我时间线拉的过长,后面安排的很乱。
(3)再总结
如下:
- 每次面完都要复盘,没答好的问题,一定要重新梳理答案。
- 没把握问题的可以直接说不会,别给个你自己都听不懂的答案。
- 简历一定要让大模型润色,但自己要 check 一遍,别吹过头了。
- 多看技术文章,扩展技术视野,提高二面面试官对你的印象。
- 表达一定要流畅清晰,不要断断续续的,面试官会觉得你思路不清晰。
- 项目效果评估是个很重要的问题,不管你的技术多炫酷,终究还是要看效果,看落地效果。
04
面试题
这里想到多少写多少。
LLM 基础:
- 大模型是怎么训练出来的?
- Transform 的架构,Encoder 和 Decoder 是什么?
- Function Call 是怎么训练的?
- 微调的方案有哪些?自己做过没有?
- 大模型分词器是什么?
- Embedding 是什么?你们用的那个模型?
Lib:
- 介绍一下 langchian
- 介绍一下 autogen
- 有没有用过大模型的网关框架(litellm)
- 为什么手搓 agent,而不是用框架?
- mcp 是什么?和 Function Call 有什么区别?有没有实践过?
- A2A 了解吗?
Prompt:
- ReAct 是啥?怎么实现的?
- CoT 是啥?为啥效果好呢?有啥缺点?
- Prompt Caching 是什么?
- 温度值/top-p/top-k 分别是什么?各个场景下的最佳设置是什么?
RAG:
- 你介绍一下RAG 是什么?最难的地方是哪?
- 文档切割策略有哪些?怎么规避语义被切割掉的问题?
- 多路召回是什么?
- 文档怎么存的?粒度是多大?用的什么数据库?
- 为啥要用到图数据库?
- 向量数据库的对比有没有做过?Qdrant 性能如何?量级是多大?有没有性能瓶颈?
- 怎么规避大模型的幻觉?
- 微调和 RAG 的优劣势?
- 怎么量化你的回答效果?例如检索的效果、回答的效果。
workflow:
- 怎么做的任务拆分?为什么要拆分?效果如何?怎么提升效果?
- text2sql 怎么做的?怎么提高准确率?
- 如何润色query,目的是什么?
- code-generation 是什么做的?如何确保准确性?
- 现在再让你设计你会怎么做?(replan)
- 效果是怎么量化的?
Agent:
- 介绍一下你的 Agent 项目
- 长短期记忆是怎么做的?记忆是怎么存的?粒度是多少?怎么用的?
- Function Call 是什么做的?
- 你最大的难题是什么?你是怎么提高效果的?怎么降低延迟的?
- 端到端延迟如何优化的?
- 介绍一下 single-agent、multi-agent 的设计方案有哪些?
- 反思机制是什么做的?为什么要用反思?
- 如何看待当下的 LLM 应用的趋势和方向
- 为什么要用 Webrtc?它和 ws 的区别是什么?
- agent 服务高可用、稳健性是怎么保证的?
- llm 服务并发太高了怎么办?
系统设计题:
短链系统
分布式锁的设计
给你一部长篇小说,怎么做文档切割?
怎么做到论文翻译,并且格式尽可能和原来的统一
游戏社区客服助手设计。如何绑定游戏黑话,如何利用好公司内部的文档
结合线上问题快速定位项目工程代码有问题的地方
有很多结构化和非结构化数据,怎么分析,再怎么得出我要的结论
八股:
- go 的内存分配策略、GMP、GC
- python 的内存分配策略、GC
- redis 用过那些?mget 底层什么实现的?、zset 怎么实现的?
- mysql 索引怎么设计最好?数据库隔离级别?mvcc 是怎么实现的?
- 分布式锁是什么实现的?
- kafka 的 reblance 是什么?会产生那些问题?怎么保证数据不丢?
- fastapi 设计原理?
- go 中 net/http 如何处理的 tcp 粘包问题
- http2 是什么?比 http1.1 有什么优势?
- Linux 网络性能调优的方式
- 如何定位 Linux 中的 pid、端口号等等
小白/程序员如何系统学习大模型LLM?
作为在一线互联网企业深耕十余年的技术老兵,我经常收到小白和程序员朋友的提问:“零基础怎么入门大模型?”“自学没有方向怎么办?”“实战项目怎么找?”等问题。难以高效入门。
这里为了帮助大家少走弯路,我整理了一套全网最全最细的大模型零基础教程。涵盖入门思维导图、经典书籍手册、实战视频教程、项目源码等核心内容。免费分享给需要的朋友!
👇👇扫码免费领取全部内容👇👇
1、我们为什么要学大模型?
很多开发者会问:大模型值得花时间学吗?答案是肯定的——学大模型不是跟风追热点,而是抓住数字经济时代的核心机遇,其背后是明确的行业需求和实打实的个人优势:
第一,行业刚需驱动,并非突发热潮。大模型是AI规模化落地的核心引擎,互联网产品迭代、传统行业转型、新兴领域创新均离不开它,掌握大模型就是拿到高需求赛道入场券。
第二,人才缺口巨大,职业机会稀缺。2023年我国大模型人才缺口超百万,2025年预计达400万,具备相关能力的开发者岗位多、薪资高,是职场核心竞争力。
第三,技术赋能增效,提升个人价值。大模型可大幅提升开发效率,还能拓展职业边界,让开发者从“写代码”升级为“AI解决方案设计者”,对接更高价值业务。
对于开发者而言,现在入门大模型,不仅能搭上行业发展的快车,还能为自己的职业发展增添核心竞争力——无论是互联网大厂的AI相关岗位,还是传统行业的AI转型需求,都在争抢具备大模型技术能力的人才。
人工智能大潮已来,不加入就可能被淘汰。如果你是技术人,尤其是互联网从业者,现在就开始学习AI大模型技术,真的是给你的人生一个重要建议!
2、大模型入门到实战全套学习大礼包分享
最后再跟大家说几句:只要你是真心想系统学习AI大模型技术,这份我耗时许久精心整理的学习资料,愿意无偿分享给每一位志同道合的朋友。
在当前这个人工智能高速发展的时代,AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长,真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料,能够帮助更多有志于AI领域的朋友入门并深入学习。
部分资料展示
2.1、 AI大模型学习路线图,厘清要学哪些
对于刚接触AI大模型的小白来说,最头疼的问题莫过于“不知道从哪学起”,没有清晰的方向很容易陷入“东学一点、西补一块”的低效困境,甚至中途放弃。
为了解决这个痛点,我把完整的学习路径拆解成了L1到L4四个循序渐进的阶段,从最基础的入门认知,到核心理论夯实,再到实战项目演练,最后到进阶优化与落地,每一步都明确了学习目标、核心知识点和配套实操任务,带你一步步从“零基础”成长为“能落地”的大模型学习者。后续还会陆续拆解每个阶段的具体学习内容,大家可以先收藏起来,跟着路线逐步推进。
L1级别:大模型核心原理与Prompt
L1阶段:将全面介绍大语言模型的基本概念、发展历程、核心原理及行业应用。从A11.0到A12.0的变迁,深入解析大模型与通用人工智能的关系。同时,详解OpenAl模型、国产大模型等,并探讨大模型的未来趋势与挑战。此外,还涵盖Pvthon基础、提示工程等内容。
目标与收益:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为AI应用开发打下坚实基础。
L2级别:RAG应用开发工程
L2阶段:将深入讲解AI大模型RAG应用开发工程,涵盖Naive RAGPipeline构建、AdvancedRAG前治技术解读、商业化分析与优化方案,以及项目评估与热门项目精讲。通过实战项目,提升RAG应用开发能力。
目标与收益:掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。
L3级别:Agent应用架构进阶实践
L3阶段:将 深入探索大模型Agent技术的进阶实践,从Langchain框架的核心组件到Agents的关键技术分析,再到funcation calling与Agent认知框架的深入探讨。同时,通过多个实战项目,如企业知识库、命理Agent机器人、多智能体协同代码生成应用等,以及可视化开发框架与IDE的介绍,全面展示大模型Agent技术的应用与构建。
目标与收益:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。
L4级别:模型微调与私有化大模型
L4级别:将聚焦大模型微调技术与私有化部署,涵盖开源模型评估、微调方法、PEFT主流技术、LORA及其扩展、模型量化技术、大模型应用引警以及多模态模型。通过chatGlM与Lama3的实战案例,深化理论与实践结合。
目标与收益:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。
2.2、 全套AI大模型应用开发视频教程
从入门到进阶这里都有,跟着老师学习事半功倍。
2.3、 大模型学习书籍&文档
收录《从零做大模型》《动手做AI Agent》等经典著作,搭配阿里云、腾讯云官方技术白皮书,帮你夯实理论基础。
2.4、AI大模型最新行业报告
2025最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。
2.5、大模型大厂面试真题
整理了百度、阿里、字节等企业近三年的AI大模型岗位面试题,涵盖基础理论、技术实操、项目经验等维度,每道题都配有详细解析和答题思路,帮你针对性提升面试竞争力。
【大厂 AI 岗位面经分享(107 道)】
【AI 大模型面试真题(102 道)】
【LLMs 面试真题(97 道)】
2.6、大模型项目实战&配套源码
学以致用,在项目实战中检验和巩固你所学到的知识,同时为你找工作就业和职业发展打下坚实的基础。
适用人群
四阶段学习规划(共90天,可落地执行)
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
硬件选型
带你了解全球大模型
使用国产大模型服务
搭建 OpenAI 代理
热身:基于阿里云 PAI 部署 Stable Diffusion
在本地计算机运行大模型
大模型的私有化部署
基于 vLLM 部署大模型
案例:如何优雅地在阿里云私有部署开源大模型
部署一套开源 LLM 项目
内容安全
互联网信息服务算法备案
…
👇👇扫码免费领取全部内容👇👇
3、这些资料真的有用吗?
这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。
资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】