大模型算法工程师面试考什么？LLM 面试知识图谱

大模型岗位是这两年最火的算法方向，面试考察也越来越成体系。按出现频率整理考点地图。

第一梯队：必须滚瓜烂熟

• Transformer 细节：自注意力公式推导、多头的作用、位置编码为什么需要、LayerNorm 放哪里；
• 训练三阶段：预训练 → SFT → RLHF/DPO，每阶段的数据、目标函数、常见问题；
• 微调技术：LoRA 原理、全参微调 vs PEFT 的取舍、灾难性遗忘；
• 推理优化：KV Cache、量化（INT8/INT4）、投机采样——落地岗必问。

第二梯队：按 JD 侧重

• RAG 方向：召回与重排、embedding 选型、幻觉缓解策略；
• Agent 方向：工具调用设计、记忆管理、规划与反思机制；
• 多模态：CLIP 原理、视觉编码器与 LLM 的对齐方式。

第三梯队：工程与开放性

• 分布式训练（ZeRO 三个阶段的区别）、显存估算题；
• "模型效果不好你怎么排查"——考 debug 方法论；
• 论文精读：简历上写的每篇都可能被追问。

准备节奏（四周）

1. 第一周：Transformer 推导能手写，训练流程能画图讲清；
2. 第二周：按 JD 方向深挖 RAG/Agent/多模态其一；
3. 第三周：过高频题清单——把题目列表放屏幕左边用截图问答逐题过，AI 答案比自己翻博客快；
4. 第四周：模拟面试 + 项目故事打磨。

简历上写的项目，面试官默认你每个细节都懂——写之前先想清楚能不能讲透。