深度学习面试必会:CNN、RNN、优化器与训练技巧
2026-07-20 · 博客首页
深度学习面试在机器学习基础之上,更考网络结构和训练工程的理解。核心考点分四块。
一、网络结构
卷积:参数量怎么算、1x1 卷积的作用、感受野计算;ResNet 残差连接为什么能训深网络(梯度高速公路)——必考。
归一化:BN 的原理和训练/推理的区别、为什么 Transformer 用 LN 不用 BN。
RNN/LSTM:梯度消失的成因、门控机制各管什么。现在考得少了,但"为什么 Transformer 取代 RNN"要会答。
二、优化器
SGD → Momentum → Adam 一路演进,重点答 Adam 的两个动量各是什么、为什么有时泛化不如 SGD。追问:学习率 warmup 的作用。
三、训练问题
- 梯度消失/爆炸:成因 + 对策清单(归一化、残差、梯度裁剪、初始化);
- 初始化:Xavier 与 He 初始化分别配什么激活函数;
- 调参实操:"loss 不降你怎么办"——按数据 → 学习率 → 梯度检查的顺序答,体现 debug 能力。
四、开放题
"给你 100 万张图做分类,流程怎么设计"——考全链路:数据清洗 → 基线模型 → 预训练微调 → 评估迭代。有实习/项目经历的,用真实经验答最加分。
备考建议
公式类考点(卷积参数量、注意力公式)必须能手推,看懂和会推是两回事。不会推的截图问 AI 拿逐步推导,自己纸上重推一遍。考点清单逐题过的工作流见刷题方法。