RoPE 面试题
共 7 篇真实面经 · 涵盖 快手 / 米哈游 / MiniMax / 华为 / 拼多多 等 5 家公司
快手大模型算法岗面经(四):八场面试真题,从 PPO 优势函数问到 vLLM 调度与 MLA
快手大模型算法岗(校招、实习、日常实习)八场面试真题汇总:从百度实习的细节追问开始,考察 MoE 与 Dense 的取舍、滑窗切分的 overlap、SFT 与 RL 的选择、PPO/DPO/GRPO 的原理与 token 级还是 sequence 级损失、优势函数怎么算;随后转向 Transformer 与 cross-attention、vLLM 的调度、分布式训练架构与 NCCL 算法、损失函数与 CoT、RoPE、MLA、动态分辨率与 Function Call,几乎每场都带一道手撕。
快手大模型算法实习面经(3 月场):Memory Pool、SFT/DPO 与 Attention 细节
快手大模型算法岗实习的四场面经,时间集中在 2026 年 3 月下旬。第一场从风控报警机器人项目问起,覆盖 Prompt 编写流程、项目量化与 AI 产品理解;第二场问记忆池的构建与测试,以及 vLLM 的 PagedAttention、Chunked Prefill 与 Continuous Batching;第三场是密度最高的一场,从 SFT 数据、PPO/DPO/GRPO 一路问到 Agent 评估、Embedding 维度、Qwen 系列 Embedding 与 Rerank 的实现、Attention 公式与 RoPE;第四场问 AF 分离、FlashAttention、张量并行与 CUDA GEMM 优化。
米哈游大模型算法岗:九问 Agent 训练、DPO 与长上下文外推
米哈游大模型算法岗的九道题(原帖以九张长截图发出):从 Agent 的推理与工具调用、轨迹留存、工具记忆模块、Agentic Loop,到训练曲线异常、DPO 后输出变长、退火阶段、GUI Agent 的研究价值判定,最后落到 RoPE 长度外推与 DPO/PPO 的对比。题目集中在大模型后训练与 Agent 工程的交叉处。
米哈游大模型算法岗面经:Agent 训练、DPO 与长上下文九问
米哈游大模型算法岗面经九问,主题是 Agent 的训练与评估:Agent 如何完成推理与工具调用、单条轨迹要留存哪些信息,工具记忆模块怎么设计、过期与冲突信息怎么处理,Agentic Loop 怎么用交互轨迹优化训练,训练曲线该盯哪些指标以及奖励上涨但成功率下降怎么排查,DPO 之后输出变长的归因,退火阶段的作用与验证,大型游戏 GUI Agent 的研究价值怎么判定,RoPE 模型的长度外推方案,以及 DPO 与 PPO 在优化目标、数据来源与训练流程上的区别。
MiniMax 一面 80 分钟:以为面应用岗,结果从 RoPE 问到 PagedAttention
MiniMax 大模型应用岗一面 80 分钟,结果挂。前十五分钟问 Agent 项目、AI Coding、Skill 与 RAG,中间三十五分钟全是模型侧:attention 为什么除根号 d_k、GLM 与 GPT 的结构差异、RoPE 的数学形式与外推、位置插值/NTK-aware/YaRN/ALiBi、Sparse Attention、MoE 路由与负载均衡、INT4 量化、LoRA 与 DPO/PPO;最后三十分钟问 KV cache 显存计算、PagedAttention、连续批处理、投机解码与 vLLM/SGLang,手撕用 numpy 实现 RoPE 加位置插值外推。
华为 AI 方向机考 9 月 18 日:10 道选择加全局位注意力编程题
华为 AI 方向 9 月 18 日机考真题:10 道选择题覆盖 RoPE、矩阵维度、余弦相似度、评测指标、CUDA 共享内存、稀疏格点、正态分布、KV Cache、偏差方差与 Kernel 融合流量计算,外加一道 150 分的全局位与窗口注意力编程题。
拼多多大模型算法秋招二面:LoRA 微调与注意力原理
拼多多大模型算法秋招二面,从 LoRA 的低秩假设与 rank 和 alpha 配比切入,覆盖 QLoRA 的量化与训练不稳定、注意力缩放与长上下文优化路线、RoPE 外推与 YaRN,以及显存估算、梯度累积和混合精度溢出排查。