北京InternshipEntry-levelPosted Today
Miclaw-大模型训练推理方向实习生AI人才专项热招北京校招实习软件研发类职位描述1. 研究并复现业界与学术界 SOTA 的大模型推理优化技术，包括但不限于极低比特量化、FlashAttention、投机解码（Speculative Decoding）、KV Cache 优化等关键方向，并在真实端侧场景中进行性能评估与对比分析。
2. 面向端侧算力与内存受限场景，探索高效的大模型结构与推理策略，如端侧友好的 MoE 方案、稀疏与线性注意力、长上下文推理优化等，推动模型在性能、效果与资源消耗之间的最优权衡。
3. 参与大模型与芯片协同设计（Model–Chip Co-design），从模型结构、算子设计到推理系统层面进行联合优化，深入理解端侧 NPU / GPU / CPU 架构对模型推理性能的影响。
4. 与模型、系统、芯片团队深度协作，将研究成果转化为可落地的工程方案，并有机会参与核心模块的设计与实现，产生可量化的性能提升结果。职位要求1. 计算机科学、人工智能、电子工程或相关专业在读本科 / 硕士 / 博士，对大模型、系统或芯片方向有强烈兴趣。
2. 具备扎实的算法与系统基础，对复杂系统的性能瓶颈具有较强分析能力，愿意深入到实现细节解决“难而重要”的问题。
3. 至少在以下一个或多个方向具备良好基础或实践经验：
- 大模型推理与优化（Attention、KV Cache、并行推理等）
- 模型压缩与量化（INT8 / INT4 / 更低比特）
- 高性能计算、并行计算或系统性能优化
- 编译器、算子优化或 AI 加速器相关经验
4. 具备良好的代码能力（C++ / Python / CUDA 等至少一种），能够独立完成实验、分析性能数据并清晰总结结论。投递