北京InternshipEntry-levelPosted Today
大模型研究和工程实习生-MiMo北京校招实习算法类职位描述1.创新模型结构设计:
- 参与大型语言模型核心架构设计与优化
- 探索Transformer及其变种的改进方案
2. 原生多模态探索:
- 研发原生多模态架构,实现文本、图像、音频等模态信息的深度融合
- 研究多模态对齐技术,实现不同模态的语义一致性
3. 模型推理能力提升:
- 借助强化学习+CoT,提升大语言模型推理能力
- 自研强化学习算法,搭建强化学习训练框架,设计奖励函数、构建环境、优化模型提升性能
4. 大模型训练推理Infra
- 开发和优化大规模分布式训练推理系统
- 优化大模型训练的内存使用和通信效率
5. 科学评测体系构建:
- 构建科学严谨的算法评测方法,系统评估模型的性能
- 探索模型能力的潜在机制,推动模型优化和创新职位要求职位要求
1. 学术能力:
- 精通深度学习、强化学习(RL)、自然语言处理(NLP)等领域,具备创新研究能力
- 在相关领域的国际顶会或期刊发表高质量论文(如 NeurIPS、ICML、CVPR、ICLR、ACL 等)
- 在领域内知名比赛(NOI、IOI、IPhO、ACM、Kaggle 等)中取得优异成绩者优先
2. 编程能力:
- 熟练掌握 Python、C++ 或其他编程语言,具备扎实的数据结构与算法基础
- 熟悉主流深度学习框架(如 PyTorch、TensorFlow),能够高效实现复杂模型
职位要求
1. 学术能力:
- 精通深度学习、强化学习(RL)、自然语言处理(NLP)等领域,具备创新研究能力
- 在相关领域的国际顶会或期刊发表高质量论文(如 NeurIPS、ICML、CVPR、ICLR、ACL 等)
- 在领域内知名比赛(NOI、IOI、IPhO、ACM、Kaggle 等)中取得优异成绩者优先
2. 编程能力:
- 熟练掌握 Python、C++ 或其他编程语言,具备扎实的数据结构与算法基础
- 熟悉主流深度学习框架(如 PyTorch、TensorFlow),能够高效实现复杂模型
加分项
- 熟悉大型模型训练技术,包括预训练、SFT(监督微调)、RLHF&O1(基于人类反馈的强化学习)。
- 在多模态建模(如图像-文本、语音-文本对齐)领域有相关研究经验。
- 有分布式系统和并行计算经验,熟悉CUDA编程或GPU优化技术投递
