Back to Jobs
小米科技 Xiaomi Technology

大模型研究和工程实习生-MiMo

小米科技 Xiaomi Technology
北京InternshipEntry-levelPosted Today
大模型研究和工程实习生-MiMo北京校招实习算法类职位描述1.创新模型结构设计: - 参与大型语言模型核心架构设计与优化 - 探索Transformer及其变种的改进方案 2. 原生多模态探索: - 研发原生多模态架构,实现文本、图像、音频等模态信息的深度融合 - 研究多模态对齐技术,实现不同模态的语义一致性 3. 模型推理能力提升: - 借助强化学习+CoT,提升大语言模型推理能力 - 自研强化学习算法,搭建强化学习训练框架,设计奖励函数、构建环境、优化模型提升性能 4. 大模型训练推理Infra - 开发和优化大规模分布式训练推理系统 - 优化大模型训练的内存使用和通信效率 5. 科学评测体系构建: - 构建科学严谨的算法评测方法,系统评估模型的性能 - 探索模型能力的潜在机制,推动模型优化和创新职位要求职位要求 1. 学术能力: - 精通深度学习、强化学习(RL)、自然语言处理(NLP)等领域,具备创新研究能力 - 在相关领域的国际顶会或期刊发表高质量论文(如 NeurIPS、ICML、CVPR、ICLR、ACL 等) - 在领域内知名比赛(NOI、IOI、IPhO、ACM、Kaggle 等)中取得优异成绩者优先 2. 编程能力: - 熟练掌握 Python、C++ 或其他编程语言,具备扎实的数据结构与算法基础 - 熟悉主流深度学习框架(如 PyTorch、TensorFlow),能够高效实现复杂模型 职位要求 1. 学术能力: - 精通深度学习、强化学习(RL)、自然语言处理(NLP)等领域,具备创新研究能力 - 在相关领域的国际顶会或期刊发表高质量论文(如 NeurIPS、ICML、CVPR、ICLR、ACL 等) - 在领域内知名比赛(NOI、IOI、IPhO、ACM、Kaggle 等)中取得优异成绩者优先 2. 编程能力: - 熟练掌握 Python、C++ 或其他编程语言,具备扎实的数据结构与算法基础 - 熟悉主流深度学习框架(如 PyTorch、TensorFlow),能够高效实现复杂模型 加分项 - 熟悉大型模型训练技术,包括预训练、SFT(监督微调)、RLHF&O1(基于人类反馈的强化学习)。 - 在多模态建模(如图像-文本、语音-文本对齐)领域有相关研究经验。 - 有分布式系统和并行计算经验,熟悉CUDA编程或GPU优化技术投递
Ready to apply? You'll be taken to 小米科技 Xiaomi Technology's application page.
大模型研究和工程实习生-MiMo at 小米科技 Xiaomi Technology