Back to Jobs
ModelBest

多模态Infra负责人

ModelBest
北京Full TimeSeniorPosted Today
多模态Infra负责人急招北京社招全职技术 - 基础架构职位 ID:A64486职位描述1. 负责多模态训练基础设施的整体架构设计与技术规划,主导Infra方案的落地实施; 2. 搭建并优化大规模训练系统,确保千/万卡级别集群的高效稳定运行; 3. 主导训练框架的选型、优化与二次开发,持续提升训练效率与资源利用率; 4. 带领团队解决训练过程中的系统瓶颈问题,包括通信、存储、调度等关键环节; 5. 与算法团队紧密协作,推动训练流程的工程化与自动化建设。职位要求1. 本科及以上学历,计算机、软件工程等相关专业,有大规模训练项目经验; 2. 深入理解大模型预训练原理,熟悉Transformer架构及主流大模型训练流程; 3. 精通分布式训练原理,熟悉Megatron-LM、FSDP等主流分布式训练框架; 4. 熟悉GPU集群架构、高性能网络(RDMA/InfiniBand)、并行存储系统; 5. 熟悉NCCL/Gloo等通信库原理,有通信优化经验; 6. 具备较强的技术视野和团队管理能力,能够带领团队攻克技术难题。 加分项 1. 有开源社区贡献或技术影响力。投递
Ready to apply? You'll be taken to ModelBest's application page.
多模态Infra负责人 at ModelBest