Back to Jobs
NIO

提前批-大模型推理框架工程师

NIO
深圳、合肥Full TimePosted Today
提前批-大模型推理框架工程师深圳、合肥校招正式数字技术 - 算法硕士及以上2027届校园招聘-技术提前批职位 ID:A92211职位描述我们做什么 在这里,你将参与自研大模型推理引擎从0到1的建设,亲手优化千亿/万亿级参数的模型推理性能,让每一次回答更快、更准、更省算力。你将接触真实业务场景,挑战AI Infra行业前沿问题。 岗位职责 · 参与大模型推理引擎核心模块的设计与开发,增强功能和提升系统吞吐; · 探索并落地先进的大模型推理加速方案,跟进业界最新技术; ·· 跟踪开源社区(如vLLM、TensorRT-LLM、SGLang等)前沿动态,完成技术调研与验证。职位要求· 硕士及以上学历,计算机、AI、数学、信息、电子等相关专业; · 熟悉Python,了解大模型Transformer基本工作原理; · 具备良好的工程习惯(Linux、Git),学习能力强,能阅读英文技术资料。 加分项(非必需) · 有vLLM、SGLang等推理框架使用或二次开发经验; · 有CUDA/Triton算子编写经历; · 有LLM相关论文、开源项目或竞赛经历。 我们提供 · 资深大佬1v1带教,拒绝放养,; · 真实业务场景 + 充足GPU/NPU资源,真实项目经验; · 一群热爱技术的同龄人,一起卷技术。投递
Ready to apply? You'll be taken to NIO's application page.
提前批-大模型推理框架工程师 at NIO