深圳、合肥Full TimePosted Today
提前批-大模型推理框架工程师深圳、合肥校招正式数字技术 - 算法硕士及以上2027届校园招聘-技术提前批职位 ID:A92211职位描述我们做什么
在这里,你将参与自研大模型推理引擎从0到1的建设,亲手优化千亿/万亿级参数的模型推理性能,让每一次回答更快、更准、更省算力。你将接触真实业务场景,挑战AI Infra行业前沿问题。
岗位职责
· 参与大模型推理引擎核心模块的设计与开发,增强功能和提升系统吞吐;
· 探索并落地先进的大模型推理加速方案,跟进业界最新技术;
·· 跟踪开源社区(如vLLM、TensorRT-LLM、SGLang等)前沿动态,完成技术调研与验证。职位要求· 硕士及以上学历,计算机、AI、数学、信息、电子等相关专业;
· 熟悉Python,了解大模型Transformer基本工作原理;
· 具备良好的工程习惯(Linux、Git),学习能力强,能阅读英文技术资料。
加分项(非必需)
· 有vLLM、SGLang等推理框架使用或二次开发经验;
· 有CUDA/Triton算子编写经历;
· 有LLM相关论文、开源项目或竞赛经历。
我们提供
· 资深大佬1v1带教,拒绝放养,;
· 真实业务场景 + 充足GPU/NPU资源,真实项目经验;
· 一群热爱技术的同龄人,一起卷技术。投递
