深圳InternshipEntry-levelPosted Today
ai-infra基础架构-实习生深圳实习研发职位描述核心职责
1. 参与核心研发,负责推理引擎与深度学习训练和推理框架的设计、研发及迭代,支撑AI算法高效落地与规模化
应用。
2. 主导算子优化(融合/自定义开发)、模型量化/剪枝等技术落地,攻克部署性能瓶颈;完成推理框架在
NPU/GPU/CPU多平台的适配,保障跨平台稳定性与高效性。
3. 跟踪前沿技术,持续优化推理引擎的性能、内存占用及易用性,推动技术架构升级。职位要求职位要求
任职要求
1. 精通计算机体系结构、编译原理等知识;熟练掌握C++/Pythorn,能编写高性能代码。
2. 深入理解CUDA编程;熟练运用MNN/RKNN/TensorRT等推理框架;熟悉TensorFlow/PyTorch/ONNX底层原理及
模型转换。
3. 具备Megatron、DeepSpeed、vLLM或SgLang开发经验。
4. 有算子开发优化实战经验,可独立实现高性能算子;掌握模型性能分析工具,具备量化、剪枝等技术落地能
力。
加分项
熟悉CNN/Transformer等模型结构与推理特性。
有AI算法在边缘端NPU/云端大模型的工业级部署经验。
有相关开源项目贡献。投递