上海RemoteFull TimeSeniorPosted Today
端云协同 AI Infra 专家 / 工程师上海社招全职技术 - 基础架构职位 ID:A41424职位描述1. 负责端云协同 AI 架构设计,明确云侧模型、私有化服务、边缘节点、端侧设备之间的职责边界、数据流、控制流和安全边界。
2. 围绕面壁miniCPM等系列产品,面向运营商营业厅、客服坐席、现场运维、企业办公终端、边缘网关等场景,建设端云协同的数字员工能力。
3. 与 Infra 团队协作,打通云侧模型服务、RAG、Workflow、权限审计、日志监控和端侧运行环境。
4. 负责端侧资源约束下的性能优化,包括量化、KV Cache、批处理、缓存策略、网络降级、异构算力调度和功耗控制。
5. 沉淀端云协同部署规范、设备适配清单、性能 benchmark、故障排查手册和行业交付模板。职位要求1. 本科及以上学历,计算机、电子信息、自动化、通信、人工智能等相关专业。
2. 3 年以上端侧 AI、边缘计算、推理优化、嵌入式系统、客户端基础架构或云边端协同系统经验。
3. 熟悉 C/C++、Python,了解端侧或边缘设备上的性能调优、资源管理和系统问题排查。
4. 熟悉至少一种推理框架或部署工具,如 llama.cpp、ONNX Runtime、TensorRT、SGLang 等。
5. 理解模型量化、剪枝、蒸馏、KV Cache、speculative decoding、流式输出等技术。
6. 熟悉端云通信、鉴权、缓存、离线可用、日志采集和远程运维等工程问题。
加分项
1. 有运营商、智能终端、边缘网关、客服坐席、AI 硬件或企业终端项目经验。
2. 熟悉GPU、国产 NPU 或其他边缘芯片平台。
3. 有语音助手、端侧 Agent、离线 AI 助手、端云协同知识助手项目经验。
4. 有私有化客户现场部署、设备适配或大规模终端灰度发布经验。投递
