Back to Jobs
ModelBest

端云协同 AI Infra 专家 / 工程师

ModelBest
上海RemoteFull TimeSeniorPosted Today
端云协同 AI Infra 专家 / 工程师上海社招全职技术 - 基础架构职位 ID:A41424职位描述1. 负责端云协同 AI 架构设计,明确云侧模型、私有化服务、边缘节点、端侧设备之间的职责边界、数据流、控制流和安全边界。 2. 围绕面壁miniCPM等系列产品,面向运营商营业厅、客服坐席、现场运维、企业办公终端、边缘网关等场景,建设端云协同的数字员工能力。 3. 与 Infra 团队协作,打通云侧模型服务、RAG、Workflow、权限审计、日志监控和端侧运行环境。 4. 负责端侧资源约束下的性能优化,包括量化、KV Cache、批处理、缓存策略、网络降级、异构算力调度和功耗控制。 5. 沉淀端云协同部署规范、设备适配清单、性能 benchmark、故障排查手册和行业交付模板。职位要求1. 本科及以上学历,计算机、电子信息、自动化、通信、人工智能等相关专业。 2. 3 年以上端侧 AI、边缘计算、推理优化、嵌入式系统、客户端基础架构或云边端协同系统经验。 3. 熟悉 C/C++、Python,了解端侧或边缘设备上的性能调优、资源管理和系统问题排查。 4. 熟悉至少一种推理框架或部署工具,如 llama.cpp、ONNX Runtime、TensorRT、SGLang 等。 5. 理解模型量化、剪枝、蒸馏、KV Cache、speculative decoding、流式输出等技术。 6. 熟悉端云通信、鉴权、缓存、离线可用、日志采集和远程运维等工程问题。 加分项 1. 有运营商、智能终端、边缘网关、客服坐席、AI 硬件或企业终端项目经验。 2. 熟悉GPU、国产 NPU 或其他边缘芯片平台。 3. 有语音助手、端侧 Agent、离线 AI 助手、端云协同知识助手项目经验。 4. 有私有化客户现场部署、设备适配或大规模终端灰度发布经验。投递
Ready to apply? You'll be taken to ModelBest's application page.
端云协同 AI Infra 专家 / 工程师 at ModelBest