微软研究:将物理 AI 推理卸载到边缘或云端可提升机器人性能与续航
微软研究院发布对物理 AI 机器人推理负载的系统性研究,认为把推理全部放在机器人自带 GPU 上会限制性能、续航和扩展性,卸载到边缘或云端 GPU 可带来明显收益。
推荐理由:微软对移动操作机器人推理负载的系统性测量,给出端侧与云端卸载在成功率、时延和续航上的量化对比。
技术方向
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
22 条精选近 30 天 21 条共收录 60 条
微软研究院发布对物理 AI 机器人推理负载的系统性研究,认为把推理全部放在机器人自带 GPU 上会限制性能、续航和扩展性,卸载到边缘或云端 GPU 可带来明显收益。
推荐理由:微软对移动操作机器人推理负载的系统性测量,给出端侧与云端卸载在成功率、时延和续航上的量化对比。
IBM Research 与 UC Berkeley Sky Lab 将 K-Search 进化式内核搜索框架扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把现有 CUDA 内核作为知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化翻译到 MLX,以及翻译层对搜索结果的量化影响。