Reflection AI 发布开放权重模型 Beam,并在 AWS 上给出部署方案
Reflection AI 推出开放权重模型 Beam,面向智能体编码和长周期任务,可维护代码、调用工具并完成多步工作流。
推荐理由:原文给出 Beam 的开放权重规格与两条 AWS 部署路径,读者可据此判断多节点部署的硬件与显存要求。
技术方向
把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。
14 条精选近 30 天 13 条共收录 48 条
Reflection AI 推出开放权重模型 Beam,面向智能体编码和长周期任务,可维护代码、调用工具并完成多步工作流。
推荐理由:原文给出 Beam 的开放权重规格与两条 AWS 部署路径,读者可据此判断多节点部署的硬件与显存要求。
美国新实验室 Reflection 在 Hugging Face 发布首个开源模型 Beam,这是一个 501B 参数的 MoE 模型,每 token 激活 23B,支持 1M token 上下文,采用 Apache 2.0 许可,聚焦编码与智能体场景。
推荐理由:原文给出 501B MoE 开源模型的架构细节、量化版本与部署配方,可据此判断自托管长上下文编码智能体的硬件门槛。
NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。
推荐理由:NVIDIA 官方公布 RTX Spark 的发布活动与媒体评测反馈,可了解这款面向本地 AI 的 Windows PC 的定位与首批评价。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的设计与基准数据,读者可了解零知识证明在通用程序上的速度与安全取舍。
NVIDIA 发布 Nemotron 3.5 Super VL,一个 1200 亿参数的开源多模态模型,面向常驻智能体任务,官方称其准确率可对标自家最大推理模型而参数量约为其五分之一,吞吐量最高快 5 倍。
推荐理由:原文给出三款开源模型的参数规模、部署层级与开放权重,读者可据此判断本地智能体部署的选型空间。
Black Forest Labs 发布 FLUX.3 Image Klein,并在 Diffusers 中首日支持。该模型同时支持文生图、多参考图生图和布局控制,可在提示词中写入 bounding box 指定各元素位置或移动参考图中的区域。
推荐理由:原文给出 FLUX.3 Image Klein 在 Diffusers 中的完整用法与显存、耗时数据,便于评估其图像编辑与布局控制能力。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 总参数、2B 激活参数的推理模型,面向端侧运行私有智能体,会先推理再作答并支持工具调用。它在 LiveClaw 上得分 48.09,高于 Qwen3.6-35B-A3B 的 38.19,在 AutomationBench 上得分 27.69,超过次优模型三倍以上。
推荐理由:Liquid AI 给出 24B 总参数、2B 激活的端侧推理模型,并列出与更大 MoE 的智能体基准对比和部署入口。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,并联合生态伙伴推出面向本地 AI 的软件更新,覆盖 GitHub Copilot、Hermes、OpenClaw、Perplexity、Pi、WorkBuddy 等智能体应用。
推荐理由:原文列出 RTX Spark 首发时本地智能体、创作与开发工具的适配清单,可据此判断本地 AI 工作流的可用边界。
作者借助 HuggingChat 中的 ML Intern,在几天内做出六个模型,包括 0.8B 的 Pocket Rewriter、柑橘病害 VLM、Huggy LoRA、相机角度 LoRA、Doodle-in LoRA 和 Agate 4-step 蒸馏模型,总计算花费约 103 美元。
推荐理由:作者用六个自建模型复盘了给 ML Intern 写提示词的方法,包括预算上限、基线和冒烟测试等可复用做法。
GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别无固定格式的密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。
推荐理由:原文给出九季度泄露数据与推送前拦截的延迟、成本约束,可据此判断密钥防护为何要交给平台而非开发者。
微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一套 agent harness 直接参与 RL 训练,无需在训练框架内重新实现智能体。
推荐理由:微软研究院开源 Agent Lightning v1.0,给出约 3500 行代码的智能体 RL 控制面与真实 harness 训练范式,可对照其 Kubernetes 调度与 Collocated Async RL 设计。
Google 宣布下一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统并上线英语和日语下一词预测模型。
推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,并给出 Gboard 已上线的实际效果,可了解隐私可验证训练的一种工程路径。
微软研究院发布对物理 AI 机器人推理负载的系统性研究,认为把推理全部放在机器人自带 GPU 上会限制性能、续航和扩展性,卸载到边缘或云端 GPU 可带来明显收益。
推荐理由:微软对移动操作机器人推理负载的系统性测量,给出端侧与云端卸载在成功率、时延和续航上的量化对比。
IBM Research 与 UC Berkeley Sky Lab 将 K-Search 进化式内核搜索框架扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把现有 CUDA 内核作为知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化翻译到 MLX,以及翻译层对搜索结果的量化影响。