跳到正文
热点事件持续更新

Amazon Bedrock 为 Claude 模型提供结构化输出

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Amazon Bedrock 为所有 Anthropic Claude 模型上线结构化输出,覆盖 bedrock-runtime 与 bedrock-mantle 两个端点,模型可直接返回符合 JSON Schema 的响应。该功能使用约束解码,在 token 生成阶段强制 schema,使输出格式从概率性变为确定性;并提供 JSON Schema 输出格式与 strict tool use 两种机制,后者用于保证工具参数严格匹配输入 schema。 AWS 称,响应类型安全、必填字段始终存在,无需重试处理 schema 违规,且只输出 schema 定义的字段,可减少输出 token 数并降低高并发场景的推理成本。使用该功能需在所有对象上设置 additionalProperties: false。 新 schema 的首次请求需编译语法产物,编译结果按账号缓存 24 小时,仅修改字段名或描述不会使缓存失效。该功能支持批量推理;在 bedrock-runtime 端点上还支持跨区域推理,无需额外配置即可跨 AWS 区域使用,并支持以类型化事件流式返回。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. AWS Machine Learning Blog精选
    Amazon Bedrock 为 Anthropic Claude 模型上线结构化输出

    Amazon Bedrock 为所有 Anthropic Claude 模型上线结构化输出,覆盖 bedrock-runtime 与 bedrock-mantle 两个端点,可直接返回符合 JSON Schema 的响应。该功能使用约束解码在 token 生成阶段强制 schema,输出格式从概率性变为确定性,并提供 JSON Schema 输出格式与 strict tool use 两种机制,后者用于保证工具参数严格匹配输入 schema。官方称响应类型安全、必填字段始终存在,无需重试处理 schema 违规,且只输出 schema 定义的字段,可减少输出 token 数并降低高并发场景的推理成本。新 schema 首次请求需编译语法产物,编译结果按账号缓存 24 小时,仅修改字段名或描述不会使缓存失效。该功能支持批量推理,在 bedrock-runtime 上还支持跨区域推理,并支持以类型化事件流式返回。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。