跳到正文
热点事件历史事件

AWS 发布 SageMaker JumpStart 模型部署与评测教程

1 篇报道1 个报道来源4 天前更新

先了解这件事

AI 综述

AWS 发布教程,介绍如何用 Amazon SageMaker JumpStart 从模型目录部署模型、运行轻量性能测试,并在测试完成后删除端点。测试通过示例提示词测量延迟与单请求生成速率,使用可复用的 SageMaker Python SDK 脚本完成。 按教程要求,使用者需具备带 SageMaker AI 权限的 AWS 账户、Python 3+ 及 SageMaker Python SDK v3(pip install "sagemaker>=3,<4"),并拥有目标模型所需的足够 GPU 实例配额,否则需申请提额。AWS 称该模式适用于许多兼容的 JumpStart 模型,但载荷格式、所需实例类型、最终用户许可协议(EULA)要求和响应结构可能需按模型调整。

AI 根据报道生成 · 2 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. AWS Machine Learning Blog
    用 Amazon SageMaker JumpStart 部署与评测模型

    Amazon SageMaker JumpStart 提供可复用 Python 脚本,从模型目录部署模型、用示例提示词测量延迟与单请求生成速率,并在测试后删除端点。