跳到正文
热点事件持续更新

AI 推理的隐性存储成本被低估

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

西部数据(WD)的内部测量显示,AI 推理产生的后端数据远多于用户看到的输出:一段 8 秒、用户端仅 3.97MB 的 720p 视频,在后端留下超过 500MB 的日志、缓存上下文、即时渲染、备份与安全记录,是输出文件的 130 倍。 麦肯锡预计,到 2030 年 AI 推理需求将以 35% 的年复合增长率增长,高于训练的 22%,并在本十年末占数据中心总需求的 40% 以上。 WD 委托 IDC 对 763 位 IT 与业务决策者的调查显示,近 95% 的受访者称过去 12 个月生成式 AI 带来数据量增长,约 61% 报告增幅达 25% 或以上;96% 预计需要更快的归档检索来支持推理或 RAG。 文章据此建议按 AI 数据全生命周期规划存储层级,用 HDD 承载需长期保留的海量数据,并把归档数据视为 RAG 与推理的活跃资产。

AI 根据报道生成 · 54 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. MIT Technology Review · AI
    AI 推理留下的隐性存储账单:生成内容背后的数据成本

    AI 推理的隐性存储成本正被低估:WD 内部测量显示,一段 8 秒、用户端仅 3.97MB 的 720p 视频,在后端留下超过 500MB 的日志、缓存上下文、即时渲染、备份与安全记录,是输出文件的 130 倍。McKinsey 预计到 2030 年 AI 推理需求将以 35% 的 CAGR 增长,高于训练的 22%,并在本十年末占数据中心总需求 40% 以上。WD 委托 IDC 对 763 位 IT 与业务决策者的调查显示,近 95% 的受访者称过去 12 个月生成式 AI 带来数据量增长,约 61% 报告增幅达 25% 或以上;96% 预计需要更快的归档检索来支持推理或 RAG。文章建议按 AI 数据全生命周期规划存储层级,用 HDD 承载需长期保留的海量数据,并把归档数据视为 RAG 与推理的活跃资产。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。