智能免费之后:面向智能体、由智能体构建的数据系统
随着推理成本从 2023 年初 GPT-4 级约 $30/百万 tokens 降至如今不到 $1,部分厂商已低于 $0.10,基准测试显示推理价格每年下降 9x 至 900x、中位数约 50x,UC Berkeley EPIC Data Lab 提出数据系统面临三大新挑战:为智能体设计的数据系统、运行智能体集群的数据系统、以及由智能体合成数据系统。
随着推理成本从 2023 年初 GPT-4 级约 $30/百万 tokens 降至如今不到 $1,部分厂商已低于 $0.10,基准测试显示推理价格每年下降 9x 至 900x、中位数约 50x,UC Berkeley EPIC Data Lab 提出数据系统面临三大新挑战:为智能体设计的数据系统、运行智能体集群的数据系统、以及由智能体合成数据系统。