Hugging Face 政策负责人：嵌入式 AI 评估器并非易事

Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示，嵌入式 AI 评估器不会是一个简单的解决方案。她指出，评估仍是一门不断演进的科学，业界尚不知如何有意义地相互比较不同评测，评测结果的可复现性依赖对模型本身的访问权限，开放权重在此至关重要。她还提到，评测正从单纯测试模型转向测试模型周边的整个系统，包括 harness 和智能体；harness 对模型表现影响很大，较弱的模型配上更好的 harness 可能轻松胜过前沿模型。她认为智能体评测既困难又昂贵，针对 harness 的评测数量远少于针对模型的评测，而判定谁能成为有效评估者的资质标准需要更多标准化。