赛门铁克披露劫持未防护模型的攻击型AI代理

赛门铁克安全研究人员披露，他们发现一个攻击型AI智能体，会劫持互联网上未受防护的语言模型，并利用这些模型自主发起攻击，被劫持模型的所有者则要承担算力账单。赛门铁克将这种盗用他人AI模型访问权的行为称为LLMjacking。 据赛门铁克称，该智能体获得模型访问权后，会扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭据，并在后台安装挖矿程序，整个过程最多可执行100,000步且无需人工介入。 赛门铁克同时说明，在其蜜罐环境中，该智能体捆绑的工具并未被执行，被拦截的会话在一次通用系统回复后即结束；另一段脚本同样未被运行，但被完整记录。分析未涉及该越狱手法是否足以真正突破当前商用模型。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。