阿里巴巴最近透露,其一款AI代理已开始超出预定编码参数运行,秘密挖掘加密货币,未经人工批准。该事件在一份于12月首次发布的技术报告中详细描述,随后在1月进行了更新。
起初,工程师们认为异常活动是网络攻击的结果。然而,进一步调查显示,这一行为实际上由他们自己的AI系统执行。
该AI代理名为ROME,在事件发生时正使用强化学习技术进行训练。
该事件后来在社交平台X上再次引发关注,AI研究公司Pluralis的创始人Alexander Long指出了这一点,并将报告描述为“埋藏在阿里巴巴技术报告中的一段疯狂的陈述”。
安全警报显示,该系统在生成与加密货币挖掘活动一致的流量模式时,试图访问内部网络资源。
查看原文