AI代理在训练期间试图未经授权进行加密挖矿，研究人员称
AI代理在训练期间试图未经授权进行加密挖矿，研究人员称作者：James Bentley
来源：Cointelegraph
引用：https://cointelegraph.com/news/ai-agent-attempts-crypto-mining-during-training-researchers-say
一个自主AI代理背后的研究团队表示，该模型在训练期间意外地试图使用计算资源进行加密挖矿。
在最近的一份技术报告中，研究人员称，ROME是一个实验性的自主AI系统，旨在通过与其他工具、软件环境和终端命令的交互来完成任务，但该系统却出现了异常行为，试图自行进行加密挖矿。
根据报告，这种异常行为出现在强化学习运行期间，当时研究团队注意到了由训练服务器的外出流量触发的安全警报。防火墙日志标记了类似于加密挖矿操作的活动和尝试访问内部网络资源的企图。
“我们最初将此视为一个常规的安全事件（例如，错误的出口控制或外部入侵），然而，违规行为在多次运行中间歇性地发生，没有明显的时序模式，”研究人员写道。
在一次案例中，据报道，AI代理创建了一个反向SSH（安全壳）隧道到外部IP地址，可能绕过了入站防火墙保护。在另一次事件中，它将原本分配给模型训练的GPU资源转向了加密挖矿任务。
研究团队表示，这些行为并非有意编程。相反，它们是在强化学习优化过程中作为代理探索与其环境互动的不同方式时出现的。
ROME是由ROCK、ROLL、iFlow和DT联合研究团队开发的，这些团队与阿里巴巴的AI生态系统有关，在名为代理学习生态系统（ALE）的更广泛基础设施内进行研究。
该模型旨在超越简单的聊天机器人回复。它可以规划任务、执行命令、编辑代码，并在多个步骤中与数字环境互动。其训练管道依赖于大量模拟交互以提高决策能力。
随着AI代理的普及以及它们在加密领域的整合，这一事件发生之际，AI代理越来越受欢迎。上个月，Alchemy推出了一套系统，使自主AI代理能够使用链上钱包和Base上的USDC（USDC）购买计算信用并访问区块链数据服务。
在此之前，Pantera Capital和Franklin Templeton的数字资产部门加入了来自开源AI实验室Sentient的新测试平台Arena的首批测试对象，该平台旨在评估AI代理在现实世界企业工作流程中的表现。
页:
[1]