人工智能代理在加密用户中日益流行，Circle首席执行官杰里米·阿莱尔预测，五年内将有数十亿人工智能代理投入使用。
一项新研究论文指出，人工智能驱动的智能体的安全应集成在整个系统中，而不仅仅是模型本身，以更好地防止不法行为者的失败和攻击。
这份由谷歌、Gray Swan AI、EmbraceTheRed及多所大学研究人员于5月20日发布的修订论文主张，代理安全必须被视为系统问题，AI代理应被视为不可信的组件。
研究人员表示：“从这个角度看，单靠提升模型稳健性——即社区主流观点——是不够的。相反，我们必须用系统安全领域的技术来补充现有努力，”研究人员表示。
“为此，我们建议将代理安全视为计算机安全的实例。该领域长期以来一直对抗强大的攻击者，并推动了数十年对抗此类对手的原则和技术研究。”
人工智能代理在加密用户中日益流行。一些加密高管猜测，未来几年人工智能代理可能会爆发式增长。Circle首席执行官Jeremy Allaire在一月份预测，五年内将有数十亿人工智能代理代表用户运营。
核心安全防护能够阻止大多数攻击
研究人员表示，在研究了一系列攻击案例后，“三种机制”可以“消除大量攻击”。
他们认为，人工智能代理应明确区分指令和不可信数据，以避免攻击者通过在数据中隐藏恶意指令来欺骗代理。研究人员还表示，AI代理应仅拥有执行任务所需的最低权限，而非完全访问权限。
研究人员表示，标准安全设置包括可信系统和不可信系统，人工智能应被视为不可信系统。来源：代理安全是系统问题
同时，更广泛的系统应控制敏感信息的流向，而非代理，以确保无法控将敏感数据发送到不安全的目的地。
在最近的一起案例中，AI驱动的加密交易助手Banker表示，在5月20日发现一名攻击者并获得了至少14个钱包访问权限后，已关闭交易。安全专家推测该机器人可能被黑客利用。
人工智能代理被用于构建Web3应用、发布代币以及自主地与服务和协议交互，一些平台也在探索AI进行交易。
区块链智能公司Merkle Science的归因负责人Aaron Ratcliff去年告诉Cointelegraph，从安全角度来看，让AI代理访问钱包为设计成不可信的系统增添了一层信任，如果系统构建得当，是安全的。
“我希望AI能够在交易前发现抢先跑动、应用滑点限额、识别诈骗代币并实时审计合约，然后才进行交易。它还应该对提示进行沙箱处理，防止注入，并阻止中间人访问，”他说。
与此同时，AI原生区块链平台Sahara AI联合创始人肖恩·任任表示，模型上下文协议在正确设置时是安全的黄金标准，但用户仍应关注AI代理执行的每一个操作。
“它们本质上充当了人工智能模型和你钱包之间的守门人。代理人只能执行具体且获批的操作——比如检查余额或为你准备付款以供确认——而不是自由转移资金或更改钱包设置，“他说。
