《Yahoo Finance》报导，热门AI代理平台OpenClaw近期在科技圈掀起热潮。 该平台由目前已加入OpenAI的Peter Steinberger开发，允许用户在其电脑上建立AI代理，执行从检查电子邮件、回复讯息到管理系统档案等各种任务。
尽管功能强大，但这些能力同时潜藏安全风险。 原因在于，用户等同于将电脑控制权交给 AI 模型。 这在运作顺利时当然便利，但一旦出错，可能导致严重后果，例如永久删除重要邮件，甚至删除整个系统程序。
而当企业将OpenClaw导入公司设备进行测试时，这类问题的风险将被进一步放大。
因此，越来越多企业开始推出新的信息解决方案，试图「控管」OpenClaw，避免其 AI 代理带来的问题大于效益。
英伟达（Nvidia）（NVDA-US）上周在加州圣荷西举行的 GTC 大会中，推出名为 NemoClaw 的平台，而思科（Cisco）（CSCO-US）则于周一（23日）展示其进军该领域的最新产品。
思科总裁暨产品长 Jeetu Patel 表示，「OpenClaw 之于 AI 代理，就像 ChatGPT 之于聊天机器人，是一个关键转折点，也让技术能力较强的用户更容易在工作与家庭场景中部署代理。
但他也指出，问题在于信任与安全风险。 「这些 AI 代理就像青少年，他们非常有自信，但经验不足，不完全理解后果，也不知道规则在哪里。」
为了解决这些问题，思科表示将采取多管齐下的策略，防止 AI 代理对世界造成威胁，保护 AI 代理免受外界攻击，并利用 AI 侦测骇客与恶意行为。
「防范 AI 代理危害世界」听起来似乎有些夸张，但 Patel 强调，这并非危言耸听。 AI 代理就像任何软件一样，可能被利用来攻击基础设施或窃取敏感资料。
他指出，AI代理的风险远高于聊天机器人。 聊天机器人最糟情况只是给出错误答案，但 AI 代理最糟的情况是执行错误行动，而且可能造成灾难性后果，例如清空银行账户或删除电子邮件，且无法复原。」
思科与其他企业认为，最佳做法是将 AI 代理视为人类员工来管理，为其建立可验证的身份，并依照需求赋予适当的系统与服务存取权限。
另一方面，「保护 AI 代理免受外界威胁」的重点在于防止骇客对 AI「越狱」，迫使其执行原本不会做的行为。
为此，思科推出一项服务，让企业客户可透过模拟攻击测试其 AI 代理，了解其在不同攻击情境下的表现与弱点。
最后，思科也表示将运用 AI 代理来应对其他 AI 威胁，让企业在面对攻击时，能以与黑客相同的速度做出反应。
OpenClaw 只是 AI 浪潮的最新发展，未来势必带动更多变革。 毕竟该平台自去年11月推出以来，已开始影响大型企业的决策。 而这也意味着，未来将需要更多资安技术与方法，协助防御方追上攻击者的脚步。
