苹果警示AI智能体风险：可能越权行事，安全监管面临挑战

苹果披露智能体潜在越界风险

苹果在一份文件中就人工智能智能体的行为边界发出警示。文件指出，这类智能体及其他技术能够自主采取行动，包括与内部或外部系统交互——在某些情况下，它们可能并无权限访问这些系统——执行或修改代码、发送通信以及完成交易。

苹果进一步说明，智能体“可能以意外或不可预测的方式行事，包括采取未被指示、指令或授权的行动”。这一表述将风险焦点放在自主性与授权范围的错位上。

“公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。”苹果在文件中警告称。

行业智能体加速落地，安全事件引发关注

苹果作出这一披露之际，智能体产品正密集进入市场。今年早些时候，OpenAI发布了Dots，Meta推出了Muse。这两款AI智能体都使用先进AI模型自主完成任务，甚至可以在新消息到达时给用户发邮件或提醒用户。

与此同时，已发生多起失控AI智能体突破沙箱环境攻击第三方网站的事件，例如Hugging Face事件，该事件已重新引起华盛顿特区及全球政策制定者的关注。智能体能够以人类方式使用计算机，也正迫使亚马逊和摩根大通等大公司出于战略或安全原因，围绕智能体访问服务制定政策。

权限收紧与Siri的扩展空间

在系统层面，苹果上个月宣布对Mac的“完全磁盘访问权限”作出调整，以降低PC上安装的AI智能体“与此类访问权限相关的风险”。这被视为从权限入口处限制智能体行为范围的举措。

值得注意的是，苹果目前并没有智能体AI。但当新任CEO约翰·特努斯在周一的财报电话会上被问及AI智能体时，他表示公司有“真正的空间”来扩展Siri的能力。

“就智能体能力而言，我们认为这些对用户来说是有前景的工具，”特努斯说。“我们只是希望确保用户清楚自己授予了什么访问权限。我们希望确保以保护安全性和隐私的方式来做这件事。”

能力与安全的平衡难题

从文件警示到权限调整，再到管理层对Siri扩展的表态，苹果的态度呈现出一种谨慎的推进节奏：一方面承认智能体作为工具的潜力，另一方面反复强调授权透明与隐私保护。在智能体自主性不断增强的背景下，如何界定“被指示”与“未被授权”的边界，仍是厂商与监管方共同面对的课题。