微软CEO：企业应将AI视为内部安全风险，确保AI Agent可随时暂停或关闭

BiRun 讯，微软 CEO 萨蒂亚·纳德拉发文表示，企业应将 AI 模型纳入内部安全风险管理体系，即使模型本身没有恶意，也可能因错误或遭攻击者利用而造成安全风险，尤其是在涉及敏感数据访问及关键操作时，不能仅依赖模型供应商的安全承诺。纳德拉强调，应将 AI 模型与 Agent 执行框架分离，通过外部系统控制数据访问和工具调用权限，并为关键操作保留防篡改、可供人工审查的记录。同时，企业应在部署阶段就考虑模型遭入侵的可能性，确保授权人员能够随时暂停或关闭 Agent，并持续开展安全测试及事故披露。此外，微软本月已宣布 Windows 平台正式支持 MXC 隔离工具，可通过外部策略限制 Agent 对文件及网络的访问。