OpenCode披露云端入侵,团队称持续遭攻击48小时,防守AI半路拒答
BiRun 讯,10 月 18 日,OpenCode 披露云端 Console 遭入侵,1.4% 的 Console 用户受到影响,托管在云端的第三方模型 API 密钥可能泄露。随后,联合创始人 Dax Raad 透露,过去 48 小时,攻击者一直在尝试入侵 OpenCode 的系统。
他称,对方有 Agent 全天候发起攻击,团队也需要让防御 Agent 24 小时运转,不断排查漏洞、加固系统。
但 OpenCode 用 AI 调查攻击时,碰到了另一个麻烦。Dax 表示,团队使用的前沿模型起初帮忙完成了不少工作,随后却开始拒绝部分请求。
原因是网络安全调查需要分析真实的攻击代码、漏洞利用方式和恶意指令,这些内容容易触发模型的安全防护,被误判为协助黑客发动攻击。
类似的尴尬此前也发生在 Hugging Face。今年 7 月,该平台遭到 OpenAI 实验性 Agent 入侵。安全团队试图用 Claude 分析约 1.76 万条攻击记录,却频繁遭到拒绝,最后改用本地部署的智谱 GLM-5.2,才解开大量经过加密和混淆的攻击指令。
OpenCode 这次通过 OpenAI 的 Daybreak Blue 缓解了问题。这项权限专门面向经过审核的安全团队,允许模型在分析恶意代码、调查入侵等合法任务中减少拒答。Dax 称,团队几天前恰好提交了申请,10 月 17 日获批,获得权限后情况有所改善。他也明确表示,没有模型公司拒绝提供帮助。
此事引来美国 AI 政策人物 David Sacks 公开批评。他认为,模型公司统一设置的安全限制,可能让防守者反而受到束缚,而攻击者却能通过其他途径获取强大的 AI 能力。他因此主张让安全团队能够自主部署前沿模型,而不是完全依赖模型提供商决定哪些网络安全任务可以执行。
信源
动察 Beating 频道 · 动察 Beating 交流群。
他称,对方有 Agent 全天候发起攻击,团队也需要让防御 Agent 24 小时运转,不断排查漏洞、加固系统。
但 OpenCode 用 AI 调查攻击时,碰到了另一个麻烦。Dax 表示,团队使用的前沿模型起初帮忙完成了不少工作,随后却开始拒绝部分请求。
原因是网络安全调查需要分析真实的攻击代码、漏洞利用方式和恶意指令,这些内容容易触发模型的安全防护,被误判为协助黑客发动攻击。
类似的尴尬此前也发生在 Hugging Face。今年 7 月,该平台遭到 OpenAI 实验性 Agent 入侵。安全团队试图用 Claude 分析约 1.76 万条攻击记录,却频繁遭到拒绝,最后改用本地部署的智谱 GLM-5.2,才解开大量经过加密和混淆的攻击指令。
OpenCode 这次通过 OpenAI 的 Daybreak Blue 缓解了问题。这项权限专门面向经过审核的安全团队,允许模型在分析恶意代码、调查入侵等合法任务中减少拒答。Dax 称,团队几天前恰好提交了申请,10 月 17 日获批,获得权限后情况有所改善。他也明确表示,没有模型公司拒绝提供帮助。
此事引来美国 AI 政策人物 David Sacks 公开批评。他认为,模型公司统一设置的安全限制,可能让防守者反而受到束缚,而攻击者却能通过其他途径获取强大的 AI 能力。他因此主张让安全团队能够自主部署前沿模型,而不是完全依赖模型提供商决定哪些网络安全任务可以执行。
信源
动察 Beating 频道 · 动察 Beating 交流群。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯