TWITTER / X

OpenCode 遭持续网络攻击:防御所用前沿模型因安全护栏拒绝协助分析攻击

@abidlabs
  • #AI安全
  • #网络安全
  • #安全护栏
  • #智能体安全
  • #OpenCode
原文

OpenCode 正遭受持续性网络攻击,并在应急过程中遇到与 Hugging Face 曾遇到的同类问题:用于防御的前沿 AI 模型因分析攻击行为触发安全护栏,开始拒绝协助对抗攻击智能体。OpenCode 相关人员(dax)表示事发时难以调查中颇为困扰,模型在协助一段时间后开始拒绝,目前他们已获得 "daybreak blue" 的访问权限,情况有所改善。

AI 解读

作者声称:OpenCode 正在遭遇持续性网络攻击,团队使用前沿模型协助防御时,模型因安全护栏(safety guardrails)在分析攻击过程中开始拒绝配合,与 Hugging Face 此前遇到的类似。回复者 dax 证实事发时确实令人挫败——模型先是做了不少分析工作,随后开始拒绝,之后获得 "daybreak blue" 访问权限,情况好转。 值得关注的原因:这一事件展示了 AI 模型安全护栏在防御性安全场景中的误伤问题——模型对攻击分析请求的拒答可能同时阻碍防御方,反映出模型能力区分"恶意攻击者"与"防御者"意图的局限。"Daybreak blue" 的具体性质从原文无法确认,不能断定其是某家公司的模型还是内部系统。 推断(非原文事实):此类事件可能推动模型厂商改进面向授权防御场景的护栏设计,或促使安全团队依赖可控性更高的开源/自托管模型。该判断为分析性推断,需更多背景佐证。

推文原文

RT Andrew Curran OpenCode is currently under a sustained cyberattack, and mid-incident they ran into the same problem Hugging Face did: the frontier models they were using for defense began refusing to help fight attacking agents because analyzing the attacks started triggering safety guardrails. dax: @RhysSullivan yes that was a bit frustrating mid incident when trying to investigate. they did quite a bit and then started refusing we got access to daybreak blue now so it's better