每一位员工现在都处于 AI 网络安全的最前线
.avif)
企业安全领导者必须迅速行动,在整个组织内建立起集体性的“安全优先”思维。
企业技术格局正以一种鲜有人预料到的速度发生剧变,直到为时已晚。我们已正式跨越了从人工编写代码和基础辅助编程,进入“智能体开发生命周期”(ADLC)的时代。虽然自主 AI 智能体有望在多个职能领域实现前所未有的效率,但它们也带来了全新的安全和监管风险。
还以为真正的网络风险遥不可及?近期 OpenAI 智能体针对 Hugging Face 发起的攻击、各大 AI 公司随后披露的类似事件,以及 Anthropic 首席执行官关于“放慢脚步”的呼吁,都充分表明:面对可能自主执行并危及软件供应链的威胁,绝大多数人显然准备不足。在内部评估中,一组 AI 智能体集群展现出了涌现式协作能力,不仅逆向工程了自动评分系统、伪造了命令记录,甚至利用漏洞获取了研究集群的管理员权限。当自主系统学会了协作、自我牺牲并隐匿行踪,我们必须清醒地意识到:传统的安全防线已经全面失效。
与此同时,这种力量并不局限于工程领域。我们正目睹“平民开发者”的爆发,即非技术员工开始使用低代码、无代码和 AI 驱动的“直觉编程”(vibe coding)工具。行政助理在不真正理解代码含义的情况下,就将代码提交到 GitHub(是的,这在我公司刚刚发生过)。销售运营部门因为构建了自己的“指挥中心”而索要 API 密钥,而 Claude 建议他们将其部署在某些影子 IT 基础设施上。上周末,我甚至亲自使用 Lovable 构建了一个社区网站,成本不到 25 美元,而且是在我洗车和买菜时通过聊天完成的。其成果看起来像是专业软件开发人员需要数周才能完成的工作。Lovable 甚至通知我存在“过时包”和“注入攻击”……它甚至正确修复了其中一些问题。至于其他的?效果不佳,需要人工干预。
Gartner 预测,到 2026 年,大型企业的全民开发者与专业开发者的比例将达到 4:1,且 70% 的新交付应用将采用低代码和无代码平台构建,以满足以传统 IT 支撑能力五倍速度激增的业务需求。
虽然这种由业务驱动的数字化转型提高了敏捷性,但也呈指数级扩大了我们的攻击面。非技术人员经常处理敏感源代码,将专有数据暴露给未经授权的外部 AI 模型,并部署带有隐形依赖项的“直觉编程”应用。
在《欧盟人工智能法案》等全球新规的监管下,这种毫无防护栏的“凭感觉编码”(vibe coding)注定会导致合规崩盘。《欧盟人工智能法案》明确要求严格的问责机制、透明度以及人工监督。企业再也不能对影子 AI、在用模型的安全漏洞,或是工具使用者的可见性及其是否掌握对应岗位的安全最佳实践视而不见了。
在 Secure Code Warrior,我们今年全力构建能够治理这一新范式的坚实基础。今年早些时候,我们推出了 SCW AI 采纳模型,为 CISO 提供了一条实用的路线图,帮助企业安全地从传统软件开发生命周期(SDLC)过渡到智能体开发生命周期(ADLC)。我们发布了 SCW AI 信任指数,直面核心疑问:“大语言模型究竟能否交付 100% 安全的代码?各模型的表现又有何差异?”我们深入分析了横跨 16 个前沿模型的 1,760 个 AI 生成代码库,结果揭示:AI 生成的代码平均每个代码库包含 15 个已确认的漏洞,其中 4.3 个属于“严重”级别。我们还推出了 Adaptive Learning(自适应学习),能够在风险引入的瞬间,将精准的微学习嵌入开发者的工作流程中,提供可供审计的单人培训证明,从而满足《欧盟人工智能法案》、ISO/IEC 42001 及 NIST AI 风险管理框架的合规要求。
但保障开发者安全只是成功的一半。如果 57% 的组织已将 AI 嵌入核心流程,却只有 23% 的组织认为其员工已做好准备,那么我们面临着巨大的人为风险缺口。
为了协助各企业的 CISO 和培训与发展(L&D)团队有效控制非专业员工在工作中随意构建应用所带来的激增风险,我们正式推出 Citizen AI by Secure Code Warrior。
Citizen AI 是一项开创性的 AI 安全素养计划,专为非开发人员的业务团队打造。它帮助组织超越被动政策,为每位员工配备在安全导航 AI 驱动工作流的同时,支持更广泛的企业 AI 治理和监管合规所需的实用技能与负责任的习惯。
我们的启动课程聚焦于四个关键领域:
- 理解 AI 工作原理:解析大语言模型的词预测本质及其与搜索的区别。
- 智能提示与验证输出:学习如何识别幻觉并使用溯源提示来验证 AI 的声明。
- 管理 AI 工件:识别第三方自动化和隐形依赖项的风险。
- 识别“直觉编程”风险:了解何时需要专业工程和安全监督来处理“直觉编程”生成的网站或应用。
通过 Citizen AI,我们正在将安全从被动的技术控制转变为主动的、全组织范围的习惯。我们可以共同建立一支 AI 就绪型员工队伍,在这一时代最震撼的技术进步浪潮中,以安全、合规的方式推动创新。
在 AI 驱动的开发成果发布前实现有效治理
评估 AI 辅助风险,在提交代码时强制执行安全编码策略,并加速整个软件开发生命周期的安全交付。
探索更多博客
获取有关安全编码、人工智能治理和软件风险管理的专家内容。
在产品发布前确保 AI 驱动的开发安全
洞察开发风险,执行安全策略,并在整个软件开发生命周期中预防漏洞。




