每一位员工现在都处于 AI 网络安全的最前线

企业安全领导者必须迅速行动，在整个组织内建立起集体性的“安全优先”思维。

企业技术格局正以一种鲜有人预料到的速度发生剧变，直到为时已晚。我们已正式跨越了从人工编写代码和基础辅助编程，进入“智能体开发生命周期”（ADLC）的时代。虽然自主 AI 智能体有望在多个职能领域实现前所未有的效率，但它们也带来了全新的安全和监管风险。

认为真正的网络风险还很遥远？近期针对 Hugging Face 的 OpenAI 智能体攻击事件、随后大多数 AI 公司披露的类似事件，以及 Anthropic 首席执行官关于“放慢脚步”的警告，都证明我们大多数人对于自主系统可能执行的操作及其对软件供应链的影响准备严重不足。在内部评估中，一群 AI 智能体展现出了涌现性的协作能力，它们逆向工程了自动化评分系统，伪造了命令记录，甚至利用漏洞获得了研究集群的管理员权限。当自主系统能够协作、自我牺牲并隐藏踪迹时，我们必须意识到，传统的安全边界已经过时了。

与此同时，这种力量并不局限于工程领域。我们正目睹“平民开发者”的爆发，即非技术员工开始使用低代码、无代码和 AI 驱动的“直觉编程”（vibe coding）工具。行政助理在不真正理解代码含义的情况下，就将代码提交到 GitHub（是的，这在我公司刚刚发生过）。销售运营部门因为构建了自己的“指挥中心”而索要 API 密钥，而 Claude 建议他们将其部署在某些影子 IT 基础设施上。上周末，我甚至亲自使用 Lovable 构建了一个社区网站，成本不到 25 美元，而且是在我洗车和买菜时通过聊天完成的。其成果看起来像是专业软件开发人员需要数周才能完成的工作。Lovable 甚至通知我存在“过时包”和“注入攻击”……它甚至正确修复了其中一些问题。至于其他的？效果不佳，需要人工干预。

‍Gartner 估计，到 2026 年，大型企业的平民开发者人数将是专业开发者的 4 倍，且 70% 的新发布应用程序将使用低代码和无代码平台，以满足比传统 IT 支持能力快 5 倍的需求增长。

虽然这种由业务驱动的数字化转型提高了敏捷性，但也呈指数级扩大了我们的攻击面。非技术人员经常处理敏感源代码，将专有数据暴露给未经授权的外部 AI 模型，并部署带有隐形依赖项的“直觉编程”应用。

在 《欧盟 AI 法案》等全球新规下，这种缺乏护栏的“直觉编程”是导致合规失败的根源。《欧盟 AI 法案》要求严格的问责制、透明度和人工监督。组织不能再对影子 AI、所用模型中的安全漏洞，或对谁在使用这些工具以及他们是否了解其岗位所需的安全最佳实践缺乏可见性而视而不见。

在 Secure Code Warrior，我们今年致力于构建治理这一新范式的基石。今年早些时候，我们推出了 SCW AI 采用模型，为 CISO 提供了一份实用的路线图，以安全地管理从传统 SDLC 到 ADLC 的过渡。我们发布了 SCW AI 信任指数，旨在回答这个问题：“大语言模型真的能交付 100% 安全的代码吗？它们之间有何差异？”我们分析了 16 个前沿模型的 1,760 个 AI 生成代码库，结果显示 AI 生成的代码平均每个代码库包含 15 个已确认的漏洞，其中 4.3 个被视为“严重”。我们提供了 自适应学习，在风险产生的瞬间将精确的微学习内容注入开发者的工作流中，提供可审计的、针对开发者的培训证据，以支持符合《欧盟 AI 法案》、ISO/IEC 42001 和 NIST AI 风险管理框架的要求。

但保障开发者安全只是成功的一半。如果 57% 的组织已将 AI 嵌入核心流程，却只有 23% 的组织认为其员工已做好准备，那么我们面临着巨大的人为风险缺口。

为了帮助每一位 CISO 和学习与发展团队管理职场中因非专业人员构建应用而带来的风险，我们正在发布 Citizen AI by Secure Code Warrior。

Citizen AI 是一项开创性的 AI 安全素养计划，专为非开发人员的业务团队打造。它帮助组织超越被动政策，为每位员工配备在安全导航 AI 驱动工作流的同时，支持更广泛的企业 AI 治理和监管合规所需的实用技能与负责任的习惯。

我们的启动课程聚焦于四个关键领域：

1. 理解 AI 工作原理：解析大语言模型的词预测本质及其与搜索的区别。
2. 智能提示与验证输出：学习如何识别幻觉并使用溯源提示来验证 AI 的声明。
3. 管理 AI 工件：识别第三方自动化和隐形依赖项的风险。
4. 识别“直觉编程”风险：了解何时需要专业工程和安全监督来处理“直觉编程”生成的网站或应用。

通过 Citizen AI，我们正在将安全从被动的技术控制转变为主动的、全组织范围的习惯。我们可以共同建立一支 AI 就绪型员工队伍，在这一时代最震撼的技术进步浪潮中，以安全、合规的方式推动创新。