为什么大多数 CISO 在 AI 采用过程中如盲人摸象（以及他们如何摘下眼罩）

对于那些深陷企业软件开发生态系统 AI 实施工作的人来说，现在恐怕没几个人愿意和他们身边的 CISO 互换位置。随着越来越多的流程实现 AI 增强，安全问题层出不穷。在选择适配技术栈的模型、开发人员使用影子 AI，以及 AI 生成代码泛滥导致安全技能缺口日益扩大的背景下，他们本就复杂的角色正变得愈发棘手。

为了应对这些挑战，“AI 治理”这一概念被提了出来，并被定位为实现 AI 安全集成与持续使用的万能方案，即使对于那些非安全专业人士也是如此。虽然这确实是一种解决方案，但如果公司尚不明确自身的 AI 采用阶段，就很难从安全最佳实践手册中落实执行。

即使仅关注开发团队，成员之间的 AI 采用情况也存在差异。例如，有些人可能只是偶尔向 Copilot 提问，将其作为传统讨论论坛的替代品；而另一些人可能正在试验代理式 AI 系统，这代表着在自主性、能力和对潜在敏感代码库的访问权限方面有了显著提升。各种前沿模型和开源大语言模型被用于构建代码，代理程序正利用模型上下文协议 (MCP) 技术和技能来访问外部工具，而创新的供应链攻击也让整个生态系统处于警惕状态。这种行为将极大地增加组织的攻击面，而控制这种日益增长的风险让安全领导者彻夜难眠。

你该如何说服那些 AI 采用的滞后者加快步伐，让他们对 AI 工具在软件开发中的应用结果感到放心，同时又让他们清醒地意识到这些工具依然会犯下的安全错误？你又该如何说服早期采用者不要在代理式工程方面操之过急，从而使组织暴露在失控且未知的风险之中？“快速行动但不要过快”似乎是当今 CISO 唯一明智的做法。

当 AI 工具投入使用时，其可追溯性和可观测性、工具与用户的安全效能，以及他们被允许提交的代码安全性，都是在为 AI 时代更新安全计划时需要考虑的关键数据点。

我们必须学会坦诚地评估公司的采用阶段，在这方面，我们有一些令人振奋的方向与您分享。

今日，Secure Code Warrior 发布了一份全新的白皮书，其中涵盖了一种指导性、方向性的 AI 采用模型。安全领导者可以利用该模型识别自身所处的采用阶段，并在控制组织内部 AI 安全风险方面取得实质性进展。

什么是 AI 采用模型，我们为什么需要它？

开发人员不能再仅仅充当代码编写者；他们必须转变为创造者和编排者。我们正在见证传统的软件开发生命周期 (SDLC) 向代理式开发生命周期 (ADLC) 的转变，而鲜有人准备好以安全且高效的方式应对这一变化。

AI 的采用已不再局限于传统的工程领域。如今，即使是非开发人员也在使用无代码和“氛围编程”工具构建应用程序，这显著增加了组织的整体风险状况。面对比传统控制手段扩张速度更快的攻击面，首席信息安全官 (CISO) 经常问我一个关键问题：我们从哪里开始？

CISO 急需一种与方法论本身一样现代的 ADLC 治理方法：一种专为代理式 AI 不断演进、自适应的特性而设计的方法。这正是我们推出此 AI 采用模型的原因。在 CISO 渴望获得高可见性并制定适合其采用阶段的自适应计划之际，该模型构成了防御拼图中的关键一环。我们设计该框架旨在帮助组织将安全的 AI 采用与治理从被动应对转变为一种可衡量、可扩展的准则。

安全领导者现在能从中获得什么启示？

该模型是一个实用的路线图，将 AI 开发分为三个不同阶段：AI 辅助、AI 原生和代理式。对于 CISO 而言，该框架的主要优势在于它能够将 AI 使用情况、开发人员能力和软件风险信号无缝连接起来。由于并非所有的 AI 使用都具有相同的风险，该模型为组织提供了一张清晰的地图，以准确识别当前所处的位置，从而为安全、经济的 AI 决策提供数据驱动的洞察。

通过定义随着 AI 自主性增加所需的具体治理控制措施，该 AI 采用模型使 CISO 能够提供精准的培训，满足开发人员的实际需求。分析师预测，到 2027 年，超过 40% 的代理式 AI 项目将因成本失控和风险控制不力而被放弃。应对这一威胁的答案不仅仅是使用更多的 AI 来捕捉 AI 生成的错误。对于 CISO 而言，真正的胜利在于拥有一个能够从一开始就培训开发人员正确使用 AI 的框架，在避免重复漏洞的同时，展现出切实、可衡量的治理投资回报率。

‍

探索框架

阅读更多：SCW 信任代理：AI