AI/LLM 安全视频系列：全集，每周更新

AI/LLM 安全入门系列指南

GitHub Copilot、Cursor 等 AI 编码工具正在重塑软件构建方式，但也带来了开发者必须了解的新安全挑战，以构建安全、可靠的应用程序。为了帮助团队安全地采用 AI，我们在 YouTube 上推出了免费的 12 周 AI/LLM 安全入门系列视频。

本页面是该系列视频的中心枢纽。每周我们都会更新视频和说明，涵盖提示词注入、数据与模型投毒、供应链风险、安全提示词编写等核心概念。请收藏此页面以便每周跟进，或订阅我们的 YouTube 频道，第一时间获取最新课程。

如果您想深入了解这些入门课程之外的内容，请探索 SCW 平台上的完整 AI/LLM 合集，或者如果您还不是我们的客户，可以 申请演示。 订阅我们的 YouTube 频道 以获取每一集新视频。如果您希望随时了解最新内容、更新和资源，请 点击此处订阅，加入我们的开发者与安全专家社区。

剧集（每周更新）

第 1 周 — AI 编码风险：使用大语言模型的危险
在本视频中，我们将探讨在编写代码时使用 AI/LLM 的潜在危险，并重点介绍开发者在将 AI 驱动的工具集成到工作流时所面临的关键风险。

第 2 周 — AI 编码优势：安全的 AI 辅助开发
‍AI 编码工具并非只有风险 — 只要使用得当，它们能帮助开发者更快速、更智能地工作。在本视频中，我们将探讨在编写代码时使用 AI/LLM 的优势，并重点介绍团队如何在规避常见安全陷阱的同时，负责任地利用 AI。

第 3 周 — 提示词注入详解：保护 AI 生成的代码
‍提示词注入是最常见的 AI/LLM 漏洞之一，也是每位开发者都应掌握如何预防的漏洞。在本视频中，我们将介绍直接

第 4 周 — 敏感信息泄露：避免 AI 数据泄漏
AI 驱动的工具可能会无意中泄露敏感信息，从而使您的应用程序和数据面临风险。在本视频中，我们将涵盖敏感信息泄露漏洞，解释它们在使用 AI/LLM 时是如何产生的，并分享开发者可以采取的减少暴露的实用步骤。

‍

第 5 周 — AI 供应链风险：保障依赖项安全
‍AI 辅助开发加快了编码速度，但也引入了可能影响应用程序每一层的供应链风险。在本视频中，我们将探讨与 AI/LLM 相关的漏洞，解释第三方模型和 API 如何扩大您的攻击面，并分享最小化暴露的策略。

‍
第 6 周 — 数据投毒：保障 AI 模型与输出安全
‍AI 系统的安全性取决于其训练数据，而受损的输入可能会产生波及整个应用程序的漏洞。在本视频中，我们将介绍数据和模型投毒攻击，解释恶意输入如何操纵 AI 输出，并分享保护系统的策略。

第 7 周 — 输出处理不当：验证 AI 生成的代码
‍AI 驱动的工具可以快速生成代码，但如果不对输出进行验证，漏洞可能会悄然潜入。在本视频中，我们将审视 AI 辅助开发中输出处理不当的问题，解释风险输出如何危及您的应用程序，并分享保护生成代码的技术。

‍
第 8 周 — 过度代理：控制 AI 自主性风险
‍随着 AI 系统变得越来越自主，过度代理带来了新的风险，即模型可能会超出其预定范围行事。在本视频中，我们将探讨 AI 辅助开发中的过度代理漏洞，解释越权行为是如何产生的，并讨论保持对 AI 驱动流程控制的技术。

‍
第 9 周 — 系统提示词泄露：隐藏的 AI 安全风险
‍系统提示词通常包含指导 AI 行为的隐藏指令，但如果这些指令被泄露，攻击者就可以操纵模型或提取敏感信息。在本视频中，我们将涵盖系统提示词泄露漏洞，解释其发生方式，并讨论开发者可以采取的保护 AI 驱动工作流的步骤。

‍

第 10 周 — 向量弱点：保障 AI 检索工作流安全
‍AI 模型通常依赖向量数据库和嵌入来提供强大的功能，但配置错误和不安全的实现可能会暴露敏感数据并产生新的攻击向量。在本视频中，我们将深入探讨向量和嵌入的弱点，解释常见的安全挑战，并分享保障 AI 驱动的搜索和检索工作流安全的策略。

‍

第 11 周 — AI 错误信息：避免幻觉风险
‍AI 工具有时会生成看起来正确但实际上错误的输出，从而产生影响安全性、可靠性和决策制定的错误信息风险。在本视频中，我们将解释 AI 辅助编码中的错误信息漏洞，探讨错误输出是如何产生的，并分享验证和保护 AI 驱动内容的策略。

第 12 周 — 无限制消耗：预防 AI 拒绝服务（DoS）风险
AI 系统可能会无限制地消耗资源，从而导致拒绝服务（DoS）、数据泄露和意外的运营故障等风险。在本视频中，我们将涵盖 AI/LLM 中的无限制消耗漏洞，解释其发生原因，并分享监控、治理和保障 AI 资源使用安全的实用策略。

‍
‍
这些视频旨在介绍 AI/LLM 安全的核心概念，但 Secure Code Warrior 平台中还有更多内容等待您去探索。您可以深入参与模拟真实 AI 辅助代码审查与修复的 AI 挑战，查阅符合行业最佳实践的 AI/LLM 指南，并通过演练、任务、探索和课程模板，在实践中培养安全编码习惯。对于希望提升技能的团队，该平台还提供了一个不断扩充的资源库，包含 130 多项专注于 AI/LLM 的学习活动，涵盖 AI 辅助编码、AI 风险与安全入门以及 OWASP LLM 应用十大安全风险等主题。 申请演示以了解更多信息。