AI/LLMセキュリティ動画シリーズ：全エピソード（毎週更新）

AI/LLMセキュリティ入門シリーズ：ガイド

GitHub CopilotやCursorなどのAIコーディングツールは、ソフトウェア開発のあり方を一変させました。しかし同時に、安全で信頼性の高いアプリケーションを構築するために開発者が理解すべき新たなセキュリティ課題も生み出しています。チームが安全にAIを導入できるよう、YouTubeにて12週間の無料「AI/LLMセキュリティ入門動画シリーズ」を公開しました。

本記事は、このシリーズのポータルサイトとして機能します。毎週、プロンプトインジェクション、データやモデルの汚染、サプライチェーンリスク、セキュアなプロンプト作成など、重要な概念を解説する新しい動画と説明を追加していきます。このページをブックマークして毎週チェックするか、YouTubeチャンネルを登録して、公開と同時に最新レッスンを受け取りましょう。

入門編を超えてさらに深く学びたい方は、SCWプラットフォームのAI/LLMコレクション全体をご覧ください。まだご利用でない場合は、デモをリクエストしてください。YouTubeチャンネルを登録して、すべてのエピソードを公開と同時に視聴しましょう。また、最新のコンテンツやアップデート、リソースを受け取りたい方は、こちらから登録して、開発者やセキュリティリーダーのコミュニティにご参加ください。

エピソード（毎週更新）

第1週 — AIコーディングのリスク：LLM利用の危険性
本動画では、コード作成時にAI/LLMを利用する際の潜在的な危険性を探り、AI搭載ツールをワークフローに統合する際に開発者が直面する主要なリスクを解説します。

第2週 — AIコーディングの利点：安全なAI活用開発
‍AIコーディングツールはリスクだけではありません。 — 安全に利用すれば、開発者はより速く、よりスマートに作業できます。本動画では、コード作成におけるAI/LLM利用の利点を探り、一般的なセキュリティの落とし穴を避けながら、チームがどのように責任を持ってAIを活用できるかを解説します。

第3週 — プロンプトインジェクションの解説：AI生成コードの保護
‍プロンプトインジェクションは、最も一般的なAI/LLMの脆弱性の一つであり、すべての開発者がその防止策を知っておくべきものです。本動画では、その脅威について解説します。

第4週 — 機密情報の漏洩：AIデータリークの回避
AI搭載ツールは意図せず機密情報を漏洩させ、アプリケーションやデータを危険にさらす可能性があります。本動画では、機密情報の漏洩という脆弱性を取り上げ、AI/LLM利用時にどのように発生するかを説明し、リスクを軽減するための実践的なステップを共有します。

‍

第5週 — AIサプライチェーンリスク：依存関係の保護
‍AIを活用した開発はコーディングを加速させますが、同時にアプリケーションのあらゆる層に影響を及ぼすサプライチェーンリスクももたらします。本動画では、AI/LLMに関連する脆弱性を探り、サードパーティのモデルやAPIがどのように攻撃対象領域を拡大させるかを説明し、リスクを最小限に抑える戦略を共有します。

‍
第6週 — データ汚染：AIモデルと出力の保護
‍AIシステムの安全性は学習データの質に依存します。入力が侵害されると、アプリケーション全体に波及する脆弱性が生じる可能性があります。本動画では、データおよびモデルの汚染攻撃を紹介し、悪意のある入力がどのようにAIの出力を操作するかを説明し、システムを保護するための戦略を共有します。

第7週 — 不適切な出力処理：AI生成コードの検証
‍AI搭載ツールは高速にコードを生成しますが、出力が検証されないと脆弱性が紛れ込む可能性があります。本動画では、AI活用開発における不適切な出力処理を検証し、リスクのある出力がどのようにアプリケーションを侵害するかを説明し、生成されたコードを保護するための手法を共有します。

‍
第8週 — 過剰なエージェンシー：AI自律性のリスク管理
‍AIシステムが自律性を高めるにつれ、モデルが意図した範囲を超えて動作する「過剰なエージェンシー」という新たなリスクが生じています。本動画では、AI活用開発におけるこの脆弱性を探り、なぜ逸脱した動作が発生するのかを説明し、AI主導のプロセスを制御し続けるための手法を議論します。

‍
第9週 — システムプロンプトの漏洩：隠れたAIセキュリティリスク
‍システムプロンプトには、AIの動作をガイドする隠れた指示が含まれていることがよくあります。これが露出すると、攻撃者がモデルを操作したり、機密情報を抽出したりする可能性があります。本動画では、システムプロンプト漏洩の脆弱性を取り上げ、その発生メカニズムと、AIワークフローを保護するために開発者がとるべき対策を解説します。

‍

第10週 — ベクトルの弱点：AI検索ワークフローの保護
‍AIモデルは、強力な機能を提供するためにベクトルデータベースや埋め込みに依存することが多いですが、設定ミスや不適切な実装は機密データを露出させ、新たな攻撃ベクトルを生み出す可能性があります。本動画では、ベクトルと埋め込みの弱点を掘り下げ、一般的なセキュリティ課題を説明し、AIを活用した検索・取得ワークフローを保護するための戦略を共有します。

‍

第11週 — AIの誤情報：ハルシネーションリスクの回避
‍AIツールは、正しそうに見えて実は誤った出力を生成することがあり、セキュリティ、信頼性、意思決定に影響を与える誤情報のリスクを生み出します。本動画では、AI活用コーディングにおける誤情報の脆弱性を説明し、誤った出力がどのように発生するかを探り、AI主導のコンテンツを検証・保護するための戦略を共有します。

第12週 — 無制限の消費：AIのDoSリスク防止
AIシステムはリソースを無制限に消費する可能性があり、サービス拒否（DoS）、データ露出、予期せぬ運用障害などのリスクにつながります。本動画では、AI/LLMにおける無制限なリソース消費の脆弱性を取り上げ、その発生理由を説明し、AIのリソース使用量を監視、管理、保護するための実践的な戦略を共有します。

‍
‍
これらの動画はAI/LLMセキュリティの基本概念を紹介するものですが、Secure Code Warriorプラットフォームにはさらに多くの学習リソースが用意されています。AIを活用したコードレビューや修正をシミュレーションする「AIチャレンジ」、業界のベストプラクティスに準拠した「AI/LLMガイドライン」のほか、セキュアコーディングの習慣を実践的に身につけられるウォークスルー、ミッション、クエスト、コーステンプレートなどを豊富に取り揃えています。スキルアップを目指すチーム向けには、「AIを活用したコーディング」「AIリスクとセキュリティ入門」「OWASP LLMトップ10」など、130以上のAI/LLM関連学習アクティビティを提供しています。デモをリクエストして、詳細をご確認ください。