OWASP Top 10 for LLM Applications:最新の変更点とセキュリティ対策のポイント

ソフトウェアのセキュリティをプロアクティブに確保するには、最新の標準やコンプライアンス要件を常に把握しておく必要があります。サイバーセキュリティの状況は、特に新しいテクノロジーの登場に伴い、常に変化し、新たな脅威や脆弱性が生まれています。AIが転換点を迎え、日々新しい進化やユースケースが登場している現在、この重要性はかつてないほど高まっています。
こうした課題に対応するため、OWASP Foundationは先頃、改訂版となる「OWASP Top 10 for Large Language Model (LLM) Applications」をリリースしました。これは、開発者やアーキテクトをはじめとするソフトウェア開発に携わる関係者に対し、LLMや生成AIアプリケーションを展開する際の潜在的リスクを周知することを目的としています。そしてSecure Code Warriorは、この最新バージョンにおける変更および更新内容を、セキュアコーディング学習プラットフォームにいち早く反映し、すでに提供を開始していることをお知らせいたします。新しく追加・更新された教材を活用することで、すべてのユーザーがLLM運用時のリスク軽減において常に先手を打つことが可能になります。
今回の更新のポイントは?
OWASPは、前回のTop 10から以下の2項目を削除しました。
- Insecure Plugin Design(安全でないプラグイン設計) - LLMとプラグインの相互作用、およびプラグインと外部ストレージやサービスとの相互作用に関連するもの。
- Model Theft(モデルの盗難) - 機械学習モデルやAIシステムを不正に複製または取得すること。
以前のOWASP Top 10に準拠し、Secure Code Warriorでは「LLM Top 10」コースの一環として、これらの脆弱性に関連するガイドラインを提供していました。脆弱性やセキュリティの概念をわかりやすく読みやすい形式でまとめたこれらのガイドラインは、コースのカリキュラムからは削除されました。しかし、その他の充実した学習教材と同様に、「探索」機能から引き続きご覧いただけます。
OWASPはTop 10の枠組みを維持し、新たに以下の2項目を追加しました。
- System Prompt Leakage(システムプロンプトの漏洩) - モデルの動作を制御する通常は隠されているプロンプトがユーザーに露出してしまうこと。
- Vector and Embedding(ベクトルと埋め込み) - 公開されていない特定の情報、独自の機密情報、またはリアルタイム情報が露出する可能性があるもの。
これらの脆弱性に関するガイドラインはLLM Top 10コースに追加されました。削除されたガイドラインと同様に、これら2つの新しいガイドラインも、自分のペースで学習したいユーザー向けに「Explore」からアクセス可能です。
最後に、OWASPは既存の脆弱性カテゴリについても変更を加えました。一部のカテゴリ名をより包括的または具体的に変更し、定義を修正しています。これらのトピックをサポートする当社のガイドラインも、OWASPのガイダンスによる軽微な変更と新しい命名規則を反映して更新されました。さらに、リストの優先順位もOWASP LLM Top 10の順序に合わせて更新されています。
Secure Code Warriorは、ユーザーの皆様が常に一歩先を行けるよう支援します。最新のOWASP更新情報を反映したアジャイルな学習プラットフォームにより、最新の脆弱性を網羅し、LLMや生成AI技術導入時のリスクを軽減するためのトレーニング教材に簡単にアクセスできます。「System Prompt Leakage」や「Vector and Embedding」といった新たな脅威への対応から、「Misinformation(誤情報)」や「Unbounded Consumption(無制限の消費)」に関する理解のアップデートまで、当社のプラットフォームはセキュリティ体制を強化するために必要なリソースを提供します。
AI主導の開発をリリース前にガバナンスする
AIを活用したリスク測定、コミット時のセキュアコーディングポリシーの強制、そしてSDLC全体を通じたセキュアなデリバリーの加速を実現します。
他のブログ記事を見る
セキュアコーディング、AIガバナンス、ソフトウェアリスク管理に関する専門的なコンテンツをご覧ください。
AIを活用した開発をリリース前にセキュアに
開発者のリスクを可視化し、ポリシーを適用することで、ソフトウェア開発ライフサイクル全体における脆弱性を未然に防ぎます。




