OWASP Top 10 for LLM Applications：最新の変更点とセキュリティ対策のポイント

ソフトウェアのセキュリティをプロアクティブに確保するには、最新の標準やコンプライアンス要件を常に把握しておく必要があります。サイバーセキュリティの状況は、特に新しいテクノロジーの登場に伴い、常に変化し、新たな脅威や脆弱性が生まれています。AIが転換点を迎え、日々新しい進化やユースケースが登場している現在、この重要性はかつてないほど高まっています。

こうした課題に対処するため、OWASP Foundationは最近、「OWASP Top 10 for Large Language Model (LLM) Applications」の更新版を公開しました。これは、LLMや生成AIアプリケーションを導入する際の潜在的なリスクについて、開発者やアーキテクト、その他ソフトウェアデリバリーに関わる関係者に周知することを目的としています。Secure Code Warriorでは、この最新版の変更点や更新内容をすでに当社のセキュアコーディング学習プラットフォームに反映し、利用可能な状態にしています。これらの最新教材を活用することで、すべてのユーザーがLLM利用時のリスク軽減において常に最前線に立つことができます。

今回の更新のポイントは？

OWASPは、前回のTop 10から以下の2項目を削除しました。

• Insecure Plugin Design（安全でないプラグイン設計） - LLMとプラグインの相互作用、およびプラグインと外部ストレージやサービスとの相互作用に関連するもの。
• Model Theft（モデルの盗難） - 機械学習モデルやAIシステムを不正に複製または取得すること。

これまでのOWASP Top 10のバージョンと同様に、Secure Code Warriorでは、LLM Top 10コースの一部として、これらの脆弱性に関連するガイドラインを提供していました。脆弱性やセキュリティ概念に関する情報を分かりやすく解説したこれらのガイドラインは、コースのカリキュラムからは削除されました。ただし、これらのガイドラインは、他のすべての学習教材と同様に「Explore」から引き続き利用可能です。

OWASPはTop 10の枠組みを維持し、新たに以下の2項目を追加しました。

• System Prompt Leakage（システムプロンプトの漏洩） - モデルの動作を制御する通常は隠されているプロンプトがユーザーに露出してしまうこと。
• Vector and Embedding（ベクトルと埋め込み） - 公開されていない特定の情報、独自の機密情報、またはリアルタイム情報が露出する可能性があるもの。

これらの脆弱性に関するガイドラインはLLM Top 10コースに追加されました。削除されたガイドラインと同様に、これら2つの新しいガイドラインも、自分のペースで学習したいユーザー向けに「Explore」からアクセス可能です。

最後に、OWASPは既存の脆弱性カテゴリについても変更を加えました。一部のカテゴリ名をより包括的または具体的に変更し、定義を修正しています。これらのトピックをサポートする当社のガイドラインも、OWASPのガイダンスによる軽微な変更と新しい命名規則を反映して更新されました。さらに、リストの優先順位もOWASP LLM Top 10の順序に合わせて更新されています。

Secure Code Warriorは、ユーザーの皆様が常に一歩先を行けるよう支援します。最新のOWASP更新情報を反映したアジャイルな学習プラットフォームにより、最新の脆弱性を網羅し、LLMや生成AI技術導入時のリスクを軽減するためのトレーニング教材に簡単にアクセスできます。「System Prompt Leakage」や「Vector and Embedding」といった新たな脅威への対応から、「Misinformation（誤情報）」や「Unbounded Consumption（無制限の消費）」に関する理解のアップデートまで、当社のプラットフォームはセキュリティ体制を強化するために必要なリソースを提供します。