ブログ

OWASP Top 10 for LLM Applications:最新の変更点とセキュリティ対策のポイント

November 28, 2024
Secure Code Warrior
青いグラデーションの背景に、OWASPのロゴと「TOP 10」の文字が描かれた白いドキュメントアイコン。

ソフトウェアのセキュリティをプロアクティブに確保するには、最新の標準やコンプライアンス要件を常に把握しておく必要があります。サイバーセキュリティの状況は、特に新しいテクノロジーの登場に伴い、常に変化し、新たな脅威や脆弱性が生まれています。AIが転換点を迎え、日々新しい進化やユースケースが登場している現在、この重要性はかつてないほど高まっています。

こうした課題に対応するため、OWASP Foundationは先頃、改訂版となる「OWASP Top 10 for Large Language Model (LLM) Applications」をリリースしました。これは、開発者やアーキテクトをはじめとするソフトウェア開発に携わる関係者に対し、LLMや生成AIアプリケーションを展開する際の潜在的リスクを周知することを目的としています。そしてSecure Code Warriorは、この最新バージョンにおける変更および更新内容を、セキュアコーディング学習プラットフォームにいち早く反映し、すでに提供を開始していることをお知らせいたします。新しく追加・更新された教材を活用することで、すべてのユーザーがLLM運用時のリスク軽減において常に先手を打つことが可能になります。

今回の更新のポイントは?

OWASPは、前回のTop 10から以下の2項目を削除しました。

  • Insecure Plugin Design(安全でないプラグイン設計) - LLMとプラグインの相互作用、およびプラグインと外部ストレージやサービスとの相互作用に関連するもの。
  • Model Theft(モデルの盗難) - 機械学習モデルやAIシステムを不正に複製または取得すること。

以前のOWASP Top 10に準拠し、Secure Code Warriorでは「LLM Top 10」コースの一環として、これらの脆弱性に関連するガイドラインを提供していました。脆弱性やセキュリティの概念をわかりやすく読みやすい形式でまとめたこれらのガイドラインは、コースのカリキュラムからは削除されました。しかし、その他の充実した学習教材と同様に、「探索」機能から引き続きご覧いただけます。 

OWASPはTop 10の枠組みを維持し、新たに以下の2項目を追加しました。

  • System Prompt Leakage(システムプロンプトの漏洩) - モデルの動作を制御する通常は隠されているプロンプトがユーザーに露出してしまうこと。
  • Vector and Embedding(ベクトルと埋め込み) - 公開されていない特定の情報、独自の機密情報、またはリアルタイム情報が露出する可能性があるもの。

これらの脆弱性に関するガイドラインはLLM Top 10コースに追加されました。削除されたガイドラインと同様に、これら2つの新しいガイドラインも、自分のペースで学習したいユーザー向けに「Explore」からアクセス可能です。

最後に、OWASPは既存の脆弱性カテゴリについても変更を加えました。一部のカテゴリ名をより包括的または具体的に変更し、定義を修正しています。これらのトピックをサポートする当社のガイドラインも、OWASPのガイダンスによる軽微な変更と新しい命名規則を反映して更新されました。さらに、リストの優先順位もOWASP LLM Top 10の順序に合わせて更新されています。

Secure Code Warriorは、ユーザーの皆様が常に一歩先を行けるよう支援します。最新のOWASP更新情報を反映したアジャイルな学習プラットフォームにより、最新の脆弱性を網羅し、LLMや生成AI技術導入時のリスクを軽減するためのトレーニング教材に簡単にアクセスできます。「System Prompt Leakage」や「Vector and Embedding」といった新たな脅威への対応から、「Misinformation(誤情報)」や「Unbounded Consumption(無制限の消費)」に関する理解のアップデートまで、当社のプラットフォームはセキュリティ体制を強化するために必要なリソースを提供します。

タグライン

AI主導の開発をリリース前にガバナンスする

AIを活用したリスク測定、コミット時のセキュアコーディングポリシーの強制、そしてSDLC全体を通じたセキュアなデリバリーの加速を実現します。

デモを予約する
リソースライブラリ

他のブログ記事を見る

セキュアコーディング、AIガバナンス、ソフトウェアリスク管理に関する専門的なコンテンツをご覧ください。

すべて表示
導入事例
フィルターラベル
これはdivブロック内のテキストです。

セキュリティ文化の統一:Sageはいかにしてチャンピオンプログラムを構築したか

Sageがどのようにして柔軟かつ関係性を重視したアプローチでセキュリティを強化し、200名以上のセキュリティチャンピオンを育成して、目に見えるリスク低減を実現したのかをご紹介します。

詳細はこちら
グラデーションのかかった青い背景に、太字で「KVK」と書かれ、その下に2本の青い水平線が引かれたブラウザウィンドウのアイコン。
導入事例
フィルターラベル
これはdivブロック内のテキストです。

Kamer van Koophandel:開発者主導のセキュリティを大規模に展開

Kamer van Koophandelは、役割に応じた認定制度、Trust Scoreによるベンチマーク、そしてセキュリティを全員で担う文化を通じて、セキュアコーディングを日々の開発プロセスにどのように組み込んだのかを紹介します。

詳細はこちら
Webブラウザのウィンドウ内に表示された、青とグレーのテキストとアイコンによるInsurance Australia Groupのロゴ。
導入事例
フィルターラベル
これはdivブロック内のテキストです。

「Game of Codes」が導く、IAGグループのより安全なコーディングの未来

IAGグループは、アジア太平洋地域をリードする数多くの保険会社を傘下に持ち、数百万ものお客様に保険を提供しています。その年間保険料収入は約114億豪ドルにのぼります。

詳細はこちら
ブログ
フィルターラベル
これはdivブロック内のテキストです。

AIツールからセキュアコーディングプログラムを実行する

MCP対応のAIツールから、SCWセキュアコーディングプログラムのトレーニング進捗の追跡、クエストのドラフト作成、レポート作成が可能になりました。すべてのSCWプランに含まれています。

詳細はこちら
ブログ
フィルターラベル
これはdivブロック内のテキストです。

PHP2Shellの地獄:AIによってパッチ適用までの猶予が数日から数時間に短縮された理由

PHP2Shell:AIはいかにしてパッチ適用までの期間を数日から数時間に短縮したか。そして、セキュリティチームが古いバグと技術的負債について再考すべきこととは。

詳細はこちら
ブログ
フィルターラベル
これはdivブロック内のテキストです。

2026年サイバーセキュリティ意識向上月間:企業防衛に不可欠なAIセキュリティの理解

主要なAI企業の多くが、安全対策が追いつくまでの間、AI開発を世界的に減速させるよう公に呼びかける事態となっています。しかし現実には、深刻なセキュリティ問題はすでに顕在化しています。AI導入に伴う金銭的コストやリスクが増大し続ける中、多くのセキュリティリーダーや経営陣は差し迫った状況に追い込まれています。

詳細はこちら

AIを活用した開発をリリース前にセキュアに

開発者のリスクを可視化し、ポリシーを適用することで、ソフトウェア開発ライフサイクル全体における脆弱性を未然に防ぎます。

デモを予約する
該当する項目が見つかりません。