AIはコードを書き、レビューできる。しかし、リスクを負うのは人間である

Anthropicによる「Claude Code Security」の発表は、AIを活用したソフトウェア開発と、現代のサイバーセキュリティへのアプローチにおける急速な進化が交差する、決定的な転換点となりました。この新しいClaudeの機能はAIが生成したコードの脆弱性を特定できますが、それは同時に信頼と障害の単一障害点を作り出すことにもなります。そのため、熟練した人間がその結果を評価し、適切な修正方法を判断しなければなりません。このアプローチは、コンサルティング会社AcceligenceのCEOであるJustin Greis氏も支持しており、同氏はCSO Onlineに対し、「AIか否かを問わず、優れたセキュリティ慣行やセキュアコーディングの基本を置き換えるためにコードスキャンツールを盲目的に信頼しているなら、それは製品やサービスの価値を守るための専門知識を外部に丸投げしてはならないという警告信号です」と述べています。

その点において、このモデルは従来のSASTツールと根本的に変わりません。推論能力はより高度ですが、リスクを伴うユースケースでは、AIが提示した問題を人間が解釈し、検証し、安全に修正するという「ヒューマン・イン・ザ・ループ（人間が介在するプロセス）」が依然として不可欠です。

組織にとっての脅威はAIの能力そのものではなく、ソフトウェア開発ライフサイクルにおけるAIの野放図な自律性と監視不足です。AIがコードの生成と評価の両方を行う場合、厳格かつ精密なガバナンスが重要な制御手段となります。

拡大する「開発者」の定義

AIはアプリやソフトウェア開発の参入障壁を下げました。しかし、AIを使って素早く作成できるからといって、それが最も安全で回復力のある方法であるとは限りませんし、そのプロジェクトがユーザーに提供できる状態にあるとも限りません。「バイブコーディング（vibe coding）」の前提は、とにかく「フロー状態」に入り、セキュリティのような企業レベルの開発上の形式は後回しにするというものです。

今日の「開発者」には、以下のような人々が含まれるかもしれません。

• AIを使ってコーディング作業を高速化する従来のエンジニア
• プロンプトを通じて機能をプロトタイプするプロダクトマネージャー
• AIでスクリプトを自動化するデータアナリスト
• AIを活用してテストケースを生成するQAエンジニア

組織のセキュリティの観点から見れば、誰がコードを書いたかよりも、そのコードが本番環境に到達した際の影響の方がはるかに重要です。コンプライアンスとリスクの観点から言えば、個人のAI利用によって、企業独自のセキュリティ監視を経ずにコードがソフトウェア開発ライフサイクル（SDLC）に組み込まれることは、組織的なリスクを招きます。これは理解し、測定し、軽減しなければならないリスクです。

なぜ人間の判断が依然として重要なのか

As more individuals gain the ability to generate code that could impact production or sensitive codebases, an organization’s risk profile expands. Governance must evolve to enable AI-driven development at scale while ensuring the controls required to protect the enterprise remain firmly in place.

AIはかなり高い信頼性でコードを生成し、潜在的な脆弱性を指摘できます。しかし、そのコードが自社のアーキテクチャ、データフロー、アイデンティティモデル、規制上の義務、あるいはリスク許容度の文脈において適切かどうかを検証することはできません。これこそが、セキュリティプログラムの有効性を左右する根本的な情報です。さらに、Claude CodeのようなツールをSDLCに導入することと、BaxBenchのようなツールが膨大なデータ分析を通じて示しているように、モデル（Opus、Sonnet 4.5、Sonnet 3など）によってセキュリティや精度の出力が異なり、実用的なセキュアコードを追求する過程で企業が最終的に支払うコストに莫大な差が生じるという事実は別問題です。

セキュアなソフトウェアとは、単にスキャンを通過したコードのことではありません。システム設計、ビジネスの意図、企業ポリシーとシームレスに整合する、優れた安全なパターンに従っている必要があります。それには判断力が必要です。開発者がAIによるコード生成やレビューに過度に依存すると、コードベースに対する理解が希薄になるという現実的なリスクが生じます。エンジニアが、なぜそのコードが機能するのか、なぜ安全なのかを完全に説明できなければ、組織はすでに制御の層を一つ失っているのです。

検証は検出と同じではありません。説明責任は自動化と同じではありません。AIは支援できますが、責任を負うことはできません（現時点で、AIの暴走による結果から人間を免責する法律は存在しません）。

ヒューマン・イン・ザ・ループによる監視は、時代遅れの概念ではありません。AI主導の開発環境において、それはソフトウェア開発ライフサイクルに入るコードが意識的にレビューされ、理解され、承認されたことを保証する主要な防護策です。その判断の層がなければ、スピードはそのまま脆弱性へとつながります。

教育こそが安全なAI活用の基盤である

この文脈において、セキュアコーディングのトレーニングは「あれば良いもの」から「不可欠な企業統制」へと進化します。「開発者」はオペレーターからオーケストレーターへと進化し、教育の焦点も「セキュアなコードの開発」から「AI生成コードのセキュリティ評価」へとシフトしていくでしょう。

AI生成コードを検証し、プロンプトインジェクションのような新たな脆弱性クラスを予測し、AIのパターンが自社のアーキテクチャとどう相互作用するかを理解するために必要なスキルは、単発のコンプライアンス研修では習得できません。それは継続的かつ実践的であり、既存のワークフローに統合され、実際のリスク成果に対して測定可能である必要があります。

AIソフトウェアガバナンス：今、欠けている制御層

多くのセキュリティプログラムでは、アプリケーションセキュリティを依然として開発プロセスの下流工程として扱っています。しかし、AI主導の環境において、そのモデルはリスク低減という点でかつてのような効果を発揮しません。今求められているのはAIソフトウェアガバナンスです。これは、AIを活用したソフトウェア開発ライフサイクル（SDLC）全体を統括する真のエンタープライズコントロールプレーンであり、コードの作成、レビュー、承認プロセスに体系的な監視体制を確立するものです。

具体的には以下の通りです。

• チーム全体におけるAIツール利用状況の可視化
• SDLC内でのAI生成コードの明確な帰属特定
• コード変更とリスクシグナルおよびポリシー要件の相関付け
• 開発ワークフロー内でのセキュアコーディング基準の強制
• 継続的なスキル向上とセキュアコーディング能力の測定
• 本番環境へのデプロイ前にセキュリティリスクを確実に低減

ガバナンスとは、検知と意思決定をつなぐ架け橋であり、生産性の向上が説明責任を犠牲にしないよう保証するものです。

AIは今後もソフトウェア開発のあり方を変え続けるでしょう。AIの利用を放棄することは現実的ではなく、望ましいことでもありません。AIがもたらす生産性とイノベーションの恩恵はあまりにも大きいからです。しかし、安全に価値を引き出すには規律ある監視と意図的な人間による検証が不可欠であり、このインフラ構築を急いだり軽視したりすることはできません。