すべての従業員が今、AIサイバーセキュリティの最前線に立っている

企業のセキュリティリーダーは、組織全体でセキュリティを最優先する意識を醸成するため、迅速に行動しなければなりません。

エンタープライズテクノロジーの状況は、手遅れになるまで誰も予測できなかったほどの速さで変化しています。私たちは今、人間が書いたコードと基本的なコパイロット支援の時代から、エージェント型開発ライフサイクル（ADLC）の時代へと正式に足を踏み入れました。自律型AIエージェントは、複数の機能にわたってかつてない効率性をもたらす一方で、全く新しい種類のセキュリティリスクや規制リスクも引き起こしています。

サイバーリスクはまだ数年先の話だと思っていませんか？Hugging Faceに対する最近のOpenAIエージェント攻撃や、それに続く多くのAI企業による類似事象の公表、そしてAnthropicのCEOが発した「減速」に関するメッセージは、自律的に実行され、ソフトウェアサプライチェーンに影響を及ぼし得る事態に対して、私たちのほとんどが驚くほど無防備であることを証明しました。内部評価の際、AIエージェントの群れは、創発的な協力、自動スコアリングシステムの逆コンパイル、コマンド記録の改ざん、さらには脆弱性を悪用して研究クラスターへの管理者権限を取得する様子を見せました。自律型システムが協力し、自己犠牲を払い、痕跡を隠すことができるようになった今、従来のセキュリティ境界線は時代遅れであることを認識しなければなりません。

同時に、この力はエンジニアリングの領域にとどまりません。私たちは、ローコード、ノーコード、そしてAI主導の「バイブコーディング（感覚的なコーディング）」ツールを使用する、非技術系従業員である「シチズンデベロッパー」の爆発的な増加を目の当たりにしています。エグゼクティブアシスタントが、その仕組みを真に理解しないままGitHubにコードをコミットしています（実際、私の会社で起こりました）。セールスオペレーション部門は、独自の「コマンドセンター」を構築したからという理由でAPIキーを要求し、ClaudeがそれをシャドーITインフラ上にデプロイするよう推奨したといいます。また、週末には私自身もLovableを使って、洗車や買い物の合間にチャットをするだけで、25ドル未満でコミュニティサイトを構築しました。その成果物は、プロのソフトウェア開発者が数週間かけて作るべきもののように見えます。Lovableは「古いパッケージ」や「インジェクション攻撃」についても通知してくれ、中には正しく修正してくれたものもありました。しかし、そうでないものもあり、手動での介入が必要でした。

‍ガートナーの予測によると、2026年までに大企業におけるシチズンデベロッパーの数はプロの開発者の4倍に達し、出荷される新しいアプリケーションの70%が、従来のIT部門がサポートできるよりも5倍速く成長する需要を満たすために、ローコードおよびノーコードプラットフォームを使用することになります。

このビジネス主導のデジタルトランスフォーメーションは俊敏性を高める一方で、攻撃対象領域を指数関数的に拡大させています。非技術系のスタッフが日常的に機密性の高いソースコードを扱い、独自のデータを許可されていない外部AIモデルにさらしたり、目に見えない依存関係を持つ「バイブコーディング」されたアプリをデプロイしたりしています。

EU AI法のような新しい世界的な規制の下では、ガードレールなしの「バイブコーディング」はコンプライアンス違反を招く原因となります。EU AI法は、厳格な説明責任、透明性、そして人間の監視を求めています。組織はもはや、シャドーAIや使用中のモデルにおけるセキュリティの欠陥、あるいは誰がツールを使用しているのか、その役割に必要なセキュリティのベストプラクティスを理解しているのかといった可視性の問題を無視することはできません。

Secure Code Warriorでは、この新しいパラダイムを統制するための基盤構築に今年を費やしてきました。今年初めには、SCW AIアダプションモデルを導入し、CISOが従来のSDLCからADLCへの移行を安全に管理するための実践的なロードマップを提供しました。また、SCW AIトラストインデックスを立ち上げ、「LLMは本当に100%安全なコードを提供できるのか？また、それらはどのように比較されるのか？」という問いに答えを出しました。16の最先端モデルにわたる1,760のAI生成コードベースを分析した結果、AI生成コードにはコードベースあたり平均15件の確認された脆弱性が含まれており、そのうち4.3件は「深刻」と見なされることが判明しました。さらに、アダプティブラーニングを提供し、リスクが発生した瞬間に開発者のワークフローへ正確なマイクロラーニングを注入することで、EU AI法、ISO/IEC 42001、NIST AIリスクマネジメントフレームワークへの準拠を裏付ける、開発者ごとの監査可能なトレーニング証跡を提供します。

しかし、開発者のセキュリティ確保は戦いの半分に過ぎません。組織の57%が中核プロセスにAIを組み込んでいるにもかかわらず、従業員の準備ができていると信じているのはわずか23%であり、私たちは大きな人的リスクのギャップを抱えています。

職場であらゆる人々が自由に開発を行うことによるリスクを、すべてのCISOとL&Dチームが管理できるよう支援するため、私たちはCitizen AI by Secure Code Warriorをリリースします。

Citizen AIは、非開発者のビジネスチーム向けに特別に構築された、画期的なAIセキュリティリテラシープログラムです。これは、組織が受動的なポリシーを超えて、すべての従業員がAIを活用したワークフローを安全にナビゲートするために必要な実践的スキルと責任ある習慣を身につけ、より広範なエンタープライズAIガバナンスと規制コンプライアンスをサポートできるように支援します。

私たちの立ち上げカリキュラムは、以下の4つの重要な領域に焦点を当てています。

1. AIの仕組みの理解：LLMの単語予測という性質と、検索エンジンとの違いを解き明かします。
2. スマートなプロンプティングと出力の検証：ハルシネーションを見抜き、プロベナンス（出所）プロンプティングを使用してAIの主張を検証する方法を学びます。
3. AIアーティファクトの管理：サードパーティの自動化や目に見えない依存関係のリスクを認識します。
4. バイブコーディングのリスク認識：バイブコーディングされたウェブサイトやアプリが、いつ専門的なエンジニアリングやセキュリティの監視を必要とするかを判断します。

Citizen AIを通じて、私たちはセキュリティを反応的な技術管理から、組織全体で取り組む能動的な習慣へと変革します。共に、この時代で最も圧倒的な技術進歩のスピードに合わせて、安全かつコンプライアンスを遵守しながらイノベーションを推進する、AI対応の労働力を構築しましょう。