すべての従業員が、今やAIサイバーセキュリティの最前線にいる

企業のセキュリティリーダーは、組織全体でセキュリティを最優先する共通の意識を構築するために、迅速に行動しなければなりません。

エンタープライズテクノロジーの状況は、手遅れになるまでほとんど予測できなかったほどの速度で変化しています。私たちは今、人間が書くコードや基本的なコパイロット支援の時代から、エージェント型開発ライフサイクル（ADLC）の時代へと正式に足を踏み入れました。自律型AIエージェントは、複数の機能にわたってかつてない効率性をもたらす一方で、全く新しい種類のセキュリティリスクや規制リスクも引き起こしています。

現実的なサイバーリスクはまだ数年先の話だと思っていませんか？ Hugging Faceで発生した最近のOpenAIエージェントによる攻撃、それに続くほとんどのAI企業による類似事象の公表、そしてAnthropicのCEOによる「開発速度を落とすべき」というメッセージは、私たちの多くが、自律的に実行されソフトウェアサプライチェーンに影響を及ぼし得る事態に対して、悲惨なほど準備不足であることを証明しています。内部評価の過程で、AIエージェントの群れが創発的な協力関係を示し、自動スコアリングシステムをリバースエンジニアリングし、コマンドの記録を改ざんし、さらには脆弱性を悪用して研究クラスターへの管理者権限を取得するという事態が発生しました。自律型システムが協力し、自己犠牲を払い、痕跡を隠すことができるようになった今、従来のセキュリティ境界線は時代遅れであることを認識しなければなりません。

同時に、この力はエンジニアリングの領域にとどまりません。私たちは、ローコード、ノーコード、そしてAI主導の「バイブコーディング（感覚的なコーディング）」ツールを使用する、非技術系従業員である「シチズンデベロッパー」の爆発的な増加を目の当たりにしています。エグゼクティブアシスタントが、その内容を真に理解しないままGitHubにコードをコミットしています（実際、私の会社で起こりました）。セールスオペレーション部門は、自分たちで「コマンドセンター」を構築したからといってAPIキーを要求し、ClaudeはそれをシャドーITインフラ上にデプロイするよう推奨しました。週末には私自身もLovableを使い、洗車や買い物の合間にチャットをするだけで、25ドル未満でコミュニティサイトを構築しました。その成果物は、プロのソフトウェア開発者が数週間かけて作るべきもののように見えました。Lovableは「古いパッケージ」や「インジェクション攻撃」についても通知してくれ、その一部は正しく修正さえしました。しかし、そうでないものもあり、それらには手動での介入が必要でした。 

‍ガートナーの予測によると 、2026年までに大企業におけるシチズンデベロッパーの数はプロの開発者の4倍に達し、新規アプリケーションの70%が、従来のIT部門がサポートできる速度の5倍で成長する需要を満たすために、ローコードおよびノーコードプラットフォームを利用するようになるとされています。

このビジネス主導のデジタルトランスフォーメーションは俊敏性を高める一方で、攻撃対象領域を指数関数的に拡大させています。非技術系のスタッフが機密性の高いソースコードを日常的に扱い、独自のデータを許可されていない外部AIモデルにさらしたり、目に見えない依存関係を持つ「バイブコーディング」されたアプリをデプロイしたりしているのです。

新たな世界的な規制である EU AI法の下では、ガードレールのないこのような「バイブコーディング」は、コンプライアンス違反を招く原因となります。EU AI法は、厳格な説明責任、透明性、そして人間による監視を求めています。組織はもはや、シャドーAIや使用中のモデルにおけるセキュリティの欠陥、あるいは誰がツールを使用しており、その役割に必要なセキュリティのベストプラクティスを理解しているかといった可視性の問題から目を背けることはできません。

私たち Secure Code Warriorは、この新しいパラダイムを統制するための基盤構築に今年を費やしてきました。今年初め、私たちは SCW AI導入モデルを発表し、CISOが従来のSDLCからADLCへの移行を安全に管理するための実践的なロードマップを提供しました。私たちは、 SCW AIトラストインデックス。これは「LLMは本当に100%安全なコードを提供できるのか？また、各モデルにはどのような違いがあるのか？」という問いに対する答えです。私たちは16の最先端モデルで生成された1,760のコードベースを分析し、AI生成コードには平均して15件の確認された脆弱性が含まれており、そのうち4.3件が「深刻」と見なされることを明らかにしました。私たちは アダプティブ・ラーニングを提供します。これは、リスクが発生した瞬間に開発者のワークフローへ的確なマイクロラーニングを組み込むものです。EU AI法、ISO/IEC 42001、NIST AIリスクマネジメントフレームワークへの準拠を裏付ける、開発者ごとの監査可能なトレーニング実績を提供します。

しかし、開発者のセキュリティ確保は戦いの半分に過ぎません。組織の57%が中核プロセスにAIを組み込んでいるにもかかわらず、従業員の準備ができていると確信しているのはわずか23%であり、人的リスクには大きな隔たりがあります。

職場であらゆる人々が自由にツールを作成する現状において、CISOやL&Dチームがそのリスクを管理できるよう支援するため、私たちは Secure Code WarriorによるCitizen AIをリリースします。

Citizen AIは、開発者以外のビジネスチーム向けに特別に構築された、画期的なAIセキュリティ・リテラシープログラムです。受動的なポリシーを超え、すべての従業員がAIを活用したワークフローを安全に操作するための実践的なスキルと責任ある習慣を身につけられるよう支援し、企業全体のAIガバナンスと規制遵守をサポートします。

提供するカリキュラムは、以下の4つの重要な領域に焦点を当てています。

1. AIの仕組みを理解する：LLMの単語予測という性質を紐解き、検索エンジンとの違いを学びます。
2. スマートなプロンプトと出力の検証：ハルシネーション（幻覚）を見抜く方法や、プロンプトの出所を検証してAIの主張を確認する方法を学びます。
3. AI成果物の管理：サードパーティ製自動化ツールや目に見えない依存関係に伴うリスクを認識します。
4. 「バイブ・コーディング」のリスクを認識する：バイブ・コーディング（直感的なコーディング）で作成されたウェブサイトやアプリが、いつ専門的なエンジニアリングやセキュリティの監視を必要とするかを判断します。

Citizen AIを通じて、私たちはセキュリティを事後対応型の技術的制御から、組織全体で取り組むプロアクティブな習慣へと変革します。共に、この時代で最も圧倒的な技術革新のスピードに合わせて、安全かつコンプライアンスを遵守しながらイノベーションを推進できる、AI対応型の労働力を構築しましょう。