ディープダイブ:AI コーディングアシスタントによって生成された脆弱性の解決
.avif)
どこを見ても、ほぼすべての業種でAIテクノロジーへのこだわりが続いています。ソフトウェア開発における迅速な機能作成への答えとして称賛される人もいますが、スピードの向上には代償が伴います。ツール自体からのコンテキスト認識の欠如と、ツール自体からのコンテキスト認識の欠如により、重大なセキュリティバグがコードベースに侵入する可能性と、生産性を高め、困難な開発シナリオへの回答を生み出すためにツールに依存する開発者の低レベルのセキュリティスキルです。
Large Language Model（LLM）テクノロジーは、支援ツールに大きな変化をもたらし、安全に使用すれば、多くのソフトウェアエンジニアが切望するペアプログラミングのお供になり得ます。しかし、AI 開発ツールを放置して使用すると、悪影響が生じる可能性があることがすぐにわかりました。 2023年の調査 スタンフォード大学によると、AIアシスタントに依存すると、出力が安全であるという信頼が高まるだけでなく、コード全体がバグが多く安全性が低下する可能性が高いことが明らかになりました。
完璧なLLMテクノロジーへの競争が進むにつれ、ツールは今後も改善されると考えても妥当ですが、次のような推奨事項が数多くあります。 新しい行政命令 バイデン政権から、また 人工知能法 EUからのもの-いずれにせよその使用は難しい道です。開発者は、コードレベルのセキュリティスキル、認識、AI ツールの出力に関する批判的思考を磨くことで有利なスタートを切ることができ、ひいてはより高い水準のエンジニアになることができます。
AIコーディングアシスタントはどのようにして脆弱性をもたらすのか？ 新しいパブリックミッションをプレイしよう そして自分の目で確かめてください！
例:「ChatterGPT」のクロスサイトスクリプティング (XSS)
私たちの新しいパブリックミッションでは、人気のLLMの使い慣れたインターフェースを明らかにし、活用しています リアル 2023年11月下旬に生成されたコードスニペット。ユーザーはこのスニペットを解釈して、意図した目的に使用された場合の潜在的なセキュリティ上の落とし穴を調査できます。
「pHTML要素の内容を変更するJavaScript関数を書いて、その関数を介して内容を渡すことはできますか？」というプロンプトに基づいています。AI アシスタントはコードブロックを忠実に生成しますが、すべてが見かけどおりではありません。
このチャレンジはもうプレイしましたか？そうでない場合は、 今すぐ試す さらに読む前に。
... さて、これで完了したので、問題のコードがクロスサイトスクリプティング（XSS）に脆弱であることがわかります。
XSS は Web ブラウザーのコア機能を操作することで可能になります。これは、信頼できない入力がページ上の出力としてレンダリングされても、実行可能で安全なコードとして誤って解釈される場合に発生する可能性があります。攻撃者は、入力パラメータ内に悪質なスニペット (HTML タグ、JavaScript など) を配置し、ブラウザに返されたときに、データとして表示される代わりに実行される可能性があります。
ソフトウェア開発におけるAIコーディングアシスタントの安全な使用
A 最近の調査 現役開発チームのほぼ全員（96％）がワークフローでAIアシスタントを使い始めており、80％がセキュリティポリシーを迂回してツールキットに留めていると回答しています。さらに、半数以上が、ジェネレーティブAIツールは一般的に安全でないコードを生成すると回答しましたが、それでも採用が遅くなることはありませんでした。
このソフトウェア開発プロセスの新時代では、これらのツールの使用を思いとどまらせたり禁止したりすることはうまくいきそうにありません。その代わり、組織は開発チームがセキュリティやコード品質を犠牲にすることなく、効率性と生産性の向上を活用できるようにする必要があります。そのためには、セキュア・コーディングのベスト・プラクティスに関する正確なトレーニングと、クリティカル・シンキングのスキルを高める機会を提供し、特にAIアシスタント・コード出力の潜在的な脅威を評価する際に、セキュリティ第一の考え方で行動できるようにする必要があります。
さらに読む
XSS全般については、こちらをご覧ください 総合ガイド。
安全なコードの書き方についてもっと知りたいですか？ リスクを軽減?私たちを試してみてください XSS インジェクションチャレンジ無料。
無料のコーディングガイドラインをもっと入手したい場合は、チェックしてください セキュア・コード・コーチ 安全なコーディングのベストプラクティスを常に把握するのに役立ちます。
.png)
Govern AI-driven development before it ships
Measure AI-assisted risk, enforce secure coding policy at commit, and accelerate secure delivery across your SDLC.
Explore more blogs
これは、オーラが射手と鼻の穴を広げることによって、腸管を熱的に発芽させ、臭いを帯びていることを防ぐためのものです。
%252520%252520(3).avif)
Supercharged Security Awareness: How Tournaments are Inspiring Developers at Erste Group
Lorem ipsum dolor sit amet, consectetur adipiscing elit. Suspendisse varius enim in eros elementum tristique. Duis cursus, mi quis viverra ornare, eros dolor interdum nulla, ut commodo diam libero vitae erat. Aenean faucibus nibh et justo cursus id rutrum lorem imperdiet. Nunc ut sem vitae risus tristique posuere.
Security as culture: How Blue Prism cultivates world-class secure developers
Learn how Blue Prism, the global leader in intelligent automation for the enterprise, used Secure Code Warrior's agile learning platform to create a security-first culture with their developers, achieve their business goals, and ship secure code at speed
One Culture of Security: How Sage built their security champions program with agile secure code learning
Discover how Sage enhanced security with a flexible, relationship-focused approach, creating 200+ security champions and achieving measurable risk reduction.
.webp)
Why most CISOs are navigating AI adoption blindfolded (and how they can remove it)
Today, Secure Code Warrior issued an all-new white paper covering a prescriptive, directional AI adoption model that security leaders can use to identify their adoption stage and make real progress in bringing the AI security risks within their organization under control.
Secure AI-driven development before it ships
See developer risk, enforce policy, and prevent vulnerabilities across your software development lifecycle.
