セキュア生成AIコンサルティング
GMO Flatt Securityのセキュア生成AIコンサルティングは、生成AI/LLMを活用したプロダクトに対して、ソフトウェア開発プロセスの中で、脆弱性の作り込みやセキュリティリスクを最小化するためのセキュリティ支援サービスです。
生成AI / LLMの普及
近年、GPTやGemini等のLLMは、アプリケーションにおける生成AIの機能としてコンテンツの要約や分析、AIチャットボットなどの用途に利用されるようになりました。また、画像生成などのAIツールやAIエージェント、MCPサーバーの導入なども増加してきました。
しかし、それらの生成AIを活用したプロダクトには、プロンプトインジェクションやシステムプロンプトの漏洩といったセキュリティリスク、仕様や設計における新たな脅威も抱えるようになりました。
また、生成AIの急速な発展や開発環境での導入により、開発スピードが加速する一方で、専門的なセキュリティ課題の早期発見や解決もこれまでより急務となってきています。
セキュア生成AIコンサルティングのサービス内容
GMO Flatt Securityのセキュア生成AIコンサルティングでは、生成AIを活用したプロダクトに対して、開発プロセスの上流工程における設計・仕様上の問題点を指摘するだけでなく、多くのプロジェクトで共通して発生しやすく、後々の手戻りや大規模な修正に繋がりやすい致命的な実装パターンに焦点を当て、開発スピードを損なわないように最低限押さえるべきセキュリティ支援を実施します。
ご支援内容
セキュア生成AIコンサルティングは、弊社のセキュリティエンジニアが以下のような支援を通じてセキュリティ上の懸念点を精査します。
| 主なセキュリティ支援 |
|---|
| LLMアプリケーションの設計レビュー |
| RAGアプリケーションの設計レビュー |
| AIエージェントの設計レビュー |
| MCPサーバーの構成レビュー |
| LLMガードレールの構成レビュー |
| 生成AIを用いた特殊要件の支援 |
LLMを活用するアプリケーション等の脆弱性診断には「LLMアプリケーション診断」を提供しています。
提供をご依頼するデータ
セキュア生成AIコンサルティングでは、対象や要件に合わせて以下のような情報をご提供いただきます。
アプリケーションのソースコードや仕様書
TerraformやCDKなどのIaCに関するソースコード
インフラ構成図
パブリッククラウドの閲覧権限
セキュア生成AIコンサルティングのユースケース
GMO Flatt Securityのセキュア生成AIコンサルティングでは、開発スピードを損なわないように最低限押さえるべきセキュリティ支援を実施します。
そして、具体的な実装が進んだ段階において追加で脆弱性診断やペネトレーションテストをご依頼いただいた場合、実際のソースコードを詳細に分析し、早期段階では指摘困難な実装起因の問題を特定することが可能です。
このように、コンサルティング支援後の脆弱性診断やペネトレーションテストと組み合わせることで「早期に大きなリスクの芽を摘む」ことと「実装段階でソースコードに基づいた深い検査と具体的な支援」の双方を実施し、机上論ではない網羅的かつ実効性のあるセキュリティ対策を実現します。
そのため、セキュア生成AIコンサルティング単体でのご利用ではなく、以下のようなユースケースを推奨しています。
弊社の「セキュア生成AIコンサルティング」により、開発プロセスの上流工程で設計レビュー等を実施します。
セキュリティ支援後、または支援と並行してソフトウェア開発を実施していただきます。
その後、弊社の脆弱性診断やペネトレーションテストを実施します。
また、お客様のご要望に合わせて、中長期的なコンサルティング支援も提供しますので、お気軽にご相談ください。
GMO Flatt Securityが提供するサービス
ソフトウェアプロダクトの開発組織とそこで働くエンジニアに向けて様々なセキュリティサービスを提供しています。
セキュア生成AIコンサルティングの流れ
- 1
ヒアリング
お客様のご要望や懸念点等をヒアリングさせていただきます。
- 2
脅威モデリング
弊社のセキュリティエンジニアにより、対象におけるセキュリティリスクの洗い出しを実施します。
- 3
ご報告
調査結果から改善案や対策案を検討し、お客様に報告します。必要に応じてミーティングも実施します。
技術ブログ公開中
「AI でつくる人」「AI をつくる人」のための実践ガイドをセキュリティ観点で技術的に詳細に解説したブログを公開しています。
https://blog.flatt.tech/entry/ai_authz上記以外にも、弊社はAIやLLMに関するブログを随時公開しています。以下から確認できますので、ぜひご覧ください。
AI / LLMに関する技術ブログを読むお見積もりは無料です。
診断のご依頼はお気軽にお問い合わせください。