AI脅威モデリングを日常の開発フローに溶け込ませる ― ChatGPT・LLM連携実践ノート

なぜ「脅威モデリング×生成AI」がいま必要なのか

DX投資が加速する現在、システム開発会社やWeb開発会社へ発注される案件は、スピードとセキュリティを同時に求められます。ところが要件定義段階で十分な脅威分析を実施できるプロジェクトはまだ少数派です。私たちが受託開発で身をもって感じるのは、「セキュリティ専門チームがいない中小〜中堅規模の開発現場こそ、AIの力で脅威モデリングを自動化すべきだ」という事実です。LLMは脆弱性パターンの網羅と学習コスト削減を両立させ、見積もり依頼時点から“守りの品質”を数値化できます。ここを先回りして提案できるベンダーは、開発費用相場が多少高くても発注者に選ばれやすいのです。

プロンプト設計：STRIDEを言語化するコツ

ChatGPTなどのLLMに「脅威を洗い出して」と投げても、抽象的な回答しか返ってきません。鍵はシステム設計ドキュメントを分割し、コンポーネントごとにSTRIDEカテゴリを付与してプロンプトに埋め込むことです。具体例：

1. API Gateway ― S, R

2. 認証サービス ― S, T, I

3. 支払マイクロサービス ― D, E

これを「JSON配列で返答して」と指示すれば、人手で作るより格段に速い“機械可読”な脅威リストが得られます。このJSONをそのままチケット化し、プロジェクト管理ツール（Azure DevOps / Backlog / Jira）にインポートすれば、エンジニアは開発と並行して対策タスクを消化できます。ここまでを自動化スクリプトに落とし込んでおくと、要件定義やシステム開発フローの初期段階でセキュリティ工数を見える化でき、結果的に開発予算の妥当性が説明しやすくなります。

LLM駆動テストケース生成：コスト削減の打ち手

テスト自動生成は“テストコードを書かない文化”のプロジェクトに強烈なインパクトをもたらします。OpenAI APIを用いて、脅威リストの各項目から“攻撃シナリオ→失敗条件→期待レスポンス”を抽出し、Playwrightやk6のスクリプトとして出力。CIパイプラインで流せば、保守運用フェーズの回帰試験に掛かる人件費を40〜60％削減できた事例があります。これをコスト削減の材料として提案書に組み込むと、他社との見積もり比較で優位に立てるでしょう。

プロジェクト管理に組み込む際の落とし穴

• 責任分界点の曖昧化
  脅威リストを生成AIが作った場合、誰が最終責任を負うのかを契約書に明記しないと後々揉めます。理想は「AIが出したリスク評価をセキュリティリードがレビューして承認する」というワークフローをGitHub CODEOWNERSで強制すること。

• API利用料の爆発
  プロンプト量が大きくなると課金が跳ね上がります。OpenAIは“prompt tokens : completion tokens = 1 : 0.4”程度に収めると費用効率が高いです。開発費用シミュレーション時点で必ずAPI料金を別建てで提示しましょう。

• 個人情報の取り扱い
  Threat Modelingで扱うデータフロー図にPIIが含まれる場合は、必ずマスキングしたうえで送信する、もしくはAzure OpenAIのようなプライベートエンドポイントを利用してください。

AI脅威モデリングをCI/CDに統合するステップバイステップ手順

まずは既存のシステム開発フローにどう組み込むかを整理しましょう。ポイントは「トリガーの自動化」と「ガバナンスの明示」です。

1. PR作成をトリガーにLLMスクリプトを走らせる
   GitHub Actions／GitLab CI で “on: pull_request” を定義し、変更差分から影響を受けるコンポーネントだけを抽出してLLMに投げます。差分最小化すればAPI費用も圧縮できます。

2. 結果をSARIF形式でセキュリティタブに可視化
   SARIFはVS CodeやAzure DevOpsが標準対応しており、脅威ごとにSeverityタグも付くので開発者の修正優先度設定が容易です。

3. 自動Fail基準を“High以上の未対応脅威がゼロ”に設定
   ここでガバナンスラインを引いておくと、プロジェクト管理面で脅威対策漏れをレビューに依存させずに済みます。

4. スプリントレトロで“AI検知→人の是正”KPIを計測
   全脅威数に対する検知率・誤検知率をダッシュボード化し、保守運用フェーズまで継続トラッキングします。これが費用対効果を裏付けるエビデンスになります。
   

   　3分でわかる！スマホアプリ・Web開発の費用感をスピードチェック。　

導入コストとROIを数値で試算する

発注担当者が気にするのは「実際いくらで、何を節約できるのか」です。私たちが複数の受託開発プロジェクトで測定した中央値を例示します。

一方、OpenAI GPT-4 8Kモデルを最大プロンプト長で月2万トークン使った場合のAPI費用はおよそ40,000円。差し引き70万強が削減インパクトという算盤になります。これを「開発費用シミュレーション」に添付しておくと、CFO層にも刺さりやすいです。

発注側に提示すべきAIセキュリティSLA項目

• 脅威リスト更新頻度：マージごと／日次／週次のいずれか

• 誤検知再評価リードタイム：24h以内対応

• モデルバージョン固定ポリシー：安定版のみ or Canaryテスト有効化

• データ保持期間：推論ログは30日以内消去

これらをあらかじめSLAドキュメントとして示すことで、発注企業はシステム 開発会社 選び方の指標を持ちやすくなり、価格よりも品質で比較してくれます。

ケーススタディ：FinTechスタートアップA社

業務システム開発においてカード情報を扱うWebサービスを開発。要件：PCI DSS準拠、6ヶ月ローンチ。

• 従来試算：セキュリティ専門家2名×3ヶ月＝約600万円

• AI脅威モデリング導入：専門家0.5名×4ヶ月＋OpenAI費用6万円

• 実績：総コスト330万円、リリース前脆弱性スキャンCritical 0件

A社はこれを投資家向けKPIとして提示し、シリーズAで評価額1.5倍を実現しました。数値で“守れる開発文化”を証明できる好例です。

ベンダー選定チェックリスト（発注者向け）

1. AI利用実績：過去案件でのLLM利用数

2. セキュリティ認証：ISO 27001／SOC2／PCI QSAパートナー

3. 費用内訳の透明性：API課金と人件費を分離提示

4. ナレッジ共有：脅威ライブラリをGitリポジトリで納品可能か

5. PoC無料枠：初回スプリントでAI脅威モデリングを無償実行できるか

このリストを比較表に落とすと、複数のWeb開発会社やアプリ開発会社の提案書でも“見える化”が進み、社内稟議がスムーズに通ります。

継続的改善：モデルドリフトとファインチューニング

LLMは公開脆弱性データベース(CVE)や攻撃手法の変化で性能が落ちます。保守運用フェーズでは次の運用が鍵になります。

• 月次でベンチマークデータセットを再評価

• 誤検知率が15％超えたら微調整モデルへ切り替え

• ドメイン固有データ（社内インシデント）をFew-shot学習に追加

こうした運用を実行できる体制があるかどうかは、システム開発会社 選び方において最重要の比較ポイントです。

人的リソースへのインパクトと育成ロードマップ

AIが脅威モデリングを肩代わりすると、「セキュリティアーキテクト不足」が緩和されますが、同時にプロジェクト管理側には新スキルが必要となります。

これを教育コストとして提案に含めると、開発費用の増加要因が説明でき、後から“隠れコスト”と批判されるリスクを減らせます。

ガバナンス視点での契約条項テンプレート

• AI出力物の帰属：脅威リスト・テストコードはクライアント資産

• データ取扱い：モデル学習への二次利用は禁止

• 責任範囲：AI誤検知によるリリース遅延は協議のうえ再スケジュール

これを覚書として見積書に添付すれば、法務部門への説得材料となり、発注決裁のリードタイムが平均20％短縮できます。

まとめ ― 発注側の説得材料を“セキュリティ ROI”で可視化せよ

LLMを使った脅威モデリングは、単なる“流行り物”ではなく、開発費用相場の基準を塗り替えるインパクトがあります。脆弱性対応に追われる開発文化から脱却し、「最初から守れる設計」をローコストで提示できるベンダーが、これからの受託開発市場をリードするでしょう。

次のアクション：自社案件のPoCを最短1スプリントで試し、削減インパクトを実数字で示してください。その際の見積もりは下記フォームより。