DIとは、AIの意思決定プロセス全体を追跡・再現する仕組みである。
AIが契約書のレビューや助成金の審査、顧客対応まで代行するようになった今、「なぜその判断に至ったのか」を誰も説明できない状況が増えてきました。結論だけが出てきても、根拠が見えないAIは業務では使えません。ここで注目されているのが「DI（Decision Intelligence）」という考え方。従来のAIガバナンスから一歩進み、意思決定そのものを透明化するアプローチです。
- DIは「AIの構成要素」ではなく「意思決定プロセス」を追跡・再現する仕組み
- XAI（説明可能AI）とHITL（人間介入）はDIを支える2つの柱
- マルチエージェント時代には、記憶の永続化と観測レイヤーの実装が次の論点になる
DI（Decision Intelligence）とは何か
DI（Decision Intelligence、意思決定インテリジェンス）は、AIの構成要素ではなく意思決定プロセスそのものを管理対象にする考え方です。読み方は「ディーアイ」。Gartnerは政府機関のAI活用に関する文脈で、従来のAIガバナンスでは透明性や公平性が十分に担保できないとして、DIへの移行が重要になると指摘しています。
なぜ「プロセス」を管理するのか。従来のAIガバナンスがカバーしていたのは、AIモデル、学習データ、アルゴリズムといった「部品」の品質管理が中心でした。部品が健全でも、それらが組み合わさって実際にどんな判断が下されたか、別の状況では再現できるかまでは追えません。DIは意思決定の設計・実行・再現・再評価までを一気通貫で対象にするのが特徴です。
従来のAIガバナンスとDIの違い
わかりやすい例を挙げます。従来のガバナンスは「どんなデータで学習したか」「モデルのバイアスはどの程度か」を監査する発想でした。DIは「ある申請に対してなぜ却下判断が出たのか」「同じ状況をもう一度再現できるか」「判断の責任者は誰か」まで記録する仕組み。視点が部品から結果の経路へと移るイメージ。
Gartnerは、ソフトウェアカテゴリとして「Decision Intelligence Platforms」を定義し、2026年1月に初のMagic Quadrantを公表予定です。製品カテゴリとして独立した評価対象になった点は、DIが概念からインフラへと移行している兆候といえます。
なぜ今DIが注目されるのか
Gartnerは、政府機関におけるAIエージェント導入が2028年までに8割規模に達すると予測しています。申請業務や相談対応など、市民と直接やり取りする場面でAIの自動判断が使われるほど、「なぜその判断になったのか」を国民に説明する責任が重くなります。透明性を後付けで確保するのは困難なため、導入と同時にDIを組み込む発想が求められている、というわけです。
民間企業でも同じ構図。採用審査、与信判定、価格設定でAIを使えば、法務やコンプライアンスから説明責任を問われる場面が必ず出てきます。「AIが判断しました」では通用しない時代に入った、と考えたほうがよいでしょう。
XAIとHITL：DIを支える2つの仕組み
DIは抽象的な概念ですが、実装する上で中核になるのが「XAI」と「HITL」という2つの技術・プロセスです。Gartnerの予測では、2029年までに政府機関の7割程度がXAIやHITLの導入を進めるとされています。ここでは両者の役割と違いを整理します。
XAI（Explainable AI）で判断根拠を見える化
XAI（Explainable AI、説明可能AI）は、AIが下した判断の根拠を人間が理解できる形で示す技術の総称です。読み方は「エックスエーアイ」。たとえば融資審査で「却下」の結果が出たとき、「年収」「勤続年数」「既存借入」のどの要素がどれだけ影響したかを可視化します。
ブラックボックスになりがちな深層学習モデルでも、SHAPやLIMEといった手法を使えば、各入力要素の寄与度を推定可能。判断の再現性や監査対応が格段にやりやすくなります。ただしXAIで出てくる「説明」はあくまで近似であり、モデル内部の計算をそのまま人間が理解しているわけではない点には注意が必要です。
HITL（Human-In-The-Loop）で人間が検証・修正する
HITL（Human-In-The-Loop、ヒューマン・イン・ザ・ループ）は、AIの判断プロセスに人間を組み込む仕組み。読み方は「エイチアイティーエル」または「ヒットル」です。AIが99%の確度で判断できるケースは自動処理に回し、微妙な事例は人間の審査官にエスカレーションする、といった運用がHITLの典型です。
行政の助成金審査を想像してみてください。申請内容が明らかな要件充足なら自動承認でも問題ないが、境界事例は担当者が確認して判断する。そのフィードバックをAIが学習に使えば、判定精度は継続的に上がります。HITLは単なる「人が見る」ではなく、人とAIが協調して判断品質を高める設計方針。
XAIが「なぜそう判断したか」を見せる仕組みだとすれば、HITLは「判断を承認・修正する」仕組み。この2つが組み合わさって初めて、DIの基盤になります。
マルチエージェント時代に表面化する意思決定の落とし穴
DIの議論を初学者向けに語ると「AIの判断を見える化すればいい」で終わりがちですが、実装の現場では別の難題が顔を出します。それがマルチエージェント化に伴う複雑性です。ここからは、開発者コミュニティで報告されている2つの技術課題を見ていきます。
エージェント間の引き継ぎで起きる情報劣化
複数のAIエージェントを連携させると、初期のタスク指示が後段のエージェントに伝わる過程で意味がずれていく現象が起きます。Dev.to上の開発者の報告では、エージェント1が「競合分析をせよ」と曖昧な指示を出すと、エージェント2がその解釈を積み重ね、エージェント3の段階では当初の目的から逸脱する事例があると指摘されています。
なぜ劣化するのか。原因は引き継ぎ情報の形式にあります。自然言語の要約を次のエージェントに渡すと、受け取り側は内容を再解釈するしかなく、曖昧さが累積するため。対策として、目的・達成基準・次のアクションを構造化したトークン形式で受け渡す提案もあります。DIの観点でいえば、エージェント間の引き継ぎフォーマットを標準化することが、意思決定プロセスの追跡可能性を保つ条件になります。
記憶を持たないAIの意思決定は再現できない
もうひとつの課題が「エージェントメモリ」。現在の多くのAIエージェントは会話やセッションをまたぐと記憶を失い、毎回ゼロからのやり取りになります。Dev.to上のOracle関連記事では、真のエージェントメモリは単なるコンテキストウィンドウの拡大ではなく、セッションを越えて永続・進化する状態管理インフラだと論じられています。
記憶の種類は、人間の記憶に対応させて「作業記憶」「手続き記憶」「意味記憶」「エピソード記憶」の4つに整理する枠組みが紹介されています。顧客サポートのエージェントが昨日のやり取りを覚えていなければ、同じ質問に対して異なる回答を出してしまうリスクも。DIでいう「意思決定の再現性」は、このメモリ層が機能していない限り成立しないと考えたほうが自然です。
政府機関と企業が進めるべきDI実装の論点
概念と技術課題を踏まえた上で、実装に踏み込むとどんな論点が出てくるのか。政府機関と民間企業の両方に共通する2つの観点で整理します。
意思決定プロセスを記録・再生可能にする
DIの中核は「後から判断を検証できる状態」を作ることです。ログファイルやスクリーンショットだけでは、時間的な流れや操作順序を再現しにくい。そこで注目されているのがブラウザ操作を動画として記録する仕組みです。
Dev.to上の紹介記事では、Playwright v1.59.0で導入されたScreencast APIによって、AIエージェントの作業を動画として記録できると紹介されています。チャプターマーカーやアクション注釈を付けられるため、監査証跡としてレビューに使いやすくなる点が利点。文字ログだけでなく、実際の画面遷移と操作を動画で残すアプローチは、DIの観測レイヤーの一例として参考になります。
政府機関の申請処理なら、AIエージェントがどの画面でどの情報を参照し、どの基準で判定したかを動画で残す運用が考えられます。民間企業でも、カスタマーサポートの自動応答やRPA処理で同じ発想が使えるでしょう。
自動化の速度と説明責任のバランス
DIを導入する上で避けて通れないのが、自動化の速度と説明責任のトレードオフです。Gartnerの見立てでは、AIの普及で行政手続きが自動的に受けられるようになると、市民と行政の直接的な接点が減る可能性があると指摘されています。裏を返せば、判断が速く便利になるほど「自分の申請がなぜその結果になったのか」を問いただす場面が減り、不透明さが潜在化するリスクも。
Gartnerが2025年第3四半期に世界の政府機関の担当者を対象に実施したとされる調査では、サイバー攻撃の経験やレガシーシステムの老朽化がIT導入の大きな障壁として挙げられたとの報告があります。技術導入だけでは問題は解消せず、制度・運用・教育を含めた総合的な設計が必要という指摘です。
民間企業にも同じ構図が当てはまります。AIによる採用審査や顧客対応のスピードを上げるほど、不服申し立てや説明要求への対応力が問われる。DIに基づいた意思決定の透明化と、説明責任を果たす運用体制の整備は、セットで考える必要がある課題。
よくある質問
Q. DIとXAIの違いは何ですか？
XAIは「AIの判断根拠を人間が理解できる形で示す技術」で、DIは「意思決定プロセス全体を設計・実行・追跡・再現する仕組み」です。XAIはDIを実現するための要素技術のひとつ、という位置付けになります。
Q. HITLはすべてのAI導入で必要ですか？
すべてではありません。影響が小さく誤判定のリスクも低い業務では完全自動化でも問題ないケースがあります。一方、採用・与信・行政審査のように判断が個人の権利や生活に影響する領域では、HITLを組み込むのが基本方針になります。
Q. 中小企業でもDIを実装できますか？
可能です。大規模な専用プラットフォームを導入しなくても、意思決定のログを構造化して残す、重要判断には人間のレビュー工程を挟む、といった運用設計から始められます。完璧を目指さず、リスクの高い業務から段階的に適用するのが現実的です。
Q. Decision Intelligence Platformsとはどんな製品カテゴリですか？
Gartnerがソフトウェア市場のカテゴリとして定義した分類で、2026年1月に初のMagic Quadrantが公表されました。意思決定の設計・実行・モニタリング・再評価を統合的に支援するプラットフォーム群を指します。
まとめ
DIは単なる説明機能やバズワードではなく、意思決定プロセス全体を追跡・再現するためのインフラです。XAIで判断根拠を可視化し、HITLで人間の検証を組み込み、メモリ層で状態を永続化し、観測レイヤーで記録を残す。この積層構造で捉えると、導入のどこから手を付けるべきかが見えてきます。
まず着手するなら、自社の業務でAIの判断に説明責任が発生しそうな領域を洗い出すところから。影響範囲が大きい業務ほど、HITLとログ記録の設計を優先すべきです。そのうえでXAIの実装やメモリ層の整備に広げていくと、後付けでの改修を避けられます。
本記事は AIツール図鑑編集部 が記載時点の情報をもとに執筆。製品アップデートや第三者ベンチマーク・価格・対応ランタイム等の変動で評価が変わる可能性がある。一定期間経過した内容は再検証を推奨する。
コメント