AIに複数の資料を読ませて答えさせると、資料どうしで内容が食い違うことがある。同じことを二回聞いて、違う答えが返ってくることもある。そんなとき、つい「どっちが正しいのか」を決めにいきたくなる。だが、その一手が早すぎると外す。食い違っているように見えて、実は矛盾ではなく、前提違いにすぎないことがあるからだ。
やっかいなのは、AIが「まとまって見えるほう」に流れやすい点だ。正しいかどうかとは別に、一貫して説得力があるかどうかで、どちらかへ傾いてしまうことがある。だから「どっちが正しい?」に飛びつくと、説得力はあるが的外れな側を選ぶことがある。効くのは、正誤を決める前に「そもそも同じことを比べているのか」を確かめる手順――統合ループ――だ。
なお、ここでいう食い違いには、資料どうしの違いだけでなく、同じAIに聞き直したときの回答差、複数AIの回答差、過去と現行の記述差も含まれる。
- 資料や回答が食い違ったとき、AIは「まとまって見えるほう」へ流されやすく、正誤とは限らない
- 食い違いの多くは本当の矛盾ではなく、版・時点・前提が違うだけの「併存」である
- だから正誤を決める前に、同じ対象・同じ時点・同じ前提を比べているかを先に確認する（統合ループ）
- 本当に同じ土俵で食い違うときだけ、どちらが正しいかの解決に進む
なぜ「どっちが正しい?」に飛びつくと外すのか
AIは説得力のあるほうへ流される
知識の衝突が起きたときのLLMの挙動を調べた研究（Xie ほか, 2023）によると、外部の証拠が一貫して説得力があれば、モデルは自分が学習した知識と食い違ってもそちらへ大きく傾くことがある。つまり、正しいかどうかより、まとまって見えるかどうかで流されうる。
この性質は、食い違いの処理と相性が悪い。二つの資料が対立して見えるとき、AIは文章として整っているほうを「正しい」と扱いやすい。だが、整っていることと正しいことは別だ。説得力で選んだ結果、条件の合わない側を採用してしまうことが起きる。
しかも、説得力は見た目にも宿る。AIが返す説明は、整って見えても、実際にその答えへ至った本当の根拠とは限らない（Lanham ほか, 2023）。整った説明を「正しい」と受け取ると、条件の合わない側を選びかねない。なお、同じ知識衝突の研究（Xie ほか, 2023）は逆の癖も報告している――外部の証拠が自分の記憶と整合する情報を含むと、今度はそちらに固執することがある。流されるにせよ固執するにせよ、正誤とは別の力で判断が動く点は共通だ。加えて、利用者が示した方向に合わせて答えやすい追従傾向も報告されており（Sharma ほか, 2023）、こちらが「AとBは矛盾しているはずだ」と渡すと、その前提に沿って整理されやすい。だからこそ、正誤を決める前に土俵をそろえる一手が要る。
「食い違い」の多くは本当の矛盾ではない
そもそも、食い違って見えるものの多くは、真正面から矛盾しているわけではない。片方が古い版、もう片方が新しい版。片方が税込み、もう片方が税抜き。片方が特定の条件下、もう片方が別の条件下。前提が違えば、両方とも「その前提では正しい」ことがありうる。これは矛盾ではなく併存だ。ここを「どっちが正しい?」と処理すると、本当は両立する情報の片方を、誤って切り捨ててしまう。
対立と決める前に ― スコープを合わせる
同じ対象・時点・前提を比べているか
最初にやるのは、二つが同じ土俵に乗っているかの確認だ。対象は同じか。いつの時点の話か。どんな条件・前提を置いているか。この三つが揃っていなければ、そもそも比べられない。揃っていないまま正誤を論じるのは、違う単位の数字を大小比較するようなものだ。
版・時点・条件が違えば「併存」として扱う
前提が違うと分かったら、それは矛盾ではなく併存として扱う。どちらかを消すのではなく、「Aはver1のとき・Bはver2のとき」「Aは税込み・Bは税抜き」と、成り立つ条件つきで両方を残す。実務で必要なのは、自分の状況がどちらの条件に当たるかを見極めることであって、片方を偽物と決めることではない。
併存として残す作業は、後々効いてくる。いま現行版を使っていても、別の環境では旧版が残っているかもしれないし、移行作業では旧版の情報が必要になることもある。条件つきで両方を持っておけば、状況が変わったときに選び直せる。正誤で片方を消してしまうと、この選び直しができなくなる。食い違いを見た瞬間に一方を捨てるのは速く見えて、後で情報を取りこぼす遠回りになりやすい。
同じ土俵で矛盾するときだけ解決に進む
対象も時点も前提も揃っていて、それでも食い違うなら、そこで初めて本当の矛盾になる。ここまで来て、どちらが正しいかの検証に進む。一次ソースに当たる、別の観測で確かめる、といった手立てだ。スコープを合わせる手間を先に踏むことで、「本当に解決すべき矛盾」だけに労力を向けられる。
「併存」と「矛盾」の見分け方
食い違いを見つけたら、「この二つは同じ対象・同じ時点・同じ前提の話か」を自問する。一つでも違えば併存、すべて同じなら矛盾の可能性が残る。並べると差が見える。
| 併存（前提が違う＝両立しうる） | 矛盾の可能性（同じ土俵で食い違う） |
|---|---|
| 資料Aは旧バージョンの手順、Bは新バージョンの手順 | 同じバージョンについて、AとBで必須設定が食い違う |
| 片方は月額、もう片方は年額で価格を書いている | 同じ料金プランの同じ支払い方法で、金額が違う |
| 片方は無料枠込み、もう片方は無料枠を除いた上限値 | 同じ条件・同じ時点の上限値が食い違う |
コツは、金額や数値そのものではなく、その数値が「どの前提で測られたか」を先に見ること。前提のラベル（版・時点・条件）が違えば、数値が違って当然だ。ラベルまで揃っているのに食い違うときだけ、正誤の問題になる。
具体例：2つの資料で手順が食い違う
効き目は、一つ通すと分かりやすい。以下は説明のための仮想例だが、あるツールの設定手順を調べていて、二つの解説記事で必須の設定項目が食い違っていた、という場面を考える。
「どっちが正しい?」で処理すると、より詳しく書かれているほうを正解と見なして、もう片方を切り捨てたくなる。AIに任せても、文章として整ったほうへ流れやすい。だが、スコープを合わせにいくと違う絵が見える。二つの記事の対象バージョンを確認すると、片方は旧バージョン、もう片方は現行バージョンの手順だった。設定項目が変わったのはバージョン更新によるもので、どちらもその版では正しい。これは矛盾ではなく併存だった。
やるべきは、正誤を決めることではなく、「自分が使っているのはどちらのバージョンか」を確かめて、それに合う手順を選ぶことだった。もし早合点して現行版のユーザーが旧版の手順を切り捨てていたら、正しい情報を捨てていたことになる。
| 早合点した場合 | スコープを合わせた場合 | |
|---|---|---|
| 見立て | 詳しいほうが正しい、片方は誤り | 版が違うだけで、両方その版では正しい |
| 扱い | 片方を切り捨てる | 条件つきで両方残す（併存） |
| 結果 | 正しい情報を失う恐れ | 自分の版に合う手順を選べる |
もう一つの例：AIに2回聞いたら別の数字
次も説明のための仮想例だ。ある集計をAIに二回頼んだら、一回目と二回目で合計金額が違って返ってきた、という場面を考える。片方が間違い（作り話）だと決めつけたくなる。
だが前提を並べ直すと、一回目は税抜き・手数料なしで計算し、二回目は税込み・手数料込みで計算していた、という違いが見えてくる。どちらも与えた条件の下では整合している。食い違っていたのは答えではなく、暗黙に置いた前提のほうだった。ここで必要なのは、「どちらの数字が正しいか」ではなく、「どちらの前提で出したのか」を明示させ、自分が必要とする前提に揃えて計算し直させることだ。前提を固定しないまま正誤を争うと、両方とも正しい答えのどちらかを誤って捨ててしまう。
二つの例に共通するのは、食い違いの正体が「答え」ではなく「前提」だった点だ。バージョンの違い、税の有無――前提のラベルを貼り直すと、対立に見えたものが両立に変わる。矛盾を裁く前に、まず同じ土俵かを見る。それだけで、切り捨てずに済む情報が増える。
そのまま使えるプロンプト
このスコープ合わせは、そのままAIに指示できる。食い違いを扱わせるときに、次の枠組みを添える。
ポイントは、1番で「正誤の判断を保留させる」ことと、2番で「前提の違いを先に洗い出させる」こと。ここを飛ばすと、モデルは説得力のあるほうへ流れて片方を切り捨ててしまう。
食い違いを生みやすい四つの前提
併存か矛盾かを見分けるとき、まず疑うべき前提はだいたい決まっている。次の四つを確認すると、見せかけの矛盾のほとんどは説明がつく。
- 時点 ― いつの情報か。製品仕様や価格は版・時期で変わる。
- 対象範囲 ― 全体の話か、一部の条件下の話か。無料枠を含むか除くか、といった範囲の違い。
- 単位・定義 ― 税込みか税抜きか、月額か年額か、同じ言葉が別の意味で使われていないか。
- 測り方 ― どうやって出した数字か。計測方法や集計の期間が違えば、値が違って当然だ。
食い違いを見たら、正誤を論じる前にこの四つのラベルを二つの情報に貼ってみる。ラベルが揃わないなら併存、すべて揃っているのに食い違うなら本当の矛盾だ。
やりがちな失敗
手順は単純だが、つまずく箇所は決まっている。
- すぐ正誤を決めにいく ― 食い違いを見た瞬間に「どっちが正しい?」と処理すると、併存を矛盾と誤認する。まず前提を揃えるのが先。
- 詳しいほう・整ったほうを正解にする ― 説得力は正しさの保証ではない。文章の出来で選ばず、条件で見比べる。
- 前提を確認せず片方を切り捨てる ― 版・時点・単位の違いを見ないまま一方を捨てると、正しい情報を失う。
- 本当の矛盾まで併存で流す ― 逆に、すべての前提が揃っているのに「たぶん条件が違うのだろう」で済ませると、確かめるべき矛盾を放置する。揃っているなら解決に進む。
この手順が向く場面・向かない場面
統合ループが向いているのは、複数の情報源を突き合わせる場面だ。複数の資料をAIに読ませる、複数のAIの回答を比べる、過去と現在の記述を照合する、といった作業で、食い違いは頻繁に起きる。前提のラベルがはっきり付けられる情報ほど、併存か矛盾かの切り分けが速い。
逆に向かないのは、そもそも情報源が一つしかない場面や、食い違いが起きていない場面だ。手順を挟む意味がない。また、前提の違いすら判別できないほど情報が乏しいときは、まず各情報の出所・時点・条件をそろえて集めるところから始める必要がある。
使いどきの合図も覚えておくと速い。複数の資料や回答が食い違っている、どちらかが間違いだと決めつけたくなっている、数値が違うのに前提を確認していない――特に二つ目の「どちらかが間違いだ」という気持ちが湧いたら、切り捨てる前にいったん止めるサインだ。
よくある質問
Q. 前提が書かれていない資料どうしは、どう比べますか？
まず、それぞれの前提を推定して明示させるところから始めます。「この数値はいつ時点・どの条件のものと考えられるか」をAIに補わせ、推定であることを明記した上で比べます。前提が不明なまま正誤を論じないのが要点です。
Q. 併存だと分かった後、結局どうすればいいですか？
自分の状況がどの前提に当たるかを決め、それに合う情報を選びます。たとえばバージョン違いなら、自分が使っている版の情報を採用します。両方を残すのは、あとで状況が変わったときに正しく選び直せるようにするためです。
Q. 本当の矛盾だと分かったときは？
そこで初めて正誤の検証に進みます。公式の一次ソースに当たる、別の方法で実際に確かめる、というように、原因を追い切る手順や反証で絞る手順に引き継ぐと、確かめる作業がそのまま流れます。
Q. どちらの前提が「正しい前提」かは決められますか？
前提に正誤はありません。あるのは「自分の状況に合う前提かどうか」だけです。税込みで考えるべき場面なら税込みの答えを、現行バージョンを使っているなら現行版の手順を選ぶ。前提を裁くのではなく、自分の条件に合わせて選ぶのが正解です。
Q. AIが食い違いを指摘せず、片方だけ答えてきます。
複数の情報を渡したのに一つにまとめて返すときは、「各情報の前提（時点・条件・単位）を分けて示し、食い違う点を明示して」と指示すると、流されずに並べてくれます。まとめさせる前に、違いを洗い出させるのが先です。
Q. 本当の矛盾だと分かったのに、確かめる手立てがありません。
その場合は「どちらとも断定できない」を結論として残すのが誠実です。無理に片方を選ぶより、未解決であることと、確かめるために何が必要かを明示しておくほうが、後で正しく判断できます。
「どっちが正しい」でなく「同じ話をしているか」
この記事の核――統合ループ――は、問いの入れ替えにある。「どっちが正しい?」は、二つが同じ土俵にあることを暗黙に前提している。だが食い違いの多くは、その前提のところで起きている。「同じ話をしているか?」と先に問えば、併存を矛盾と取り違える事故が減る。
AIは、放っておけばまとまって見えるほうへ流れ、正しいかのように片方を採る。だからこそ、正誤を決める前にスコープを合わせる一手は人が握る必要がある。矛盾を扱うとは、勝ち負けを決めることではなく、まず土俵が同じかを確かめることに近い。
この入れ替えが効くのは、食い違いのコストが非対称だからだ。併存を矛盾と誤れば、正しい情報を一つ捨てる。矛盾を併存と誤れば、確かめるべき食い違いを見逃す。どちらも痛いが、AIに複数資料をまとめさせる場面では、前者――併存を矛盾と見て片方を捨てる失敗――が起きやすい。だから、まず「同じ話か」を確かめる側に少し倒しておくと、取り返しのつかない切り捨てを避けやすい。土俵をそろえてなお食い違うなら、そのときは迷わず解決に進めばいい。
最後に
食い違いを裁く統合ループは、判断力ではなく手順の問題だ。すぐ「どっちが正しい?」に飛びつくと、前提の違うものを無理に対立させ、正しい情報を切り捨てる。だからこそ、同じ対象・同じ時点・同じ前提を比べているかを先に確かめ、違えば併存として両方残し、揃っていてなお食い違うときだけ解決に進む。この順番で、見せかけの矛盾に振り回される回数が減る。
食い違いを早合点しない統合ループは、四つの型の最後のひとつだ。原因を追い切る残差監査、枠組みを疑う多角推論、候補を反証で絞る仮説収束とは、狙う崩れ方が違うだけで設計は共通する。四つの土台をまとめて推論制御と呼ぶ。
参考資料
- Xie, J. ほか「Adaptive Chameleon or Stubborn Sloth: Revealing the Behavior of Large Language Models in Knowledge Conflicts」(ICLR 2024, arXiv:2305.13300) ― 説得力のある外部証拠にLLMが傾く一方、自らの記憶と整合する情報には固執する二面性を示した研究
- Sharma, M. ほか「Towards Understanding Sycophancy in Language Models」(2023, arXiv:2310.13548) ― モデルが相手の示す内容に合わせて流されやすいこと（追従）を示した研究
- Lanham, T. ほか「Measuring Faithfulness in Chain-of-Thought Reasoning」(2023, arXiv:2307.13702) ― 書き出された説明が実際の判断根拠を忠実に反映するとは限らないことを示した研究
本記事はAIツール図鑑編集部が、記載時点の情報をもとに執筆しました。引用した研究は各一次ソースを参照のこと。モデルの挙動は世代・設定により変わりうるため、手順は自分の環境で確かめたうえで用いることを推奨する。
