AIの回答はどこまで検算するか。ハルシネーション対策は確認の設計で決まる。

AIの答えには、ときどき嘘が混ざります。

もっともらしい顔で、実在しない文献や、微妙に違う数字を出してくる。
いわゆるハルシネーション（もっともらしい誤り）です。

結論から書くと、ハルシネーション対策の本体は、AIの精度が上がるのを待つことではなく、確認のしかたを先に決めておくことです。

すべての回答を検算していたら、AIに任せた意味がなくなります。
かといって、すべてを鵜呑みにすれば、いつか社外に間違いが出ていきます。

この記事では、プロの組織でも間違いを見抜けなかった実例と、筆者が企業調査で実際にはまりかけた「二次情報の罠」を紹介したうえで、用途ごとに確認の深さを変える線引きを説明します。

筆者（永松裕章）は大阪でAI研修とAX支援の会社を経営し、調べ物や文書作成の多くをAIと進めながら、この確認の線引きを日々運用しています。

大手コンサルの報告書でも、実在しない文献が紛れ込んだ。

2025年10月、コンサルティング大手のデロイトが、オーストラリア政府に納品した報告書の代金を一部返金することに同意しました。

契約額44万豪ドルの報告書に、実在しない学術文献への言及や、裁判の判決文から捏造された引用が含まれていたためです。
修正版では、12件を超える存在しない参考文献と脚注が削除され、作成過程で生成AIを使っていたことも明記されました（出典：BUSINESS INSIDER JAPAN）。

世界有数の専門家集団が、報酬をもらって書いた報告書でこれが起きた。
この事実が示しているのは、ハルシネーションは「注意していれば防げるうっかりミス」ではない、ということです。

国内でも、不安を感じているのは同じです。

帝国データバンクが2026年3月に全国の企業へ行った調査（有効回答1万312社）では、生成AIを活用している企業は34.5%に伸びた一方、活用にあたっての課題の最多は「情報の正確性」で50.4%でした（出典：帝国データバンク「生成AIに関する企業の動向調査」）。

使う企業が増えるほど、「この答えは合っているのか」という問いは、全員の問題になっていきます。

AIが堂々と間違えるのは、「分からない」と言うと損をする仕組みだから。

なぜAIは、自信がないときに黙ってくれないのか。

OpenAIが2025年9月に公表した研究が、分かりやすい説明をしています。
AIの学習や性能評価は正解率で採点されるため、「分からない」と答えるより、当て推量でも答えたほうが点が伸びる。
つまり、空欄にすると必ず0点になる選択式テストを解き続けているようなもので、推測することが得になる仕組みで育っている、という説明です（出典：OpenAI「Why language models hallucinate」）。

同じ研究に、興味深い比較があります。

あるテストで、ほとんど棄権しないモデルは、正答率24%に対して誤答率が75%に達しました。
一方、半分ほどの質問に「分からない」と答えるモデルは、正答率22%とほぼ同じまま、誤答率は26%に収まっています。

正解の量はほとんど変わらないのに、推測をやめないほうだけ、嘘が3倍近くに増える。
AIの間違いは性格の問題ではなく、仕組みの産物だということです。

だから、使う側の現実的な構えはこうなります。

• 間違いは今後も混ざる前提で使う。
• どこで間違いを受け止めるかを、人間側で設計する。

精度の向上を待つのではなく、確認のしかたを決める。
これがこの記事の軸です。

二次情報の罠。複数のサイトで一致しても、裏取りにはならない。

確認というと、「複数の情報源で同じことが書いてあればOK」と考えがちです。
筆者も、企業調査でまさにこの罠にはまりかけました。

商談の準備で、ある非公開企業の規模を調べたときのことです。

大手の求人サイト2つが、どちらも「従業員112名」と書いていました。
2つの媒体で一致しているのだから確からしい、と思いかけた。

ところが、国の公開データベース（gBizINFO）を開くと、60人という数字が出てきます。
これは社会保険の加入者数で、求人サイトの数字とは定義も集計時点も違うものでした。

さらに調べると、別のサイトの「100名」という記載は、検索結果の抜粋には出るのに、ページの現物には書かれていませんでした。

このとき学んだのは、二次情報どうしの一致は裏取りにならない、ということです。
求人サイトの数字は、どちらも会社側の同じ申告を写している可能性が高い。
写しが2枚あっても、原本を確かめたことにはなりません。

AIの回答も、これと同じ構造です。

AIが参照したページが二次情報なら、回答がもっともらしく見えるだけで、確からしさは増えていません。
数字や事実を確かめるなら、定義と時点がはっきりした一次ソース（公的な統計、調査の原典、契約書や規程の現物）まで戻る。
確認の手間はここに集中させるのが、いちばん割に合います。

確認の深さは、用途で3段階に分ける。

とはいえ、すべての回答で一次ソースに戻っていたら、仕事になりません。
筆者は、AIの使いどころを3段階に分けて、確認の深さを変えています。

─① そのまま使う。社内のたたき台。

アイデア出し、構成案、文章の下書き、言い換えの候補。
このあたりは、検算せずにそのまま使います。

あとの工程で人が必ず手を入れるものなので、間違いが混ざっていても、そこで直ればよいからです。
ここまで疑い始めると、AIを使う速さが消えてしまいます。

─② 出典を開く。社外に出る数字と固有名詞。

金額、統計、日付、人名や社名、法令や制度の名前。
社外に出る文書に載るこれらは、AIに出典のURLを出させて、リンク先の原文で確かめます。

このとき、数字そのものだけでなく、調査の設問や言葉の定義まで見るのがコツです。
似た数字でも、「何を聞いた結果か」が違えば意味が変わります。
出典が二次情報なら、一次ソースまで戻ります。

─③ 人が判断する。契約・法務・お金。

契約の可否、法的な解釈、支払いにかかわる判断。
ここはAIの答えを採用するかどうか以前に、判断そのものを人に残します。

AIに任せるのは、論点の洗い出しと見落としの指摘まで。
契約書チェックでの役割分担は、契約書のチェックにAIをどう使うかで詳しく書いています。

検算を減らす近道は、AIへの頼み方にある。

確認の負担は、頼み方しだいで最初から減らせます。
筆者が日常的に使っているのは、次の3つです。

• 出典のURL付きで答えさせる。確認の作業が「自分で探す」から「リンクを開く」に変わり、数分の差が毎回効いてきます。
• 「分からないことは分からないと書いてください」と一言添える。推測で埋めようとする動きが目に見えて減ります。
• 手元の資料を渡して、その範囲で答えさせる。検算の対象が「世の中の事実」から「資料と合っているか」に狭まり、突き合わせるだけで済みます。

もうひとつ、発想を逆にする手もあります。

AIに書かせて人が検算するのではなく、人が書いたものをAIに検算させる使い方です。
この「レビュー役としてのAI」は、提案書作成にAIをどう使うかで紹介しています。

ハルシネーションは、当面なくなりません。
それでも、確認の深さを用途ごとに決めてしまえば、怖さは「どこで受け止めるか決まっている不安」に変わり、任せられる範囲はむしろ広がっていきます。

自社のどの業務をどこまでAIに任せられるか、確認の線引きから一緒に整理したい方は、無料のAI活用診断をご利用ください。
運用の設計まで含めた支援は、コンサルティングサービスで承っています。