ハルシネーションとは？AIが誤回答する原因と対策をわかりやすく解説

学習していない情報にも答えようとする

AIは、知らないことや判断材料が足りないことに対しても、回答の形を作ろうとする場合があります。

たとえば、「当社の育児休業制度について教えてください」と聞いたとします。このとき、社内規程が参照されていない状態でも、AIが一般的な制度説明をもとに回答してしまうことがあります。読み手から見ると自然に見えますが、その会社の規程と一致しているとは限りません。

このような質問では、AIに一般論を聞いているのか、社内規程に基づく回答を求めているのかを明確に分ける必要があります。AI導入の初期段階では、この区別が曖昧なまま使われがちです。筆者は、ここを最初の研修で必ず伝えるようにしています。便利さを感じた直後ほど、人はAIの回答を信じやすくなるからです。

質問が曖昧だと、前提を補ってしまう

「この内容をいい感じにまとめてください」「リスクを教えてください」「顧客向けに使える文章にしてください」。このような依頼は便利ですが、AIにとっては解釈の幅が広い指示です。誰向けなのか、どの資料を前提にするのか、どこまで断定してよいのかが不明確なため、AIが前提を補ってしまう余地が生まれます。

ハルシネーション対策では、プロンプトの書き方も重要です。目的、対象読者、前提情報、出力形式、制約を明確にすると、不要な補完を減らしやすくなります。

筆者の感覚では、AI活用がうまく進む企業ほど、プロンプトを「個人の工夫」ではなく「業務設計の一部」として扱っています。うまい人だけが上手に聞くのではなく、誰が使っても一定の品質になるように、問い方そのものをチームで共有しているのです。

最新情報や社内固有情報に弱い場合がある

AIは、最新の法改正、直近の市場データ、社内だけで使われている制度名、部署ごとの運用ルールなどに弱い場合があります。

特に注意したいのは、次のような情報です。

• 最新の法令・規制
• 競合企業の最新動向
• 自社独自の料金体系
• 社内規程や承認フロー
• 顧客ごとの契約条件
• 未公開のキャンペーン情報

これらは、AIに任せきるのではなく、必ず一次情報に戻って確認する必要があります。

AIは、文章を作る速度では人を大きく上回る場面があります。しかし、いま社内で有効なルールを知っているか、顧客との個別契約を理解しているか、最新の承認フローと一致しているかは別の問題です。スピードが速いからこそ、確認ポイントを意識的に置く必要があります。

出典らしいものを作る場合がある

AIに「出典も付けて」と依頼すると、出典の形式で回答してくれることがあります。しかし、それが必ず実在するとは限りません。

たとえば、実在しない資料名や、存在しないページ番号、確認できないURLを示すことがあります。出典が書かれているから正しいのではなく、出典が実際に存在し、内容と一致しているかまで確認する必要があります。

これは、現場では意外と見落とされます。資料名やURLが付いていると、それだけで信頼できるように見えるからです。筆者は、AIの出典を見たときほど「これは本当に存在するか」と一度立ち止まることを勧めています。

社内規程・制度に関する問い合わせ

人事、総務、経理、情報システム部門では、社員からの問い合わせ対応にAIを使いたくなる場面があります。

たとえば、次のような質問です。

• この交通費は経費精算できますか
• 副業申請はどの部署に出せばよいですか
• 育休の申請期限はいつですか
• 退職時に返却する備品は何ですか

これらは一見、AIと相性がよさそうです。実際、社内規程やFAQを整理し、社員が自分で調べられる状態を作ることは、AI活用の有効なテーマです。

しかし、社内規程に基づかない回答をしてしまうと、社員に誤った行動を促す可能性があります。たとえば、本来は事前申請が必要な手続きを、AIが「事後申請でも問題ありません」と答えてしまえば、現場の混乱につながります。

社内規程に関する質問では、AIに一般論で答えさせないことが重要です。「規程に根拠がない場合は、分からないと答える」「規程名や条項を示す」といった制約を入れる必要があります。

契約書・法務確認の一次レビュー

契約書の一次レビューにもAIは使われ始めています。条項の抜け漏れを確認したり、論点を整理したりする用途では有効です。

ただし、AIの出力を法的判断そのものとして扱うのは危険です。

契約書では、文言の一部や前後関係によって意味が変わることがあります。また、取引先との過去の交渉経緯や、社内のリスク許容度も関係します。AIが「問題ありません」と出力しても、それは最終判断ではありません。

筆者も、契約書や規程に関わるAI活用では、AIを「判断者」ではなく「論点を見つける補助者」として位置づけることを徹底します。法務に関わる出力は、必ず専門部署や顧問など、人による確認を前提にする必要があります。

市場調査・競合調査・数値引用

マーケティングや営業企画では、AIを使って市場調査や競合比較のたたき台を作ることがあります。

この用途では、ハルシネーションが特に見抜きにくくなります。なぜなら、AIの回答には「それらしい市場規模」「それらしい成長率」「それらしい競合比較」が含まれやすいからです。

たとえば、以下は想定例です。

国内の〇〇市場は2025年時点で約1,000億円規模であり、年率10％で成長しています。

このような文章は、もっともらしく見えます。しかし、出典、調査年、対象市場の定義、集計範囲がなければ、業務で使うべきではありません。

市場調査でAIを使う場合は、数値そのものを信じるのではなく、「調べるべき論点」「確認すべき情報源」「比較軸の整理」に使う方が安全です。筆者も、調査の初手ではAIに「答え」を求めるより、「調べる地図」を作らせることが多いです。

議事録要約・商談メモの整理

AI要約は、会議や商談の内容を整理するうえで便利です。会議録音、議事メモ、資料などを指定フォーマットで要約できれば、議事録作成や情報共有の負担を減らせます。

一方で、議事録や商談メモでは次のような誤りに注意が必要です。

• 決定していないことを「決定事項」として書く
• 担当者が未確定のタスクに名前を付ける
• 議論中の仮説を、確定した方針のようにまとめる
• 顧客の発言を、社内側の解釈で言い換えすぎる

議事録のAI要約は、会議後の確認時間を短縮する助けになります。しかし、最終的な議事録として共有する前に、人が録音・メモ・参加者の認識と照らし合わせる必要があります。

会議というのは、単に発言を並べる場ではありません。誰がどの温度感で話したのか、どこまで合意したのか、何が保留されたのか。そうした文脈を読むのは、人の役割が大きい領域です。

顧客向けメール・提案書・FAQ回答

顧客に送る文章では、AIの誤回答がそのまま信頼低下につながる可能性があります。

特に注意したいのは、以下の表現です。

• 必ず改善できます
• すべて対応可能です
• 他社より優れています
• 〇日以内に完了します
• 法的に問題ありません

このような断定表現は、事実確認や社内承認がないまま使うべきではありません。

AIが作った文章は、下書きとしては便利です。しかし、顧客に送る前には、数字、条件、契約内容、約束してよい範囲を必ず確認しましょう。

筆者は営業やマーケティングの支援でも、AIに「強い言い切り」をさせすぎないようにします。魅力的な文章と、過剰な約束は紙一重です。特にBtoBでは、信頼は短期的な訴求よりも重く見られます。

AIを「正解を出す道具」として扱わない

AIは、正解を保証する道具ではありません。特に、事実確認、法的判断、最終意思決定、顧客への確約には向いていません。

一方で、次のような用途には向いています。

• 文章の下書き
• 議事録や資料の要約
• 論点の整理
• アイデア出し
• 比較表のたたき台
• チェック観点の洗い出し
• プロンプトやテンプレートの作成

つまり、AIは「考える前の土台」を作る道具として使うと効果的です。

事実確認・最終判断・関係性のある対話は人が担い、下書き・要約・整形・調査の起点づくりはAIに任せる。この役割分担を明確にすると、スピードと安全性を両立しやすくなります。

低リスク業務と高リスク業務を分ける

すべてのAI利用を同じルールで縛ると、現場では使いにくくなります。一方で、すべてを自由にするとリスクが高まります。

そのため、まずは業務をリスク別に分けることが有効です。

このように分けると、現場は「何でも禁止」ではなく「どこまでなら使えるか」を判断しやすくなります。

AI導入が止まる企業では、「危ないから使わない」か「便利だから自由に使う」の二択になりがちです。筆者は、その中間にある現実的な運用を設計することが重要だと考えています。

「人が確認する場所」を業務フローに入れる

AI出力を確認する運用は、担当者の注意力だけに頼ると続きません。

大切なのは、業務フローに確認ポイントを組み込むことです。

たとえば、顧客向け資料であれば次のようにします。

1. 担当者がAIで構成案を作る
2. 担当者が数字・固有名詞・事例を確認する
3. 上長が表現・約束範囲を確認する
4. 必要に応じて法務・情シスが確認する
5. 顧客へ提出する

このように、AI利用を既存のレビュー工程に組み込めば、現場のスピードを落としすぎずにリスクを抑えやすくなります。

「人が確認する」という言葉だけでは、運用にはなりません。誰が、どのタイミングで、何を確認するのか。そこまで決めて初めて、AI活用は現場に定着します。

目的・前提・出力形式を明確に指示する

AIへの指示が曖昧だと、誤回答の余地が広がります。

悪い例は、次のような依頼です。

この資料をいい感じにまとめて。

改善するなら、次のように書きます。

以下の資料を、社内の営業会議で共有するために要約してください。

# 目的
営業メンバーが、次のアクションを判断できるようにする

# 出力形式
- 要点：5つ以内
- 決定事項：箇条書き
- 未確定事項：「要確認」と明記
- 数字・日付・固有名詞は原文にあるものだけ使う

# 注意
資料内にない情報は補わないでください。

このように、AIに「何をしてほしいか」だけでなく、「何をしてはいけないか」も伝えることが重要です。

筆者は、生成AIのプロンプトを「依頼文」ではなく「業務指示書」に近いものとして扱うことを勧めています。良い指示書には、目的、前提、成果物、制約、確認観点があります。AIへの指示も同じです。

不明な場合は「要確認」と答えさせる

AIは、分からないことにも答えようとする場合があります。そのため、最初から「不明な場合は要確認と書く」と指定します。

例：

社内規程に明記されていない内容は、推測で答えず「規程上の根拠がないため要確認」と書いてください。

この一文を入れるだけでも、AIが無理に断定するリスクを下げやすくなります。

特に、社内FAQ、規程確認、顧客向け回答では、「分からないときに分からないと言えるAI」にすることが大切です。これは、AIの能力を下げる指示ではありません。業務上の信頼性を上げる指示です。

数字・日付・固有名詞は原典に戻る

ハルシネーションが業務上の問題になりやすいのは、数字・日付・固有名詞です。

確認すべき項目は、次のとおりです。

• 金額
• 割合
• 人数
• 日付
• 会社名
• 部署名
• 担当者名
• 商品名
• 契約条件
• 法令名
• 資料名

AIが出力した数字や固有名詞は、必ず原典に戻って確認します。原典が確認できない場合は、その情報を削除するか、「要確認」と明記しましょう。

数字は、文章に説得力を与えます。だからこそ危険でもあります。根拠のない数字は、ない方がよい場合もあります。筆者は資料レビューの場で、数字を見つけるとまず「その数字はどこから来ましたか」と確認するようにしています。

出典の有無を確認する

AIに出典を求めることは有効ですが、出典が書かれているだけでは不十分です。

確認すべきなのは、以下の3点です。

1. その出典は実在するか
2. 出典の内容とAIの要約が一致しているか
3. 出典は現在も有効な情報か

社内資料の場合は、最新版かどうかも確認が必要です。古い規程や過去の提案書をもとに回答している場合、現在の運用と食い違う可能性があります。

AIに出典を付けさせることは、確認作業の入口にはなります。しかし、出典が付いた瞬間に確認が終わるわけではありません。むしろ、そこから人の確認が始まります。

社外提出前に人がレビューする

社外に出す文章は、必ず人が確認します。

AIが作った下書きであっても、顧客や取引先に提出する段階では、人が責任を持って確認する必要があります。レビューでは、次の観点を見ます。

• 事実と推測が混ざっていないか
• 数字や固有名詞は正しいか
• 顧客に約束してよい内容か
• 過度な断定表現がないか
• 自社のトーンに合っているか
• 法務・情シス・上長の確認が必要な内容を含んでいないか

AIが作った文章であっても、提出する責任は人にあります。この点は、どれだけAIが進化しても簡単には変わりません。

高リスク領域は専門部署に確認する

次の領域では、AI出力をそのまま使うべきではありません。

• 法律
• 契約
• 税務
• 労務
• セキュリティ
• 個人情報
• 医療・健康
• 金融判断
• 顧客への正式回答

これらは、AIを「論点整理」や「チェック項目の洗い出し」に使うことはできます。しかし、最終判断は専門部署や責任者が行う必要があります。

筆者は、AI活用を進める企業に対して「AIが使える領域を広げること」と同じくらい、「AIだけで判断しない領域を決めること」も重視しています。使わない線引きを持つことは、AI活用に消極的という意味ではありません。むしろ、組織として本気で使うための前提です。

事実確認のチェック

• 数字に出典、期間、単位、母数があるか
• 固有名詞は正しいか
• 日付は正しいか
• 引用元は実在するか
• 参照資料は最新版か
• AIが資料にない情報を補っていないか

表現確認のチェック

• 断定しすぎていないか
• 「必ず」「絶対」「完全に」などの表現がないか
• 顧客に約束してよい表現になっているか
• 社内のトーンに合っているか
• 読者に誤解を与えないか

リスク確認のチェック

• 個人情報や機密情報を含んでいないか
• 法務確認が必要な内容を含んでいないか
• セキュリティ上の懸念がないか
• 契約条件と矛盾していないか
• 顧客や社員に不利益を与えないか

判断確認のチェック

• AIが出した結論を、そのまま採用していないか
• 人が判断すべき部分までAIに任せていないか
• 必要な関係者に確認したか
• 「要確認」のまま残っている箇所はないか

入力してよい情報・いけない情報を分ける

まず決めるべきなのは、AIに入力してよい情報の範囲です。

たとえば、次のように分類します。

特に、個人情報や機微情報、未公開財務情報は、入力しない、または事前にマスキングするなど、慎重な運用が必要です。日本のAI事業者向けガイドラインでも、生成AIによる偽情報・誤情報などのリスクが示されており、利用者側にもリスクを認識した運用が求められます。

レビュー者を決める

AI出力を誰が確認するかも決めておきます。

たとえば、以下のような分担です。

レビュー者を決めておかないと、誰も確認しないまま外部に出てしまう可能性があります。

「誰かが見るだろう」は、運用上は誰も見ないのと同じです。責任を押し付けるためではなく、安心してAIを使うために、確認者をあらかじめ決めておく必要があります。

AI回答をそのまま転記しない

社内ルールとして、「AI回答をそのまま転記しない」と明記するのも有効です。

特に、次のような出力はそのまま使わない方が安全です。

• 顧客向け回答
• 契約書コメント
• 法務・労務に関する説明
• 数値を含む市場調査
• 役員向け資料
• 採用候補者への連絡文
• プレスリリースや広告表現

AI出力は、下書きとして受け取り、人が内容を確認し、自社の言葉に直してから使います。

筆者はこの工程を、少し料理に近いものだと考えています。AIは下ごしらえを速くしてくれる存在です。しかし、味を整え、誰に出してよい料理かを判断するのは人です。その一手間を省くと、便利さがそのままリスクに変わります。

定期的に見直す

AIの使い方は、社内で少しずつ変わります。最初に作ったルールが、半年後も最適とは限りません。

月に1回、または四半期に1回程度、次の点を見直すとよいでしょう。

• よく使われているAI活用シーン
• 誤回答が起きたケース
• 現場からの不安や質問
• 入力してよい情報の範囲
• レビュー手順
• プロンプトやテンプレート
• 研修内容

ハルシネーション対策は、一度作って終わりではありません。運用しながら改善するものです。これは、プロダクト開発や業務改善と同じです。最初から完璧な仕組みを作るより、小さく始めて、現場の使われ方を見ながら調整する方が定着しやすくなります。

誤回答を防ぎたいとき

以下の質問に回答してください。

# 重要なルール
- 分からないことは推測で補わず、「不明」または「要確認」と書いてください
- 資料内にない情報は追加しないでください
- 数字、日付、固有名詞は入力文にあるものだけ使ってください
- 事実と推測を分けてください

# 質問
{質問内容}

社内規程に基づいて答えさせたいとき

あなたは社内規程に基づいて回答するアシスタントです。

# 回答ルール
- 規程に明記されている内容だけを回答してください
- 根拠となる規程名、章、条項を示してください
- 規程に根拠がない場合は「規程上の根拠が確認できないため、担当部署に確認が必要です」と書いてください
- 一般論で補足しないでください

# 質問
{社員からの質問}

市場調査のたたき台を作りたいとき

以下のテーマについて、調査のたたき台を作ってください。

# テーマ
{調査テーマ}

# 出力してほしい内容
1. 確認すべき論点
2. 一次情報として当たるべき情報源の候補
3. 調査時に注意すべき定義
4. 数値を確認するときに必要な前提
5. まだ断定してはいけないこと

# 注意
具体的な市場規模や成長率を断定しないでください。
数値が必要な箇所は「要出典」と書いてください。

議事録要約で誤りを減らしたいとき

以下の会議メモを、社内共有用の議事録に整理してください。

# 出力形式
- 会議の目的
- 決定事項
- 未決定事項
- TODO
- 次回確認すべきこと

# 注意
- メモに書かれていない決定事項は追加しないでください
- 担当者が不明なTODOは「担当者未定」と書いてください
- 不確かな内容は「要確認」と明記してください
- 発言の意図を決めつけないでください

# 会議メモ
{会議メモ}

社外文書のレビューをしたいとき

以下の文章を、社外提出前のレビュー観点で確認してください。

# 確認観点
1. 事実と推測が混ざっていないか
2. 数字・日付・固有名詞に確認が必要な箇所はないか
3. 過度な断定表現はないか
4. 顧客に約束しているように見える表現はないか
5. 法務・情シス・上長に確認すべき箇所はないか

# 出力形式
- 問題なし
- 要修正
- 要確認
の3分類で表にしてください。

# 文章
{レビューしたい文章}