ハルシネーションとは。生成AIのもっともらしい誤りとの付き合い方

ハルシネーションとは、生成AIが事実と異なる内容を、正しいことのように答えてしまう現象です。生成AIを仕事で使うときは、誤りが混ざることを前提に、どこを確かめるかを決めておくことが、上手な付き合い方になります。

この記事では、ハルシネーションがなぜ起きるのか、どんな場面で起きやすいのか、どう確かめ、どう減らすのかを順に説明します。用語の短い説明は、用語集のハルシネーションにもまとめています。

ハルシネーションとは

ハルシネーションは、英語で「幻覚」を意味する言葉です。生成AIが、存在しない資料や本の題名、実際とは違う数字や日付、架空の人の名前などを、自然な文章の中に混ぜて答えることを指します。

困るのは、誤った部分も正しい部分と同じ調子で書かれることです。文章が整っているほど、読む人は誤りに気づきにくくなります。

なぜ起きるのですか

生成AIの土台であるLLM（大規模言語モデル）は、大量の文章から言葉のつながり方を学び、「この次に来そうな言葉」を予測して文章を作ります。事実を調べて答えているのではなく、もっともらしい文章を組み立てているため、知らないことでも、それらしい答えを作ってしまうことがあります。

OpenAI などの研究者は、2025年9月に公開した論文で、学習や評価の仕組みが、分からないときに「分からない」と答えるより、推測して答えるほうを有利にしていることが一因だと述べています。論文では、正解だけに点が付く試験で、分からない問題も当て推量で答えたほうが点が取りやすい、という例えで説明しています。

出典：Why Language Models Hallucinate（Kalai ほか。OpenAI・Georgia Tech、arXiv、2025年9月）

AIが予測は得意でも、背後の理由まで分かっているとは限らない点は、いまのAIが得意なこと・苦手なことでも取り上げています。

どんな場面で起きやすいですか

答えのもとになる情報が少ないことや、細かな正確さが求められることを聞いたときに、起きやすくなります。

• 数字、日付、金額、人や会社の名前、製品の名前
• 出典、URL、法令の条文の番号、論文の題名
• AIが学んだ時点より後の、新しい出来事
• 社内のルールや取引先のことなど、AIが学んでいない情報
• 質問の中に、誤った前提が含まれているとき

たとえば、「〇〇についての調査の数字を、出典つきで教えて」と頼むと、実在しない調査の名前と数字が返ってくることがあります。出典が付いているから正しい、とは限りません。

どう確かめればよいですか

数字や固有名詞は元の資料で確かめ、AIが示した出典は、実在していて内容が合っているかまで確かめます。そのうえで、誤りが出たときの影響の大きさに応じて、確かめ方の丁寧さを変えます。

• 社内で使う下書きやアイデア出し：使う人が読み、気になる点を確かめる
• 社外に出す文書：数字、固有名詞、出典を元の資料で確かめる
• 契約・法務・お客様への回答など影響の大きいもの：担当者が確かめてから外に出し、AIの答えをそのまま使わない

「本当に正しいですか」とAIに聞き返すだけでは、確かめたことになりません。AIが同じ誤りをくり返したり、正しかった答えを誤りに直したりすることもあるためです。確かめるのは、元の資料や公式のページです。

誤りを減らす工夫はありますか

根拠となる資料を渡し、その範囲で答えさせ、根拠の箇所を示させることで、誤りを減らせます。

• 根拠の資料を渡す：社内の文書を検索して、見つけた箇所をもとに答えさせる仕組みをRAG（検索拡張生成）と呼びます
• 答える範囲を決める：「渡した資料に書かれていないことは、分からないと答えてください」と指示する
• 根拠を示させる：答えのもとにした資料の名前と箇所を示させると、人が原文で確かめやすくなる
• 答えの形を決める：項目や書式を決めておくと、確かめる箇所が分かりやすくなる

指示の書き方は生成AIへの指示（プロンプト）の書き方の原則、RAGの精度を上げる工夫はRAGの精度を上げるにはで詳しく説明しています。AIが答えてよい範囲を仕組みで制限するガードレールという考え方もあります。

ハルシネーションは、なくせますか

工夫で減らすことはできますが、なくすのは難しいと考えておくのが安全です。もっともらしい言葉の続きを作るという、生成AIの仕組みから起きるためです。

そのため、仕事で使うときは「誤りが混ざることがある」と分かったうえで、使う場面と確かめる手順を決めておきます。下書きや要約、アイデア出しのように、人が読んで直すことが前提の仕事は、生成AIの力を活かしやすい使い方です。社内の利用ルールに、確かめる手順を書いておく方法は、社内の生成AIの利用ルールの作り方で紹介しています。

当社のご支援

当社は、社内の文書にもとづいて答える仕組みの開発や、AIの答えを人が確かめる手順を含めた業務の設計をお手伝いしています。業務に合わせた開発はソリューション提供、いまのシステムにつないで精度を見ながら直していく段階はAIインテグレーションをご覧ください。生成AIの使い方を少しずつ相談したい場合は、月20時間から使えるAIタイムシェアもあります。