ハルシネーションはなぜ起きる？生成AIが「それらしい誤り」を出す仕組みと知財実務での防ぎ方【いまさら聞けないシリーズ】
- ハルシネーションとは、生成AIが事実と異なる内容を、もっともらしく出力することです
- 原因の一つは、AIが「次に来そうな言葉」を予測して文章を作る仕組みそのものにあります
- 「分からない」と言うより、推測で答えたほうが評価されやすいことも一因とされます
- 知財実務では、条文番号、公報番号、日付、判決などの「固有の事実」が特に危ないです
- 防ぎ方の基本は、根拠を出させて、一次情報で必ず確かめることです
はじめに：ハルシネーションとは？
「幻覚」という意味の言葉
ハルシネーション（hallucination）は、もともと「幻覚」という意味の言葉です。生成AIの分野では、AIが事実と異なる内容を、いかにも正しそうに出力することを指します。
存在しない論文や判決を挙げる、条文番号を取り違える、といった例がよく知られています。
弁理士会のガイドラインも注意を促している
日本弁理士会の「弁理士業務AI利活用ガイドライン」も、一見正しく見えても誤りが含まれる場合があるものとして、ハルシネーションに注意を促しています。
この記事では、なぜ起きるのかを、できるだけ平易に説明します。
出典：日本弁理士会「弁理士業務AI利活用ガイドライン」（令和7年4月）
なぜ起きる？①次の言葉を予測する仕組み
AIは「事実」を調べて答えているわけではない
いま広く使われている生成AIは、大量の文章を学習し、「この続きに来そうな言葉」を予測しながら文章を作ります。
質問のたびにデータベースを調べて、正解を取り出しているわけではありません。文章として自然であることと、内容が正しいことは別の話です。
パターンのない「固有の事実」は苦手
OpenAIが2025年9月に公表した研究は、この点を分かりやすく説明しています。スペルやかっこの対応のように一貫したパターンがあるものは、学習が進むほど誤りが減ります。
一方、ペットの誕生日のように、パターンから推測できない出現頻度の低い事実は、予測だけでは当てられません。研究は、これがハルシネーションにつながるとしています。
出典：OpenAI「Why language models hallucinate」（2025年9月5日）
なぜ起きる？②「分からない」と言いにくい理由
推測で答えたほうが点が取れる
同じ研究は、もう一つの理由として「評価の仕方」を挙げています。正答率だけで採点するテストでは、「分かりません」と答えると0点です。当てずっぽうでも、答えれば当たる可能性があります。
そのため、AIは分からないときでも推測で答えるよう学習されやすい、という指摘です。選択式の試験で、空欄にせず何かを書いたほうが得をするのと同じ構図です。
「控える」ほど誤りは減る
研究では、同社の2つのモデルを比べた例が紹介されています。答えを控える割合が52％のモデルは誤答率が26％、控える割合が1％のモデルは誤答率が75％でした。正答率はどちらも2割台で、大きな差はありません。
「何でも答えるAI」ほど、誤りも多く含むということです。
出典：OpenAI「Why language models hallucinate」（2025年9月5日）
知財実務で起きやすいハルシネーションは？
番号と日付は特に危ない
知財実務には、パターンから推測できない「固有の事実」がたくさんあります。たとえば次のようなものです。
- 条文番号や項・号の番号
- 特許の公開番号・登録番号、出願日
- 判決の事件番号や結論
- 審査基準の章・節の番号
どれも、それらしい番号を作るのは簡単です。しかし、正しいかどうかは一次情報を見ないと分かりません。
「それらしい専門用語」にも注意
技術用語でも、実在しない複合語や、別分野の用語が混ざることがあります。文章が流ちょうなほど、誤りに気づきにくくなります。
どう防ぐ？今日からできる対策
根拠を出させる
回答と一緒に、根拠となる条文や資料を挙げるよう指示します。根拠を示せない回答は、その時点で疑ってかかれます。
ただし、挙げられた根拠そのものが架空のこともあります。根拠を出させるのは、確認の手がかりを得るためです。
「分からなければ分からないと答えて」と指示する
確信がない部分は「不明」と書くよう、プロンプトで明示します。推測と事実を分けて書かせるのも有効です。
一次情報で必ず確かめる
最終的には、一次情報との照合が欠かせません。
| 確認するもの | 見る場所 |
|---|---|
| 条文 | e-Gov法令検索 |
| 公報 | J-PlatPat |
| 審査基準 | 特許庁「特許・実用新案審査基準」 |
信頼できる資料を渡して、その範囲で答えさせる
調べてほしい資料をAIに渡し、その中だけを根拠に答えさせる方法もあります。総務省・経済産業省の「AI事業者ガイドライン」も、検索拡張生成（RAG）の活用などでハルシネーションの抑制が期待されるとしています。
ただし、抑制であってゼロにはなりません。渡した資料の読み違いも起こります。
出典：総務省・経済産業省「AI事業者ガイドライン（第1.1版）」（令和7年3月28日）
弁理士として押さえたい注意点
確認の責任は人にある
日本弁理士会のガイドラインは、生成された情報の真偽の確認は必ず弁理士が行う必要があるとしています。AIが間違えたとしても、それを使った書類の責任は弁理士にあります。ガイドラインの要点はこちらの記事で整理しています。
出典：日本弁理士会「弁理士業務AI利活用ガイドライン」（令和7年4月）
実務家の視点：確認は「影響の大きいところ」から
ここからは実務家としての見方です。AIの出力は、すべてを同じ重さで確認する必要はありません。誤ったときの影響が大きいところから確認するのが現実的です。
実務上の注意：特に期限や手続に関わる日付は、AIの出力をそのまま使わず、必ず原資料から転記してください。
- 最優先：番号・日付・期限・条文（1文字違うだけで結論が変わる）
- 次に：引用した先行文献の記載内容（本当にそう書いてあるか）
- その次：文章の言い回しや構成（誤っても影響が小さく、直しやすい）
まとめ
- ハルシネーションは、生成AIが事実と異なる内容をもっともらしく出力することです
- 次の言葉を予測する仕組みと、推測で答えたほうが評価されやすいことが原因とされます
- 知財実務では、番号・日付・判決などの固有の事実が特に危ないです
- 根拠を出させ、分からないと言わせ、一次情報で確かめるのが基本の対策です
ルビコンのDiscordでは、実務で出会ったハルシネーションの実例と、その見抜き方を実務家どうしで共有しています。
参考
- OpenAI「Why language models hallucinate」（2025年9月5日）
- 日本弁理士会「弁理士業務AI利活用ガイドライン」（令和7年4月）
- 総務省・経済産業省「AI事業者ガイドライン（第1.1版）」（令和7年3月28日）
- e-Gov法令検索
- J-PlatPat
ルビコン 知財実務 × 生成AI 共創コミュニティ ルビコンに参加しませんか（参加無料）
ルビコンは、特許事務所の弁理士・特許技術者・事務スタッフや、企業の知財部員など、知財実務に携わる人のための生成AIコミュニティです。Discordを拠点に、次のような活動をしています。
- 毎週「今週のプロンプト」を公開し、プロンプト全文と検証結果を共有
- 知財実務に関わる生成AIの最新ニュースを共有
- 実務での使い方や困りごとを、実務家どうしで気軽に相談
参加は無料です。参加方法は「参加案内」ページをご覧ください。