「生成AIに聞いたら、すらすら答えてくれた。でも、これって本当に合っているの?」
生成AIの答えは、文章として自然で、自信があるように見えます。そのまま資料やメールに使いたくなる場面も多いのではないでしょうか。ところが生成AIは、事実と違う内容を、いかにも正しそうに答えてしまうことがあります。この現象は「ハルシネーション」と呼ばれています。
先に要点を言うと、ハルシネーションは、今の技術では完全には防げません。防ぎきれない以上、大切になるのは、使う側の確かめ方です。この記事では、ハルシネーションの意味と、なぜ起きるのかを整理したうえで、答えを使う前に確かめる手順と、仕事での使い分けを紹介します。
読み終えると、ハルシネーションとは何かを一言で説明でき、生成AIの答えのどこを、どう確かめればよいか、仕事のどんな場面で使いやすいかが分かります。生成AIが文章を作る仕組みから知りたい方は、生成AIとは?ChatGPTなどの仕組みを初心者向けに解説から読むのもおすすめです。
ハルシネーションとは?
一言で言うと
ハルシネーション(幻覚)は、生成AIが事実に基づかない誤った情報を、いかにも正しそうに作ってしまうことです(総務省 情報通信白書(令和6年版))。
「幻覚」という訳語から、AIが何かを見間違えている様子を想像するかもしれません。ここでいう幻覚は、整った文章ができあがったのに、中身が事実と食い違っている状態を指します。
今の技術では、完全には防げない
モデル(学習によって作られた、答えを出すもとになる仕組み)の性質上、誤った出力(ハルシネーション)を完全に防ぐことは極めて難しいとされています(文部科学省 生成AIガイドライン(Ver.2.0))。
では、なぜ防ぎきれないのでしょうか。次の節で、文章を作る仕組みから見ていきます。
なぜ、正しそうに見える誤りが起きるの?
「その場に来そうな言葉」をつないでいる
文章を作る生成AIは、それまでの文章の流れから、次に来る言葉の確率を見積もり、言葉を一つずつつないで文章を組み立てています。仕組みの詳細は、生成AIとは?ChatGPTなどの仕組みを初心者向けに解説で、身近な例を使って紹介しています。
この仕組みで選ばれるのは、「その場に来そうな言葉」です。そう考えると、文章として自然であることと、中身が事実として正しいことは、別の話だと分かります。自然な文章のまま誤りが混ざる余地があるのは、このためです。答えを知らないことを聞かれたときも、ありそうな言葉をつないで文章を作れてしまうため、「分かりません」の代わりに、正しそうに見える答えが返ってくることがある、と考えるとイメージしやすくなると思います。
たとえば、「生成AIについて学べる初心者向けの本を3冊教えて」と頼んだとします。題名も著者名も本物のように見えるのに、実際には存在しない本が混ざっている、ということが起こりえます。人の名前、数字、日付、本や資料の題名、出典のように、正しいか間違っているかがはっきり決まる情報ほど、誤っていたときの影響が大きくなります。
流暢な文章ほど、正しく見えてしまう
誤りに気づきにくいのは、AIの側だけの問題ではありません。人の側にも、「流暢な出力を見ると正しいと感じてしまう流暢性バイアス」があります(文部科学省 生成AIガイドライン(Ver.2.0))。流暢性バイアスとは、すらすら読める文章ほど、中身も正しいと感じやすくなる傾向のことです。
言葉づかいが丁寧で、話の筋が通っているほど、内容まで正しいように感じてしまう。ハルシネーションに気づくには、この感覚をいったん脇に置くことが大切です。
答えを使う前に、どう確かめる?
生成AIを使うときは、ハルシネーションが起こる可能性を念頭に置き、検索を併用するなどして、答えが正しいかどうかを確認することが望ましいです(総務省 情報通信白書(令和6年版))。
具体的には、次の4つの手順で考えると進めやすくなります。資料の内容をもとに、手順の形にまとめ直したものです。
1. 「参考の一つ」として受け取る
生成AIの出力は、あくまで参考の一つで、最適解とは限らないものとして扱います。答えは「完成品」ではなく、「下書き」や「たたき台」として受け取ると、確かめる意識を持ちやすくなります。
2. 確かめる部分に、目星をつける
答えの中から人の名前、数字、日付、題名、出典など、正しいか間違っているかがはっきり決まる部分を拾い出します。全文を同じように疑うより、間違っていたときに困る部分から確かめるほうが手間を抑えられます。
3. 別の情報源で確かめる
拾い出した部分は、公式サイトや公的機関の資料など、別の情報源で確かめます。確かめるときは、情報の発信者、発信された時期、内容、他の情報との比較など、複数の方法を組み合わせます。検索エンジンの検索結果にも、生成AIが出力したものが含まれる可能性があるため、注意が必要です(文部科学省 生成AIガイドライン(Ver.2.0))。インターネット上には、生成AIで作られた文章も公開されています。検索で見つけた情報も、誰が発信したものかを確かめ、発信元がはっきりした情報を優先すると安心です。
4. 最後は、自分で判断する
確かめた結果を踏まえて、使うかどうかを決めるのは人です。最後は人間が判断し、作成したものに自ら責任を持つ姿勢が重要です。
誤りを減らす技術もある?
誤りを減らすための工夫も進んでいます。その一つが「検索拡張生成」です。英語の Retrieval Augmented Generation(検索で情報を補って、答えを作ること)の頭文字をとって、「RAG」とも呼ばれます。AIが答えを作るときに、関係する資料を自分で検索し、その内容を手がかりにして答えを作る技術です。「その場に来そうな言葉」だけに頼らず、資料をよりどころにするという考え方です。RAGは、誤った回答を抑制する技術の例の一つです(文部科学省 生成AIガイドライン(Ver.2.0))。
ただし、RAGのような技術があっても、ハルシネーションを完全になくせるわけではありません。技術が進んでも、確かめる手順は手放さないほうが安心です。
仕事で使うときは、どう考える?
ここまでの内容を仕事に当てはめると、「何に使うか」によって、確かめる手間が大きく変わります。
間違っていても直せる作業は、使いやすい
メールや資料の下書き、文章の言い換え、アイデア出し、長い文章の要点整理などです。共通点は、出てきた答えを自分の目で見て、すぐに良し悪しを判断でき、間違いがあれば直せることです。答えを「たたき台」として受け取る使い方と、相性がよい場面です。
確かめる手間が大きい作業は、使い方に注意が必要
数字、固有名詞、日付、制度や規約の内容、お客様や社外に出す文書などです。誤りがそのまま相手に伝わりやすく、確かめるには別の資料を調べる必要があります。確かめる手間が大きいなら、最初から公式の資料を調べるほうが早い場合もあります。生成AIに調べる場所の候補を挙げてもらい、実際の確認は公式の資料で行う、という使い方もあります。ただし、挙げられた資料名やURLも、実在するかを確かめます。
資料やメールを出す前の、3つの確認
- 数字、固有名詞、日付は、公式の資料と照らし合わせたか
- AIが挙げた資料名や出典は、実際に存在するか(先ほどの「存在しない本」と同じことが起こりえます)
- 自分の名前で出して問題ない内容か(最後に判断し、責任を持つのは人です)
まとめ|ハルシネーションの基本
- ハルシネーションは、生成AIが事実に基づかない誤った情報を、いかにも正しそうに作ってしまうこと
- 今の技術では、完全に防ぐことは極めて難しい
- 言葉の確率をもとに文章を組み立てるため、自然な文章であることと、正しいことは別
- 人の名前、数字、日付、出典など、大事な部分は別の情報源で確かめる
- RAGのように誤りを減らす技術もあるが、最後に判断するのは人
- 仕事では、下書きなど直せる作業に向き、数字や固有名詞は確かめてから出す
生成AIの答えが「正しそうだ」と感じたときこそ、どこを確かめるかを考える合図です。確かめる手順を決めておけば、生成AIは、下書きや整理の作業を任せやすい手伝い役になります。
AIそのものの基本から振り返りたいときは、AI(人工知能)とは?意味・身近な例・生成AIとの違いを初心者向けに解説をあわせてご覧ください。


コメント