ハルシネーションとは？

さらに詳しい内容をご覧になりたい方は下記も併せてお読みください。

ハルシネーション（hallucination）とは、生成AIが、事実とは異なる内容を、もっともらしい形で生成してしまう現象のことです。日本語では「幻覚」と訳されることもあります。AIが、実際には存在しない情報や誤った内容を、自信があるかのような自然な文章で出力してしまう状態を指します。AIは質問に対してそれらしい回答を作ることが得意な一方で、その内容が事実かどうかを常に保証できるわけではないため、ハルシネーションは生成AIを利用するうえで知っておきたい性質の一つです。

ハルシネーションとは何か、もう少し詳しく

生成AIは、大量の文章を学習し、「次に来る可能性が高い言葉」を予測しながら文章を組み立てる仕組みで動いています。事実を一つひとつ確認しながら答えているわけではないため、文章としては自然でも、内容が事実と異なることがあります。

たとえば、存在しない出来事をあったかのように説明したり、実在する人物や会社について誤った情報を述べたりすることがあります。こうした誤りが、一見すると正しそうな文章で出力される点が、ハルシネーションの特徴であり、注意が必要な理由でもあります。

なぜハルシネーションが起こるのか

ハルシネーションが起こる背景には、いくつかの要因があると考えられています。主なものとして、次のような点が挙げられます。

• 推測による補完：十分な情報がない場合や、文脈があいまいな場合に、もっともらしい内容を補って回答してしまうことがある
• 学習データの範囲：学習した範囲にない内容や、学習した時点以降の新しい情報には対応しきれないことがある
• 質問の伝わり方：質問の意図が正確に伝わらないと、誤った前提で回答してしまうことがある

ハルシネーションを抑える工夫

こうした課題を軽減する方法の一つとして、回答を生成する前に外部の情報を検索して取り込むRAG（検索拡張生成）という仕組みが使われることがあります。外部の信頼できる情報を参照することで、事実に基づいた回答をしやすくする狙いがあります。利用する側としても、重要な情報はAIの回答をうのみにせず、出典や一次情報で確認することが、誤った情報を避けるうえで役立ちます。

ENVY DESIGNの視点と観察

ENVY DESIGNでは、ChatGPTやPerplexityなどのAIが、自社や事業について回答する様子を継続的に観察しています。その観察のなかで感じているのは、AIが事実と異なる説明をすることもあるということです。事業内容が実際とは違う形で説明される、といったケースを見かけることもあります。

こうした状況から考えているのは、AIに正しく理解してもらうためには、正確で一貫した情報を、自分たちで継続的に発信しておくことが大切だということです。AIが参照しやすい形で正確な情報を整えておくことが、誤った認識を減らすことにつながるのではないかと考え、地道に情報発信を続けています。

よくある誤解と関連用語

ハルシネーションについて、「AIが嘘をついている」と捉えられることがあります。実際には、AIは意図的に誤った情報を出しているわけではなく、仕組み上、事実と異なる内容を生成してしまうことがあるという性質です。そのため、AIの回答をそのまま信じるのではなく、重要な情報は出典や一次情報で確認することが大切だと考えられます。

ハルシネーションを軽減する仕組みについてはRAGとは？、AIに会社を正しく認識してもらう考え方についてはエンティティとは？AI検索に「あなたの会社」を覚えてもらう5つの方法もご参照ください。AI検索最適化（AIO・GEO）の進め方やサービス内容についてはAIO・GEO対策（AI検索最適化）のページもご覧ください。AI検索への対応についてのご相談は、お問い合わせフォームからお気軽にどうぞ。