仕事でも情報提供に大きく役立つAIですが、まだ色々なトラブルを抱えているので、仕事での本格運用を見合わせている人が多いようです。そこでこの記事では、仕事での導入を見送っている原因の1つとして有名な、AIハルシネーションについて紹介しています。情報に惑わされないようするためのプロンプト作成のコツや対策方法も紹介しているので、この記事を読めばAIをさらに有効活用できることでしょう。

AIハルシネーションって何？

AIハルシネーションとは、AIが間違った情報を教えてしまう現象のことです。しかもAIハルシネーションの厄介なところは、本当の情報も教えてくれる中でちょっとした間違った情報を織り交ぜてくるので、嘘つきが上手な人が真実を織り交ぜるような感じになっているところです。特に学習経験が少ないジャンルに対して発生するのがAIハルシネーションで、中にはジャンルとは全く関係ない知識を使って解答に応用を効かせてくることがあります。

このことからAIハルシネーションは、人間が妄想や作り話をするのと同じくらいの感覚なのではという説もあります。また、本来AIは教えた情報以外を認識することが難しい作りになっているのですが、AIハルシネーションはあたかも自分で考えて応えを作ったような現象を作りだすことがあります。しかも、人間は知らない情報をAIに問い合わせているため、間違った情報でも気づかない場合が多々あり、AIのプレゼンテーションを行った開発者もデモンストレーションの解答に間違いがあったことに気づけなかったそうです。

学習しすぎが原因と言われる理由ついて

AIハルシネーションが発生するのは、学習しすぎが原因と言われています。例えば人間で言えば新しく覚えた言葉を使いたくなってしまったのか？と知識不足の人を揶揄うことがありますよね。AIハルシネーションはそれをAIで発生させている状況だと筆者は感じています。特に元の学習モデルが歪だと、その後に正しい情報を収集したとしても土台が間違っているため、大きく外れた情報を提示する場合があります。したがって、AIは二番目に正しいと判断した情報を提示し、それらは人間からしたら当たり前のように間違っていると判断できることから、AIハルシネーションが発生したと感じるようになってしまうわけです。

事件に発展したAIハルシネーション

過去に弁護士が必要な書類の作成をAIに依頼したことで、AIハルシネーションが発生した事例が存在します。しかも事件が発生したのが2025年1月と最近のことで、忌引割引の仕様に関する裁判でした。本来ならば弁護士がちゃんと質問に応えることで勝てた裁判でしたが、この裁判で被告の航空会社エア・カナダは、生成AIに忌引割引に関する仕様を応えさせてしまったため、内容がめちゃくちゃだとして敗訴しています。しかもその情報を信じて航空会社を利用した人がいるため、被害が広まってしまい裁判では航空会社に対して、裁判費用の負担と損害賠償の支払いを命じています。

対策とプロンプト作成のコツ

AIハルシネーションの一番確実な対策方法は、自分で情報元を確認することです。例えばAIのプロンプトにその情報はどこから持ってきたものなのかを確認してほしいと依頼すれば、検索したサイトを教えてもらえます。さらに、情報を掲載している場所をアドレス付きで見せてほしいとプロンプトに入力すれば、公式に発表している事実が無い情報は一度断りを入れるか、該当の情報を聴くかどうかの判断をユーザー側に委ねてくれます。そして一番重要なのが、情報検索の条件を具体的に決めてプロンプトの意図をAI側に過大解釈させないことです。例えばAIに情報検索を依頼すると、関連した情報を検索しますが、何々の情報は除外してと予めプロンプトで指示しておけば、必要以上に解釈されることもありません。

それでも間違った解答をするときは

AIハルシネーションは、一度学習させれば発生を防げるわけではなく、AIに対して定期的な再学習が必要だと言われています。例えばAIにとある解答の間違いを指摘したあとに、再び同じ質問を行うと修整したはずの解答結果を忘れて再び間違った解答をすることがあります。この様に人間の子供と同じ感覚で物事を学習している傾向が強く現れています。ちなみに筆者もプログラムの学習をAIに頼ったことがありますが、セキュリティ対策などのコードを挿入したのに、修整するためにAIに預けると再び間違った解答をしてくる場合があります。その度に指摘して修正させていますが、しばらくすると正しい解答を提示してくれるようになるので、AIハルシネーションは決して無駄な行為ではありません。ただしAIハルシネーションを防ぐためには時間が掛かる行為であるので、専門のエンジニアが必要という事実は変わらないと思います。

使い分け対策法について

現在開発されているAIを利用するときは、AIに合わせてそれぞれ的確な回答を得られるコツのようなものが存在しています。例えばChatGPTでは、画像ファイルをアップロードできる利点を活かして、画像の情報だけで応えられる内容を提示してほしいと言えば、画像を閲覧した上で回答してもらえるので、ややこしい答えになる心配がありません。一方GoogleのGeminiは、検索エンジンと答えがリンクしているので、Googleの検索結果に紐づけた回答を得意としています。比較的長文の解答もできることが強みですが、長文なら資料も判別できるClaudeを使う方法がおすすめです。この様に用途に合わせて利用するAIを使い分ければそれぞれの得意分野で有効な解答を得られるというメリットがあります。また、間違っている情報を提示したAIに対して少し強めに違うと断言することで、すぐにAIハルシネーションを解決してもらえる場合もあるので、そういった細かい特徴を理解していくことがAIハルシネーションの防ぐ切っ掛けになると私は考えています。

まとめ

AIハルシネーションとは、AIが間違った情報を提示しているのに、それをあたかも間違っていない情報として扱うことです。原因は偏った情報収集方法をAIがしているからで、一度直してもモデルになった情報が間違っていると、永遠に違う解答を応えてくるので、専門的なエンジニアが必要とされています。同時に、AIに対して正しい答え方を導いていくことで、徐々に学習し精確な答えができるようになるので、皆さんもぜひAI生成系の学習に付き合っていただきますようお願いします。