ハルシネーション対策に有効な設定やプロンプトの書き方

ハルシネーション対策に有効な設定やプロンプトの書き方について詳しく解説します。

ハルシネーションとは

ハルシネーション（Hallucination）とは、AI（人工知能）が事実とは異なる情報や、文脈として全く無関係な架空の情報を、あたかも正しい事実であるかのように自信満々に出力してしまう現象です。

Geminiを含むAIモデルは常に学習し改善を続けていますが、時折事実と異なる内容（ハルシネーション）を出力して間違えてしまうことがあります。

そのため、ハルシネーションを極力防ぎ、より正確で信頼できる回答を引き出すことがAIを使うこなすうえで大切になります。
今回は実践的なテクニックを5つ紹介します。

AIは「質問には何かしら答えなければならない」と判断して、知識の隙間を無理に埋めようとすることがあります。これを防ぐために、推測を禁止するルールを設けます。

■プロンプトの例
確実な情報がわからない場合は、推測で答えずに『わかりません』と答えてください。

AIが過去に学習したデータのみに頼らせるのではなく、ユーザー側で正しいテキストや資料を提供し、その範囲内だけで答えさせます。

■プロンプトの例
以下の【参考資料】の内容のみに基づいて質問に答えてください。資料にない情報は含めないでください。

回答の裏付けを求めることで、AIが適当なことを言い出しにくくなり、後から自分で事実確認（ファクトチェック）をする際の手間も省けます。

■プロンプトの例
回答と一緒に、その根拠となる具体的なデータ、情報源、または参考URLを提示してください。

複雑な質問に対して一発で結論を出させようとすると、論理が飛躍して間違う確率が高まります。「段階的に考える」よう指示することで、AIの推論精度が向上します。

■プロンプトの例
この問題について、ステップバイステップで段階的に考えてから結論を出してください。

質問が曖昧で短すぎると、AIが独自の解釈で背景を補完してしまい、意図しない回答（ハルシネーション）に繋がります。前提条件をしっかり伝えてください。

■プロンプトの例
あなたは〇〇の専門家です。現在〇〇という課題があります。前提として〇〇の条件を踏まえ、3つのポイントに絞って具体的に回答してください。

医療、法律、財務に関する情報など、重要な意思決定に関わる事柄については、AIの回答を鵜呑みにせず、最終的に必ず公式な一次情報（政府機関や専門機関のサイトなど）でご自身で事実確認を行うことが重要です。