ハルシネーションとは？
生成AIの誤情報リスクとその回避術

そもそもハルシネーションとは、生成AIの仕様に組み込まれている癖のようなものです。もっともらしい嘘をつくため人間が見抜きにくく、それっぽい表現で誤情報をまぎれ込ませます。

ハルシネーションが起こるのは、生成AIの収集データに誤情報がまぎれていたり、生成AIへのプロンプト (指示文) が曖昧であることが多くの原因です。ChatGPTや「Microsoft Copilot」をはじめとするAIツール共通の課題であることも、認識しておく必要があります。

ハルシネーションによる誤情報リスクを抑えるうえで、効果的な3つの回避術を紹介します。

プロンプト内に、「事実ベースで」「一次情報を優先して」などの条件付けをすると誤情報削減に有効です。また、「○年以降、内閣府の調査結果から」など、対象データ自体を信頼できるものに限定しておく方法もあります。プロンプトにあらかじめ工夫をしておけば、作業効率の大幅な向上が期待できるでしょう。

生成AIからの情報を活用する場合は、「この内容の根拠は？」と問い直すクセをつけることが大切です。また、出典付きで回答を求めるプロンプトを入力しておけば、情報の精度を担保することができます。 生成AIからの情報に「〜のようです」「とされています」など曖昧な言い回しがある場合は、誤情報の可能性が高いことを理解しておきましょう。

生成AIに任せきりにせず、「編集」「監修」の工程を組み込むことも有効な手段です。複数人でのチェックやファクトチェックツールを活用すれば、簡単に効率よく誤情報を防ぐことができます。