かんたんに言うと
AIが事実でないことを、もっともらしい口調で答えてしまう現象です。日本語では「幻覚」と訳されます。
もう一歩くわしく
AIは「次に来る自然な言葉」を選んでいるため、知識がない部分も自信ありげに埋めてしまうことがあります。存在しない論文や判例、実在しないURLを作り出す例が典型です。検索結果を参照させる（RAG）、出典の明示を求める、重要な事実は人間が確認するといった対策が実務では必須になります。
関連する用語
この用語が出てきたニュース