ハルシネーション

ハルシネーションというのは元々「幻覚」とか「幻影」という意味なのですが、生成AIにおけるハルシネーションとは「事実とは異なる情報を利用して回答を生成する」ことを意味します。「もっともらしい嘘（事実とは異なる内容）」というニュアンスです。

でも、このハルシネーションかは本当にやっかいで、これがもとで誤情報が広がったり、フェイクニュースなんかが出来上がったりもします。まぁ、これも生成AIの黎明期だから仕方がないという意見もありますが、はたして学習精度が上がるだけで今後これが防げるようになるかは未知数です。

なので、生成AIを使用するときには、必ずこの「ハルシネーション」が発生する可能性を念頭に置いておく必要があります。先日の記事でも述べましたが、情報の整合性を確認できる正しい知識を自分が持っている場合は生成AIを有効活用できると思われますが、それ以外の場合はあくまで参考情報程度にとどめておくのがいいと思います。

まさに「AIとしっかり向き合い」「AIとの付き合い方を模索」していかなければいけないかなと思われます。現時点では。