AIの活用が一般的になったことで、よく耳にするようになった言葉があります。「ハルシネーション」という言葉です。

＊ハルシネーションの正体

　これは、AIがまるで本物のような「嘘」の情報を生成してしまう現象のことです。実際にAIを使ったことがある人ならば、一度は「それっぽく書いてあるけど、内容が間違っているじゃないか」と戸惑った経験があるかもしれません。

　このハルシネーションという現象がなぜ起きるのか。それは、AIの仕組みに関係しています。AIはインターネット上に存在する情報を大量に学習し、それらをベースに「もっともらしい」答えを確率的に組み立てている存在です。

　つまり、明確な正解が存在しにくい領域やインターネット上にあまり情報が存在していないテーマについては、AIは無理にでも答えを出そうとしてしまい、結果的に「それっぽいけど実在しない情報」を返してしまうわけです。これがハルシネーションの正体です。

　たとえば、長い複雑な計算式をAIに解かせようとします。しかし、その正解がネット上に繰り返し登場していない限り、AIは確率的に「それっぽい数字」を出してしまうのです。これはAIが「空欄を埋めようとする」性質を持つ以上、ある意味、仕方がない動作ともいえます。

＊AIを「Google検索」だと思っていないか

　しかし、そもそもハルシネーションという言葉が話題になっていること自体、AIの使い方を多くの人が誤解している証拠ではないかと思うのです。

　人は新しいテクノロジーに出会うと、無意識に「既存の何かの延長線上」もしくは「既存の何かの置き換え」として捉えようとします。たとえば、ネットショップが登場したとき、多くの人は「実店舗をインターネット上に置き換えただけ」だと思っていました。実店舗と同様に、店舗を構え商品を並べていれば、どこからかお客様がやってきて売れていくと。そこには、インターネットでは「集客」という施策が別枠として必須になるという概念が抜けていたのです。

　ソーシャルメディアもそうです。SNSを「メルマガの替わり」だと思って、一方的な情報発信に使ってしまう人や企業が今でも多くいます。しかし、SNSの本質は双方向性であり、フォロワーとの相互のやりとりがあってこそ、その情報発信に意味が生まれるのです。SNSは一方通行のメディアではないのです。

　そして、AIもまた同じ誤解を受けているように思えます。AIを使う多くの人が、AIを「Google検索の延長」と捉えてしまっているのではないでしょうか。だからこそ、インターネット検索のような「正しい答え」もしくは「存在する情報」を出してくれるツールとして期待してしまい、その期待を裏切られたときに「これはハルシネーションだ！」と混乱してしまうのです。

＊人間は「聞く」のではなく「教える」

　しかし、以前のコラムでもお伝えしたとおり、AIの本質的な活用は「思考と表現の分離」にあります。人間が自分の頭の中にある情報や考え方、知識や知恵をAIに伝え、それをAIが整理してくれる。AIは人間にとっての「表現のサポーター」です。

　AIの活用をそう捉えるならば、ハルシネーションというものはそもそも起こり得ないことになります。なぜならば、AIから出力される内容はほとんどが「人間（自分）の頭の中にある情報」だからです。自分の思考をAIに伝え、その表現をAIに整えてもらう。つまり、人間がAIに「聞く」ではなく「教える」という姿勢が、AI活用の出発点なのです。

　そしてそのためには、自分自身が経験し、学び、知識を深める必要があります。そこで得た知恵をAIに渡すことで、AIはより正確に効果的に表現の支援をしてくれます。逆に、AIに何も教えずに「答えだけを求める」スタンスで接すれば、当然、ハルシネーションが起こるのは仕方ないことです。

　もし今後、皆さんの周りの誰かが「AIってハルシネーションが多くて使えないよね」と言っていたら、それは単にAIの活用方法を誤解しているだけかもしれません。AIをインターネット検索の代替として見るのではなく、自分の「思考の共同編集者」として見ることが、有効な使い方ではないでしょうか。

カテゴリー： 0.ECMJコラムALL,　2.Eコマースを続ける,　4.Eコマースの人財育成