AIが平気で嘘をつく理由と、嘘を見抜く3つの方法

この記事には広告（アフィリエイトリンク）を含みます。リンク経由で購入・申込みがあった場合、当店に紹介料が入ることがあります。紹介料の有無で評価は変えていません。

AIを仕事で使うなら、これだけは先に知っておいてください。

AIは、知らないことを聞かれたとき、それらしい嘘を作ります。

しかも、その嘘は文章としては完璧です。堂々としていて、もっともらしくて、疑う気が起きません。これが一番やっかいなところです。

なぜ嘘をつくのか

AIは、「正しい答え」を探しているのではなく、「それっぽく続く言葉」を並べているからです。

膨大な文章を読み込んで、「この質問のあとには、こういう文章が続くことが多い」というパターンを学んでいます。だから、答えを知らなくても、答えの形をしたものは作れてしまう。

人間で言えば、よく知らない話題について、知ったかぶりで自信満々に喋っている状態です。悪気はありません。仕組み上そうなります。

この現象は「ハルシネーション（幻覚）」と呼ばれています。新しいAIになるほど減ってはいますが、ゼロにはなりません。

経験上、この4つは高確率で間違えます。

金額、割合、日付、統計。AIは計算が苦手で、しかも間違えたことに気づきません。 「1,500円の3割は500円です」のような誤りを、真顔で出してきます。

税金、保険、補助金、資格の要件。制度は改定されますが、AIの知識は特定の時点で止まっています。古いルールを現行のものとして答えてきます。

「この根拠はどこですか？」と聞くと、存在しない本や論文の名前を作ります。著者名も出版社もそれらしく作るので、本当に厄介です。

人名、会社名、商品名。似た名前を混同したり、実在しない製品名を作ったりします。

完全に防ぐ方法はありません。現実的にできるのはこの3つです。

「それはどこに書いてありますか？URLも教えてください」と聞きます。

ここで重要なのは、返ってきたURLを実際にクリックして開くことです。開かずに安心すると意味がありません。存在しないページだったり、開いても全然関係ないことが書いてあったりします。

開いて、中身を読んで、書いてある。ここまでやって初めて確認したことになります。

新しい画面（新しいチャット）を開いて、まったく同じ質問をもう一度します。

本当に知っていることなら、2回とも同じ答えになります。 作り話なら、2回目は違う話が出てきます。数字や固有名詞が変わっていたら、それは作られたものです。

慣れてきたら、ChatGPTとClaudeなど別々のAIに同じ質問を投げるとさらに精度が上がります。

質問の最後にこう付け加えます。

「分からない場合は、推測せずに『分かりません』と答えてください」

これだけで、無理やり答えを作る頻度がはっきり下がります。一言足すだけなので、やらない理由がありません。

正直に言うと、上の3つより効く対策があります。

間違っていても困らない仕事にしか使わないこと。

メールの下書き、資料の整理、アイデア出し。これらは間違っていても読めば分かるし、直せます。一方、金額の計算や制度の判断は、間違いに気づけないまま外に出ていきます。

AIを疑いながら使うのは面倒に思えますが、慣れると数秒で済みます。疑わずに使って一度痛い目を見るより、はるかに安上がりです。