生成AIは平気でウソをつく?正しい情報70%で騙される

生成AIのGeminiジェミニは、ChatGPTに比べると「媚びる」というのが個人的な印象です。

そして、Geminiによる不正確な応答(ハルシネーション)を2度経験しました。まるで、平気でウソをつく人のようです。

作り話に、事実が混ざる

Geminiは、「Google検索[AI モード]では、他社AIが応答することもある」と解説。しかし、その後に誤りだったと自ら訂正します。

「他社製AI(Claudeなど)が応答することもある」は私の大間違いです

2026年7月25日 Geminiの応答

この解説は、Google公式発表に基づくものではありませんでした。

厄介なのは、完全な作り話ではなく、実在する技術用語や事実を混ぜている点です。

Geminiによる応答には次の解説を含みました。

  • モデルルーティング → 実在
  • マルチLLM → 実在
  • AIゲートウェイ → 実在
  • AIモードはモデルルーティング、という解説 → 創作

“すべて誤った情報”より“正しい情報を含むデマ”の方が、人は騙されやすいでしょう。

Geminiに限らず、どの生成AIでも不正確な解説をする可能性がありますので、ご注意ください。

根拠のURLを提示させて、記載を確認する》へつづく

関連記事