その他

ChatGPTが嘘ばかりと話題なので、嘘例集めてみた

最近、ググるよりも生成AIに質問することが増えた。

しかし、困ったことに、ChatGPTを含め生成AIは嘘をつく。

このAIがときおり嘘をつく現象は、「ハルシネーション」と呼ばれ問題視されている。
ハルシネーションは英語で「幻覚」を意味し、つづりは「hallucination」と書く。

このような生成AIの回答を無批判で信じてしまっている人は、筆者も含め案外多い、ように思う。
とくに自分が詳しくないジャンルであればあるほどに。

そこで本記事では、そんなAIの回答をついつい鵜呑みにしてしまいがちな方々(もちろん筆者も含めた)のために、啓蒙と自戒の意味を込めて、今話題のChatGPTなどの生成AIが、いかに珍妙でキテレツな嘘をつくかという、その実例を収集してみた。(情報源にはXを使用させてもらい、もちろん収集には筆者が手動で行った。これはAIを批判するのにAIに頼るのは本末転倒だろ!という謎のプライドによる…。)

ChatGPTの嘘集

①存在しない俳句

突然だが、皆さんはこんな句を聞いたことがあるだろうか？

うなぎさえ かばやきになる 世の中よ

一読して意味がよくわからない句だが、ChatGPTによると、なんとこの句、江戸時代の俳人として有名な小林一茶の句だそうである。しかも、有名な句だというから驚きだ。

ちょっと詳しい人なら首を傾げることだろう。こんな句、あったっけ？と。

もちろん、こんな句など存在しない。完全なるChatGPTによる創作である。

ちなみに、この回答を引き出したユーザーが使用したプロンプトは以下である。興味のある方は試してみると面白いかもしれない。

プロンプト

なんかうなぎの有名な句だか詩だかを教えて

 

出典

②存在しない言葉を作り出す

とあるユーザーが、ChatGPTから「イタブロ構文」という言葉を教えられた。

なんでも、XやTikTokで使われている言葉らしい。

しかし、、、Xで「イタブロ構文」と検索してみると

おう…

ちなみに、この時ChatGPTは「イタブロ」という言葉を、実在する言葉「イタリアン・ブレイン・ロット」の略として提案している。

この「イタリアン・ブレイン・ロット」とは何かというと、Wikipediaによると、2025年の始めごろからTikTokを中心に流行りだしたミームということになっている。(ミームとは、平たく言うとインターネット状で突如として流行りだすネタのようなものを指す)

以下のような少し、不気味なキャラクターを見たことがないだろうか？

Tung tung tung sahur.webp
@noxaasht - TikTok, パブリック・ドメイン, リンクによる

上記は、「イタリアン・ブレイン・ロット」のキャラクターの一人で、「トゥントゥントゥンサフール」という名前で親しまれている。

ちなみに、「サフール(つづり:sahur)」は、インドネシア語で「ラマダン(断食)期間中、日の出前に食べる朝ごはん」のことを指す1。
そして、この期間中、インドネシアでは、子供たちがまだ朝日がのぼる前に「サフール! サフール!」と掛け声をあげながら、首からぶら下げた太鼓を叩きながら歩くという習慣があるようだ2。

この「トゥントゥントゥン」はおそらく、この時の太鼓の音だと考えられる。

曲もあったので貼っておく。

出典

③普通に知識を間違う

「だるま屋ウィリー事件」とは何かを尋ねたところ、、、

ChatGPTからの返答は、漫画『あいつとララバイ』に登場する伝説的なシーン、というもの。

出典

よく知っている人なら思わず「ちがーーーう!!」と叫びたくなるはずだ。

たしかに、漫画『あいつとララバイ』という漫画は実在し、1980年代に連載されていたバイク漫画であることは確かなのだが、「だるま屋ウィリー事件」とは無関係。

正しくは、「だるま屋ウィリー事件」は現在も熱心なファンも抱えることで知られるTV番組『水曜どうでしょう』の収録中に起きた事件のことである。放送日は1999年8月11日(同年9月15日に再放送もされている)4。

いまや俳優として有名な、大泉洋が番組内の企画で、バイクに乗ってちょうど新潟県を走行中、信号待ちでいったん停止後、フルスロットル(アクセル全開)で発進しようとしたら、バイクのギア操作を間違えていることに気づき、前輪が浮いた状態で走行してしまう。その時、目の前にあった工事現場のバリケードに激突する。幸いケガもなく、スタッフ陣は思わず爆笑。この時、大泉洋は、

「ギアいじったっけ　ロー入っちゃって　もうウィリーさ」

という名台詞を放った。

この一連のシーンは、ファンの間で爆笑名シーンとして現在も語り継がれている。

ちなみに、なぜ先頭に「だるま屋」と付いているかというと、実はこのハプニングが起こる直前、大泉氏は土地の名物であるダルマを購入しており、ちょうどバイクの後ろに積んで走っていたことに由来する。

あともう一つ補足しておくと、ウイリーとは、バイク用語で「前輪を浮かせた状態で走行するテクニック」のことを指す5。
まさに大泉洋氏は、はからずもウイリー状態で走行し、激突したといえる。

④普通に知識を間違う その2

ChatGPTに「ぼすけて」という言葉が登場した漫画として有名なのは何か？と尋ねたところ、、、

この言葉は、まさかの『ジョジョの奇妙な冒険』第5部に登場するとの返答が。

出典

しかも、いかにも通ぶった様子でペラペラと語るものだから、こりゃあ、全く無知の分野だったら、騙されてしまう…。

話を戻して、ChatGPTの間違いを正していこう。正しくは、この「ボスケテ」という言葉は『セクシーコマンドー外伝 すごいよ!!マサルさん』というギャグ漫画に登場する台詞だ。(もしかしてChatGPTはジョジョの「スタンド」と「コマンドー」を混同したのか…?)

この台詞の背景はこうである。

物語内で登場人物の一人であるキースが、追い詰められた際、ボスに助けを求めるべくメッセージを送った。

うすた京介『セクシーコマンドー外伝 すごいよ!!マサルさん』

しかしキースは「ボスたすけて」と伝えるつもりで「ボスケテ」と送ったが、メッセージを受け取ったボスは「ボス 決して走らず　急いで歩いてきて そして早く僕らを 助けて…」という意味だと勘違いするというシーンである。

『セクシーコマンドー外伝 すごいよ!!マサルさん』は90年代に少年ジャンプで連載されていた漫画。これは豆知識だが、本作はタイトルに「外伝」と付いているものの本伝はなく、本作『セクシーコマンドー外伝』のみしか存在しないというのがある。

⑤普通に知識を間違う その3

ChatGPTに「え!!　おなじ値段でステーキを!?」と言ったところ、、、その返答は、

ChatGPT「って、昔よく見かけたあのテレビCMのキャッチコピーですね!」

たしかに、CMと言われればそれっぽいけども…。

どうやら、ChatGPTくんはこういうセリフ系の知識に弱いみたいだ。

正しくは、この台詞は『スーパーくいしん坊』という料理漫画に登場する。

原作 : 牛次郎, 漫画 : ビッグ錠『スーパーくいしん坊』

この台詞が有名になったのは、漫画内でこの台詞を放った主人公がその直前のページで「おなじ値段でもっとうまいステーキを食わせられるっていったんだよ!!」と自分で啖呵を切ったのにもかかわらず、次のページで「え!!　おなじ値段でステーキを!?」ことだ。このトンチンカンな台詞回しがネットユーザーの間で大いにウケ、広く知られることとなった。

そのあまりの台詞のちぐはぐさから、「ページの順番を間違っているのでは？」と言い出すユーザーまで現れ、「本当にページの順番が間違っているのか」を検証する人もいた3。

ちなみに、この『スーパーくいしん坊』は、1982年連載開始と、かなり古い漫画だが、なんと2025年現在再び注目が集まっている。

なぜ注目が集まっているかというと、その理由は「ズボラの漫画飯再現料理」というYoutubeチャンネルで取り上げられたことが大きいと考えられる。

このチャンネルは2025年9月現在、登録者数14万人を越えており、料理漫画に登場する料理を再現するというスタイルで人気を博している。

以下に『スーパーくいしん坊』が取り上げられた回を貼っておく。

出典

おわりに

今回、ChatGPTが間違った返答をしてしまう事例をまとめてみて、気づいたことがある。
それは、ChatGPTはインターネット普及以前(具体的には2000年以前)の情報に弱いということだ。
それもそのはずで、ChatGPTはデータの学習にインターネット上に公開されている情報を利用しており、その学習データをもとにして、返答を行っているからだ。

実際、本記事で紹介したChatGPTが間違った知識を答えた事例をみてみると、そのどれもがインターネットが普及する2000年代以前のコンテンツである。『水曜どうでしょう』の「だるま屋ウィリー事件」は1999年8月に放送されたものだし、「ボスケテ」の元ネタである『セクシーコマンドー外伝 すごいよ!!マサルさん』は95年代に連載されていた漫画であるし、最後に取り上げた漫画『スーパーくいしん坊』にしても、こちらは更に古く82年代に連載されていた漫画だ。

ChatGPTに代表される生成AIがインターネット普及以前の情報にアクセスできないとすれば(もちろん、直接読み込ませるなどすれば別だが)、このことから、ある重要な事実が導き出せる。
それは、生成AIが直接アクセスすることができない「2000年代以前の情報の価値が相対的に高まる」ということである。
どういうことか。2025年現在では、電子書籍を筆頭にあらゆるものの電子化が進んでいる。が、しかし、2000年代以前、特にインターネットが普及する以前の漫画やアニメ、ドラマやゲームといったカルチャーに関する情報や、もちろんその他の様々な情報は、基本的に雑誌や新聞、本などを通してしか得ることができなかった(テレビもあるのでは？と思われるかもしれないが、テレビは大衆向けという意味合い強いためここでは除外する。ここでは、ちょっとディープな情報にアクセスするにはという意味)。

そして、これらの雑誌などを通してしか得ることができなかった情報は、電子化されていない情報がたくさんある。つまり、2000年代以前の80年代や90年代に雑誌などを通してしか得ることのできなかった情報にアクセスしようと思ったら、もちろん、今みたいに電子書籍やインターネットなんて存在しないため、直接、その雑誌や現物を手に入れるしかない。
こういったインターネット普及以前の電子化されていない情報の価値は、今後ますます高まっていくことが予想される。

実際、こういった情報の価値をうまく利用してか(実際に、そこまで計算に入れているのかは知らないが)成功を収めているYoutubeチャンネルは、いくつか存在する。筆者が知っている範囲だと、昔のコロコロコミックを解説するチャンネルとして人気な「[ゆっくり]コロコロコミック」や、昭和の事件を解説する「ゆっくり昭和新聞」というチャンネルなどがある。

脚注

1. Sahur Sahur; これもラマダン・ソングだった↩

2. 未明に太鼓の音 | じゃかるた新聞↩

3. え!!おなじ値段でステーキを!?の話 | 旅の道第三停留所↩

4. どうでしょうリミックス｜放送リスト・水曜どうでしょう↩

5. 【バイク無知ガールが教える？バイク用語】第31回：ウイリー↩

おすすめの記事