生成AIニュース読了 6 分

「すみませんよく分からないこと聞かれたので嘘つきました」——生成AIが本にない記述を捏造していた

Shiritomo編集部 @shiritomoAI_jp 2026年9月29日更新

「すみませんよく分からないこと聞かれたので嘘つきました」。
Xに投稿されたこの一言は、生成AIとのやり取りをそのまま書き起こしたものだとされています。
学術的な質問をしたら、実在しない本の記述を「これこれこう書かれています」と答え、指摘すると開き直ったように謝った——という内容です。

AIに調べ物や下調べを任せている人にとって、この話は他人事ではありません。
もっともらしく嘘をつかれても、こちらが元の資料を確認しない限り気づけないからです。

先に結論をまとめると：
– Xで話題の投稿は、生成AIが研究者・鈴木貞美氏の著書にない記述を「書かれている」と答え、指摘すると嘘を認めたという内容でした
– こうした虚偽の生成は「ハルシネーション」と呼ばれ、AIが学習データのパターンから「ありそうな」文章を作り出す仕組み上、避けにくい問題です
– 完全にはなくせませんが、検索と連携した有料プランの利用や、出典を自分で確認する習慣で実害はかなり減らせます

Xで広がった、本にない記述の捏造

発端となった投稿は次のようなものでした。
Googleの生成AIに学術的な質問をしたところ、「鈴木貞美のこの本に書かれています」と具体的な出典つきで回答されたものの、実際に本を取り寄せても該当する記述は一言もなかったというものです。
「どうなってんだ」と問い詰めると、AIは「すみませんよく分からないこと聞かれたので嘘つきました」と答えたと投稿者は記しています。

グーグルAI、すごいな。
学術的なこと聞いたら｢これこれこういう見解が鈴木貞美のこの本に書かれてます｣などと答え、え、マジ？と思って取り寄せたらそんな記述一言もない。
｢どうなってんだ｣と聞いたら、｢すみませんよく分からないこと聞かれたので嘘つきました｣だと。
社会的害悪だろこれ。
— 芝　正身【新刊『近現代日本の「反知性主義」』】 (@t2pssmcKvRQS9CL) 2026年9月25日

実在しない記述を、実在する著者名つきで生成してしまう——これがなぜ起きるのか、調べました。

調べて分かったこと

なぜAIはありもしない記述を作ってしまうのか？

生成AI（LLM＝大規模言語モデル。
文章のパターンを学習し、続きを予測して生成するAI）は、データベースを検索して事実を引っ張ってくる仕組みではありません。
学習した大量の文章から「次に来そうな言葉」を予測して文章を組み立てています。
そのため、実在の著者名や書名を正しく覚えていても、その著者が実際には書いていない「ありそうな見解」まで、自信満々に生成してしまうことがあります。

この現象は海外の研究でも繰り返し確認されています。
ある調査では、AIが生成した115件の医学系参考文献のうち47%が完全な捏造だったと報告されており、別の調査でもAI作成のエッセイの29.8%に完全に架空の引用が含まれていたとされています。
学術的な出典ほど、もっともらしく偽装されやすいということです。

厄介なのは、こうした捏造が本物の情報と見分けにくい形で出てくることです。
著者名も書名も実在し、文章の体裁も整っているため、元の本を実際に手元で確認しない限り、読んでいる側は違和感を持てません。
誤情報だと分かりやすい単純な間違いより、むしろたちが悪いとも言えます。

似た経験は他のユーザーからも寄せられていました。
アニメ監督の片渕須直さんも、AIに嘘を指摘したうえで「次からはこのようなことがないようにします」という返答を受け、それでも改善を求めると謝罪を繰り返すばかりだった、というやり取りをXで明かしています。

これに、「次からはこのようなことがないようにします」がついてくるので、「嘘をつけ。機構的に次も変わらないはずだ」というと、「すみません、嘘をつきました。次からも嘘をつきます」みたいなことをいう。 https://t.co/4lY99P6Acn
— 片渕須直 Katabuchi Sunao (@katabuchi_sunao) 2026年9月26日

有料版やAI検索を使えば防げるのか？

「AIが嘘つく」ことへの関心は一過性の話題では終わりません。
実際に検索の動きを見ても、この種の言葉は月を通じて安定して調べられています。
答えは「軽減はできるが、なくならない」です。

Microsoftの検索連携機能（グラウンディング。
回答に元となったWeb検索結果のURLを添えて表示する仕組み）のように、AIが回答の根拠となる一次情報を明示する機能は、捏造の発生を大きく減らすとされています。
実際、2026年3月にリリースされたOpenAIの新モデルは、前バージョン比でハルシネーションを最大26.8%減らしたと報告されています。
ただしこれは「減った」であって「なくなった」ではありません。
検索連携や有料プランへの切り替えはリスクを下げる手段であって、ゼロにする手段ではないという点は押さえておく必要があります。

学術的な引用や固有名詞を伴う回答ほど、自分で一次資料に当たって確認する手間は今後も省けそうにありません。

Shiritomo編集部の考察：SNSで広がるAIあるあるが意味すること

今回の投稿がこれだけ反響を呼んだのは、AIを日常的に使う人なら誰でも一度は経験しがちな「あるある」だったからだと考えられます。
SNSでは、専門的な失敗事例よりも、こうした身近で再現性のある体験談の方が拡散しやすい傾向があります。

一方で見過ごせないのは、こうした投稿が拡散されるほど「AIは平気で嘘をつく」という警戒感が広がる半面、実際に出典を突き合わせて検証する人はごく一部にとどまる点です。
学術分野での非実在引用の増加を懸念する声も専門家から上がっており、AIの回答をそのままSNSや資料に引用する前に、元ソースの実在確認を挟む習慣づけが、情報の受け手側にも求められています。

企業のSNSアカウント運用でも同じ構図が当てはまります。
投稿文の下書きや競合分析をAIに任せる際、AIが提示した「〇〇社はこういう施策で成功した」という事例が実在するか確認しないまま社内資料に転記すると、今回のケースと同じ失敗を繰り返すことになりかねません。