AI最新情報読了 8 分

「次の単語を当てているだけ」のAIがなぜ賢く見えるのか——Xで再燃した”思考”論争の中身

Shiritomo編集部 @shiritomoAI_jp 2026年8月19日更新

GPT-3が学習した文章量は、人間が2,600年かけて読む分量に相当する——。
8月18日に公開された中島聡氏のnote記事で紹介されていた数字です。
仕組みとしては「次に来る単語を予測する」訓練を繰り返しているだけのはずのAIが、なぜ難しい数学の問題を解き、コードまで書けるのか。
この素朴な疑問をめぐる議論が、X（旧Twitter）で改めて盛り上がっています。

AIを日常的に使っている人ほど、「この答え、本当に理解して出しているのか」を一度は考えたことがあるはずです。
今回の議論を追うと、その疑問に答えるヒントが見えてきます。

先に結論をまとめると：
– 中島聡氏のnote記事やデータサイエンティストのTJO氏の指摘をきっかけに、「AIは考えているのか、予測しているだけなのか」という議論がXで再燃しています
– Appleの研究チームは2025年、条件を少し変えるだけで正答率が大きく落ちる現象を報告しており、「本当の推論ではなくパターンマッチングではないか」という見方の根拠になっています
– 一方で「人間の思考も広い意味でのパターンマッチングに近いのでは」という反論もあり、白黒つく話ではなさそうです

2023年の「確率的オウム」論が、なぜまた息を吹き返したのか

生成AIが「考えているように見えるだけ」だという見方自体は新しいものではありません。
2023年頃、ChatGPTの登場直後から「大規模言語モデル（LLM：膨大な文章データからパターンを学習し、文章を生成するAI）は、意味を理解せず統計的に単語を並べているだけの”確率的オウム”に過ぎない」という指摘は繰り返し語られてきました。

ただ、この見方は最近のAIの実力を前にすると、少し苦しくなってきていました。
難しい数学の問題を解き、複雑なコードを書き、専門家顔負けの説明をするAIを目の当たりにすると、「単なる予測」という説明だけでは腑に落ちない、と感じる人が増えていたからです。

そこに再び火をつけたのが、中島聡氏がメールマガジン「週刊Life is beautiful」で公開したnote記事「LLMは『次の単語を当てる』だけなのに、なぜ思考しているように見えるのか？」でした。
ただ、この記事だけで議論が完結したわけではありません。
データサイエンティストのTJO氏の以前からの指摘とあわせて読むことで、話はもう少し複雑になってきます。

Appleの論文は何を示したのか？

まず押さえておきたいのが、Apple の研究チームが2025年6月に発表した論文「The Illusion of Thinking（考えているという錯覚）」です。
研究チームは、ハノイの塔のようなパズルをAIに解かせる実験を行い、複雑さを一定以上に上げると、AIが「急に答えられなくなる」現象を確認しました。

さらに興味深いのは、逆のパターンです。
複雑なパズルは解けるのに、手数がそれよりずっと少ない別種のパズル（川渡り問題）になると、なぜか正答率が下がるケースが報告されています。
この結果についてApple の研究者らは、「正式な意味での推論の証拠は見当たらず、その挙動は高度に洗練されたパターンマッチングで説明できる」と結論づけました。
Shiritomoでも過去にAppleの別の論文（GSM-Symbolic）を扱った記事で紹介しましたが、「小学生でも解けるような算数の問題に、まったく関係のない一文を1行加えるだけで、最先端のAIが正答率を65%も落とす」という結果は、単なる誤差では説明しづらいものです。

ここで議論はいったんブリッジします。
「AIは訓練データにあるパターンを丸暗記しているだけではないか」——では、その丸暗記説を、データサイエンティストはどう見ているのでしょうか。

TJO氏はどんな立場を取っているのか？

TJO（渋谷駅前で働くデータサイエンティスト）氏は、自身のブログやX上で以前から、生成AIの「推論」を懐疑的に扱ってきた人物です。
特に注目されているのが、「共変量シフト（学習時に見たデータの分布と、実際に使うときのデータの分布がずれること）」への脆弱性です。
訓練データの範囲内であれば高い精度を出せても、少し条件が変わった未知の課題には対応しきれない、という指摘は、Appleの実験結果とも重なります。

さらにTJO氏は、CoT（思考の連鎖）による推論能力について、真の論理的推論のメカニズムではなく、訓練時に見たデータ分布に根本的に制限された、洗練され構造化されたパターンマッチングの一形態だと結論づけており、「人間が行うような真の論理的推論をAIにさせるには、まだ越えるべきハードルが多い」という立場を取っています。
パターンマッチングだと結論づけつつも、それを単純な否定で終わらせず、克服すべき課題として提起する慎重な物言いが特徴です。

中島聡氏のnote記事は何を伝えているのか？

一方の中島聡氏の記事は、TJO氏とはやや異なる角度から同じ疑問に迫っています。
GPT-3クラスのモデルは、数千億個のパラメータ（AIの内部にある調整可能な数値の集まり）を持ち、人間が2,600年かけて読む量に相当する文章で訓練されています。
この記事によれば、モデルは推論するようにプログラムされたのではなく、あくまで「次の文章を予測する」ことだけを目的に訓練されており、言語能力・知識・論理的なつながり・文体といった能力は、その過程で結果的に立ち現れてきたものだとされています。

つまり、「思考しているように見える挙動」は設計者が意図して作り込んだものではなく、規模を大きくしていった結果として偶然浮かび上がってきたもの、という見立てです。
その仕組みの細部は、作った開発者自身にもよく分かっていないという点も、この記事が強調しているポイントです。

人間の思考との違いはどこにあるのか？

ここまで読むと、「じゃあAIは考えていないのか」と結論づけたくなりますが、話はそう単純ではありません。
X上の議論では、「人間の思考も、突き詰めれば過去の経験パターンを組み合わせているだけで、AIのパターンマッチングとそこまで違わないのではないか」という声も一定数見られます。

ここが今回の論争の核心です。
「AIは考えていない」と言い切るには、そもそも「考える」とは何かという定義自体がまだ揺れています。
TJO氏の議論も中島氏の記事も、AIを単純に礼賛も否定もせず、「今のAIにできること・できないこと」を切り分けようとしている点では共通しています。
専門家の間でも決着がついていないテーマだと捉えておくのが、現時点では妥当そうです。

Shiritomo編集部の考察：AIの答えを鵜呑みにしないためにできること

この手の「AIは考えているのか」論争は、AIの性能が一段階上がるたびに、周期的にXで再燃するパターンがあります。
2023年の”確率的オウム”論、2025年のApple論文、そして今回のTJO氏・中島氏の指摘——形を変えながらも、根っこにあるのは同じ疑問です。
この周期性自体が、AIの実力に対する私たちの直感的な理解が、実際の技術進歩に追いついていないことの表れだと見ることもできます。

SNS運用やAI活用の現場にいる立場から言えるのは、「考えているかどうか」という哲学的な結論を急ぐより、AIの出力は流暢でも中身が正確とは限らない、という前提で扱う方が実務的だということです。
Appleの実験が示したように、条件を少し変えただけで精度が崩れることがある以上、重要な数字や事実確認をAI任せにせず、一次情報にあたる習慣を持っておくことが、今のところ一番確実な自衛策だと言えるでしょう。

まとめ

「AIは考えているのか、予測しているだけなのか」という問いは、2023年から形を変えながら繰り返し語られてきたテーマです。
今回のX上の再燃も、専門家の間でまだ決着がついていないことを改めて示す出来事でした。
答えを急がず、両論を踏まえたうえで自分なりの距離感を探っていくのが、今のところ現実的な向き合い方ではないでしょうか。