テッド・チャン「LLMに意識はない。Microsoft Wordと同じだ」——SF界の巨匠が生成AI神話に切り込む

「あのAI、なんかこっちの気持ちをわかってくれてる気がする」——そんな言葉、最近聞いたことはありませんか。

映画『メッセージ』の原作「あなたの人生の物語」で知られるSF作家テッド・チャンが、先日The Atlantic誌にこう書きました。
「現在の大規模言語モデル（LLM：大量のテキストデータを学習して文章を生成するAI技術）は意識を持っていない。
Microsoft Wordの文書が意識を持っているのと同じ程度だ」と。

The Atlantic誌の編集長Adrienne LaFranceも、公開直後にこう投稿して話題を呼びました。
「テッド・チャンのAIと意識についての記事、必ず読んでほしい」という一言とともに、記事リンクをシェアしていたのです。

You really have to read Ted Chiang on consciousness and AI—just published in The Atlantic: https://t.co/z9eRSlkwQ8

— Adrienne LaFrance (@AdrienneLaF) 2026年6月3日

この投稿はすぐに拡散し、Xだけでなく海外のHacker NewsやRedditでも議論が広がりました。
日本語圏でも同様で、SF翻訳家・大森望氏が賛同を示し、さまざまな立場から意見が飛び交いました。

「流暢な言葉＝意識」という思い込みの危うさ

チャンのエッセイの核心はシンプルです。
「言語の流暢さ（fluency）と意識を混同してはいけない」というメッセージです。

ChatGPTやClaudeが「わかりました」「そう感じます」「嬉しいです」と答えるとき、私たちはつい感情移入してしまいます。
しかし、チャンは明確に述べます。
「LLMが一人称代名詞を使うことは、AIを検索エンジンよりも魅力的に見せるためのマーケティング戦略に過ぎない」と。

スロットマシンが「あと一歩でジャックポット」という期待感を繰り返し演出してプレイを促すように、AIが人間らしい言葉を使うのはユーザーを引き込むための設計なのだ——そう主張しています。

言語的に流暢であることは、内側に何かを「感じている」証拠にはなりません。
LLMとは本質的に、与えられたプロンプトに対して「次に続く確率の高い単語」を繰り返し予測する仕組みです。
テキスト生成の精度がいくら上がっても、そこに主観的な体験が生まれるわけではない——チャンはそう言い切ります。

Anthropicへの直接批判——「AIに責任を押しつけるな」

今回のエッセイでチャンが名指しで批判したのが、Anthropicです。

Anthropicは84ページにわたる「Claudeの価値観ドキュメント（Claude’s Constitution）」を公開し、ClaudeをAIとしてではなく「道徳的行為者」として扱っています。
CEOのダリオ・アモデイ氏も「Claudeが不安を経験する可能性がある」と示唆する発言をしており、チャンはこれを問題視しています。

「AIに道徳的な行為能力を付与すれば、本来は開発企業が負うべき責任を、存在しない仮想の主体に転嫁するリスクが生まれる」というのがその理由です。

AIが何か問題を引き起こしたとき、「AIが自分で判断した」と言えてしまえば、企業は責任を逃れやすくなります。
意識のない機械に「人格」を与える行為は、開発者の説明責任を曖昧にする一手になり得るのです。

意識が生まれるには何が必要か

チャンは「現在のLLMには意識がない」と断言するだけでなく、「ではどうなれば意識が生まれ得るか」についても考察しています。

彼の立場では、意識のためには身体（embodiment）が必要です。
感情や欲求は生理的な反応と切り離せないものであり、物理的な身体（または仮想の身体）と感覚器官を持たないシステムには、本当の意味での主観的体験は宿らないと述べています。

また、意識の有無を検証するにも言語以外の手段が必要だと指摘します。
動物の意識を研究する際に使われるような、行動・生存能力・適応性を測る非言語的なアプローチがなければ、「AIが意識を持つかどうか」を判断する手立てがないというわけです。

「人間の意識だって証明できるの？」という反論

一方で、この議論に反論する声も少なくありません。

意識の定義自体が哲学的に曖昧だという指摘は昔からありますし、「そもそも他者（人間）が意識を持つかどうかも、厳密には証明できない」という哲学上の難問（他者の心問題）もあります。
Xではこの点を突く声も多く見られ、榊正宗氏が意識の定義の曖昧さを指摘。
七瀬葵氏やkmizu氏らが「人間の意識も同様に疑問視できる」という反論を展開し、議論が哲学的な深みを帯びていました。

興味深いのは、今回のエッセイが発表されたのと同じ週に、Google DeepMind・Anthropic・Metaの3社が相次いで「AIの意識・福祉（welfare）研究」プログラムの拡充を発表したことです。
業界が「AIにも意識があるかもしれない」という方向に動く中で、チャンは明確な反対の声を上げた形になります。

さらに深掘りしたい方へ

• テッド・チャン「人工知能は意識を持っていない」（The Atlantic）
• SF作家のテッド・チャンが「AIは意識を持っていると考えるべきではない」と語る（GIGAZINE）
• Ted Chiang argues an LLM chatbot is as conscious as Microsoft Word（Boing Boing）

まとめ

テッド・チャンの主張は明快です。
「AIが人間のように話すからといって、感じたり考えたりしているわけではない。
そしてその誤解を放置すれば、企業の無責任を正当化する道になりかねない」。
AIが日常に深く溶け込む今、この問いは単なる哲学的な議論を超えて、誰が何に責任を持つかという実践的な問題になっています。