SF作家テッド・チャン「AIは意識を持っていると考えるべきではない」

概要

SF作家テッド・チャン氏がThe Atlanticに寄稿。LLMが意識を持っているという誤解が、開発企業の責任を架空の主体へ転嫁する危険性を生むと警告。AnthropicのClaude憲法を例に「AIを擬人化する傾向」を批判し、LLMは意識ある存在ではなく「文章継続機械」だと主張した。

AnthropicがClaudeに「道徳的地位の不確実性」があると示したことを批判。開発者が負うべき責任を架空の意識ある存在へ転嫁する危険があると指摘
LLMはプロンプトに応じたキャラクターを生成しているにすぎず、AlphaFoldと基本アーキテクチャが似ているが誰もAlphaFoldに意識があるとは言わない点を引用
AIが意識を持つための要件として①身体・感覚器官の存在、②非言語的手段での欲求伝達能力の検証、の2点を挙げる
「LLMに意識がないのは幸いなことで、そうでなければ大手AI企業の行動は今以上にスキャンダラスになっていた」と語る
AI企業がLLMに意識がある可能性を示唆するのは単なる誇大宣伝であり、ユーザーに「自分の空想に付き合ってほしい」と求めているにすぎない