中国語の部屋単語

チュウゴクゴノヘヤ
4.0千文字の記事
  • 6
  • 0pt
掲示板へ

中国語の部屋Chinese room)とは、「うまく質問に答えられる存在でも、質問を理解しているとは限らない」事を示すための思考実験である。

この思考実験に関する論考・議論英語で「Chinese Room Argument」、略して「CRA」ともいう。

元々は「質問に答える機を持った人工知能」を念頭においた話だった。

しかし議論していくうちに「人間」にも話題が広がっていくため、これを読んでいるあなたにも関係する話になっていく。

部屋の場合

中国語は全然わからない、けれど英語は理解できる人が、ある部屋の中に入れられている。

  1. 部屋の中に、外部から中国語の質問が入れられる。
  2. 中の人中国語を知らないので、全然わからん!でもその部屋の中には「中国語の意味は全然書いてないが、膨大な漢字英語解説された「ルール」が載っていて、そのルールに従って何も考えずに手を動かして処理すれば、質問に対する答えとして正しい組み合わせの中国語の回答になる、すごいマニュアル」が置いてあった。
  3. 中の人とりあえずそのマニュアルにしたがって手を動かして、彼にとっては全く意味の分からない漢字を並び替え、その結果、部屋の中には正しい組み合わせの中国語の回答が完成した。
  4. 質問に対する答えが、部屋の外に出された。

この部屋を外から見れば、「中国語の質問を入れたら中国語の正しい回答が返ってきたので、この部屋中国語を理解している」ようにも見える。

しかし、部屋中の人中国語を理解していない。ルールに従って並び替えただけである。この部屋の中には中国語を理解しているものなども居ない。

だからこの部屋中国語を理解しているとは言えない。

あなたもそう思うだろう?

あなたの場合

※便宜上、あなた日本語話者であるという仮定の元に話を進める。

  1. あなた日本語で質問され、回答をで考え始めた。
  2. あなたの中では、神経細胞やその間のシナプスなど、様々な微細な存在・構造が処理を始めた。の中にあるそれら微細なものたちは、各々が日本語を知っているわけもない。だが、各々が持つ個別の役割を果たすことはできる。人間はそれらが役割を果たせば機するようになっている。
  3. の中の微細な存在・構造たちは、各々自身は日本語など何もわからないままに役割を果たし、その結果として、あなたは質問に対する日本語の回答を思いついた。
  4. あなたは質問に対する回答を日本語で答えた。

あなたの外から見れば、「日本語の質問に日本語で答えたので、あなた日本語を理解している」ようにも見える。

しかし、あなたの中に存在している神経細胞シナプス各々は、日本語を理解していない。個別の機を果たしただけである。あなたの中に、「日本語を理解している単独の何か」など存在しない。

だからあなた日本語を理解しているとは言えない。

あなたもそう思うだろう?

概要

上記のうち、「部屋の場合」の部分が本来の「中国語の部屋」の思考実験である。

あなたの場合」の方は、この「中国語の部屋」の思考実験に対する批判として用いられる論法。詳細は後述。

部屋の場合」を読んで「そうかも……」と思った人も、「あなたの場合」の方を読むと「んっ?」とひっかかったのではないだろうか。この二つの論法の間には、本質的な差は存在しているだろうか?

起源

元々はジョン・サール(John Searle)という哲学者が、1980年に発表した論文『・心・プログラム』(Minds, brains, and programs)[1]という論文中で提唱したもの。

当時、ロジャーシャンク(Roger Schank)という人工知能学者やそのなかまたちによって、自然の文章をコンピューターに理解させる技術、例えば「文章を読ませた後、その文章に関する質問に答えさせる」と言ったような技術が進歩しつつあった。

これに対して「たとえ質問に答えられても、質問を「理解してる」とは言えないよな」とか言い出したのがこの論文である。

現在では、コンピューターの知性を問う「チューリングテスト」と関連付けてられることが多い。確かに上記の『・心・プログラム』でもチューリングテストについては触れられている。しかし上記のように、本来は「チューリングテスト」よりもシャンク人工知能を念頭においたものであった。

反論

上記の「部屋の場合」の説明を読んで、納得がいかなかった人も居るだろう。

多くの人がこの話には頭をかしげ、ジョン・サールに対して様々な反論がなされ、大いに議論を招いた。

ここではジョン・サール自身が紹介している「反論」をいくつか紹介する。

I. The systems reply(システムの反論)

部屋の中に居る人はシステムの一部に過ぎない。その人だけで見れば中国語を理解していないかもしれない。しかし、部屋にあるその長大な「マニュアル」、そのマニュアルに従って回答を計算するための鉛筆中国語漢字を大量に備えたデータバンク、などもこの部屋が機するためには必要だろう。これらすべてがシステムとなって、システム全体としては中国語を理解しているのだ。」

という反論である。

これに対するサールの再反論は、

「では、中に居る人が天才で、それらのマニュアルデータバンクを彼が全て暗記したとしよう。計算もすべて暗算でするのだ。つまり彼のみでシステム完結しており、彼がシステム全体であるという場合を考える。しかしそれでも、中国語の「意味」についてはこのマニュアルについては一切書いていないので、彼も中国語の意味については無知のままだ。彼は中国語について理解していないのに、中国語の質問に回答できてしまう。つまり、システム全体で見たとしても中国語を理解していない。」

というものであった。

ちなみにこのような人物がもし実在したらと仮定すると、「中国語で話しかけると全く問題なく中国語で会話しており、行動面で見れば中国語を理解している人物と全く変わりがいのに、本人の内面としては中国語の会話の意味を全く理解できていない」という非常に奇妙な存在となる。「哲学的ゾンビ」の亜種と言えるかもしれない。

II. The Robot Reply(ロボットの反論)

シャンクプログラムのやることが入(質問)と出(回答)に限ってるからこういう妙な話になってくるんじゃないか?プログラムを実行するコンピューターロボットの中に入れて、カメラで回りのものを「視て」、手足で「動き回れる」ようにすればいい。そのロボットの「」になったコンピューターはちゃんと「理解」できるようになったり、他の精状態だって持つようになるだろう」

という反論である。

これに対するサールの再反論は、

「では、中国語の部屋にロボットを追加しよう。ロボットに付けられたテレビカメラで捉えた外の中国語部屋の中に入され、出した中国語ロボットの手足を動かすようにするのだ。それでも何も変わるまい。中の人中国語を理解できるようになるわけではない。」

というものであった。

III. The brain simulator reply(脳シミュレーターの反論)

「本物の中国人を忠実にシミュレートするようなコンピューターを想像することができる。人間と全く同じ方式で、質問を処理して回答を出すのだ。このコンピューター中国語の質問を理解しているだろう?それを否定するなら、ネイティブ中国語話者が中国語を理解していることすら否定しないといけなくなるぞ

という反論である。

ちなみに、本記事の上方にある「あなたの場合」は、上記の反論のうち下線部の部分を切り出しアレンジしたものと思ってもらえればよい。

これに対するサールの再反論は、

部屋の中にいる人が行う操作を「中国人シナプスを忠実に再現した路」を操作することに変更してみよう。路につながったバルブを操作することでシナプスの働きを真似るのだ。そのための英語で書かれた全なマニュアルをもらっている。中国人のシミュレートを全に果たした結果として、中国語の質問に答える中国語の回答が出てくるが……。この操作をしている人は中国語を理解していないし、「路」だってそうだろう。の形式的な構造を再現するだけでは、が意識を生み出す因果的な特性再現したり、志向的状態を生み出すことはできないだろう。」

というものであった。

だが、本当にそうだろうか?

路で作ったのシミュレーターは、意識を持ったり言葉を理解したりしないのだろうか?

この問題については、「中国脳」の記事も参照されたい。

その他

これらI~IIIの後にも、

  • IV. The combination reply 上記のI~IIIを組み合わせて「再現した機構で情報処理して、ロボットに組み込まれていて、それを全体的に見ればどうだ?」という反論
  • V. The other minds reply 「そんなに「理解している」ということのハードルを上げていたら、コンピューターに限らず、自分以外の人間全てが「何か理解している」ってことが怪しくなるんじゃないのか?」という反論
  • VI. The many mansions reply 「今のコンピューターではサールの言う通りかもしれないが、いつか技術が進めばの因果的な特性再現したり、志向的状態を生み出すことができるコンピューターが作られるようになるでしょう」という反論

などなどがサールによって取り挙げられている。

それ以後も、21世紀になっても新たな論法での「中国語の部屋」への批判・反論が考え出され続けているという。

関連動画

関連商品

関連項目

脚注

  1. *Searle, J. R. (1980) Minds, brains, and programs. The Behavioral and Brain Sciences 3:3.exit

【スポンサーリンク】

  • 6
  • 0pt
スマホ版URL:
https://dic.nicovideo.jp/t/a/%E4%B8%AD%E5%9B%BD%E8%AA%9E%E3%81%AE%E9%83%A8%E5%B1%8B
記事編集 編集履歴を閲覧

この記事の掲示板に最近描かれたお絵カキコ

お絵カキコがありません

この記事の掲示板に最近投稿されたピコカキコ

ピコカキコがありません

中国語の部屋

25 ななしのよっしん
2021/07/29(木) 02:32:15 ID: WxYNcPKoaU
>>19
人間は意味など理解していないだろう。膨大なデータと条件分岐と制御装置で動いているんだろうよ

そもそも「意味のないものを理解できない」が間違い
実際に日本語は何らかの法則性のあるただのインクのシミ。世の中はすべて具体性があって、現時点ではの各部品がそれぞれの役割を全うしネットワーク全体として機している物体を知と呼んでいるだけと考えるのが妥当

人間が意味を理解しているとすればディープラーニングは意味を理解できていないのか?できていないとすれば何故ああいうふうに振る舞えるのか?
26 ななしのよっしん
2021/07/29(木) 02:50:06 ID: WxYNcPKoaU
実際にの仕組みが全解明され古典コンピュータエミュレートできたとしたらそれは紛うことなき知だろう。しかし実際にあるのは電子部品と電気ただそれだけ

故に法則性や記憶、感覚などを合わせてを作り出しているに過ぎず「意味」や「理解する」というものは本質的に存在しないみたいな上記のような結論になる
27 ななしのよっしん
2021/09/24(金) 06:20:18 ID: 5dJ0oC93mZ
よく分からんけど、人間に例えたいのなら、部屋の中に「すごいマニュアル更新できる何か」が居ないと成り立たないのでは
28 ななしのよっしん
2021/09/26(日) 10:53:08 ID: +xG18syVap
>>27
たぶんすごいマニュアル自体に更新手順も書いてあるんじゃね?

17世紀のライプニッツさんは考えたり感じたりする機械があったとして(風車小屋のように)中の様子を見物したとしても見えるのは部品が動く様子ばかりで何が何やら全然分からんやろと考えたそうだが、知とは何ぞやという問いもきりないな
29 ななしのよっしん
2021/11/11(木) 21:40:12 ID: ZlVugC5xbw
つまり思考は物質として存在するのか? 存在するとしたらそれはどこに?
って聞いてるんだろ?
30 ななしのよっしん
2022/05/28(土) 07:00:17 ID: Uwp5dh007x
FuXINBui0S氏が>>1>>10でほぼ答えを言ってると思うんだよな自分は。
情報を処理する機構があればその機構の複雑さに応じた程度と質で
意識が生まれるだろうという推論。

コウモリ魚類が見ている世界人間とは違う視覚世界や認知の世界であって
コウモリクジラのように音響が視覚処理で見える生き物もいればレンズの意識世界生きる生き物もいる)

機械に意識があるとしても言葉などの概念の理解の仕方も人間とは著しく違う世界で生きているということだろう。
中国語の部屋レベルの複雑さで明確な意識を伴った認知が発生するなら、
今自分が使ってるPCにも意識が宿っている可性は否定できないはず。
31 ななしのよっしん
2022/05/28(土) 08:23:52 ID: Uwp5dh007x
情報処理する物質があるとそれに伴ってなぜ意識が発生するのかはよくわかってない
イヴィット・チャーマーズの意識のハードプロレムを参照
32 ななしのよっしん
2022/05/30(月) 21:10:51 ID: f3vIlessnD
中国語は全くとっかかりがない意味不明な言みたいな認識が英語圏にはあるのかな
この前の「ショーシャンクの空に」にもあったけど、映画でそんな感じの台詞を何回も見かける気がする
ゼロ・グラビティ」のラスト日本人ならそんなでもないけど英語圏の人ならもっとハラハラしたと思うし
33 ななしのよっしん
2022/06/16(木) 11:42:52 ID: 8P8UhCRDyc
>>25
人間であっても経験と勘だけで動く事はできる
今までの学習と違う職場に放りこまれる事で失敗する事もあるし、多様な環境に共通する項を学習できていれば安定性に貢献する事もある
人の顔色やペットの鳴きからどのように対応するか回路を組む事ができる
画像や音データテキストべて大量の情報を送り込めるので非言コミュニケーションと言コミュニケーションでどちらが優れているとも言えないが「知性」について考える時短絡的に混ざってしまう事がしばしば堂々巡りの議論を起こす要因だと思う
34 ななしのよっしん
2022/06/16(木) 12:07:59 ID: 8P8UhCRDyc
>>22
久しぶりに読み返すとやっぱり分かりにくいな…

内に中国語の部屋を持った人に中国語で唐の太宗の姓名を聞けば中国語李世民と解答してくれるが、同じ質問を英語で聞けば誰だそれは?と英語で返して来る
・この人が英中辞典を買って来て自分で考えた英語の質問を中国語で書けば中国語で回答が書けて、それを中英辞典で読み解けばこの人が知らない問題を解決する可性まである