ニコニコ大百科

ちょっと待って
もしも１人の人間がロボットに｢○○を殺せ。さもなくば自殺するぞ。｣と命令したら、どうなるんでしょう？

>>91
アシモフ式のロボットならロボットはジレンマでフリーズするか壊れるかだと思う。
アシモフ作品のロボットは三原則を破るような挙動を起こす前に自壊するという設定だから。

もしくは、命令者が自殺しないように拘束してしまうとかの「抜け穴」をどうにかして見つけるか。
こっちのが可能性があるかも。
アシモフのロボットものはこういう「抜け穴」を見つけるSF風ミステリーの性格が強い。

リアルなロボットを想定した場合でもおそらく同様。フリーズするか抜け穴を見つけるかじゃないかな。

第2条より第1条が優先するから、人間を殺せという命令には従えない、
同様に看過もできないから自殺は阻止する、ということでジレンマには陥らないような気もする。
阻止に失敗して本当に自殺されたら違反になるからお終いだろうけど。
本当に殺させたいなら>>92さんの言うように命令の仕方や状況次第で抜け穴を突いて不可能ではないと思う。
どうだろう？

>>93
確かにジレンマにはならないか。単に命令者の自殺を止めるで終了になりそう。

逆に抜け穴を突いてロボットに殺人をさせるのは・・・少なくともアシモフ作品のロボットには無理じゃないか？
上で言ったように、どうしても人間に危害を加えざるを得ない状況になったら自壊するという設定のはずだし。
（第0条を行使する時も、作品内の描写に限れば少なくとも肉体的な危害は加えてなかったはず）

アシモフ作品に限らないロボット一般ならありえる話かもしれない。
命令の仕方がまずくてロボットに親友を守らせるつもりが逆に殺させてしまったなんてSFもあることだし。
（ただしその作品のロボットに三原則なんて概念は全くない）

そりゃ三原則がないなら簡単だろう。
アシモフにしても安全・便利・丈夫をうたってるだけで、
人間を殺すなという条文はないし、わざとそういう穴が作られてるものだよ。

>>95
ちょっと引っかかる言い方だな。アシモフ作品でロボットが人を殺した例があったっけ？
超光速航法を使うと人間はいったん死んだ状態になるけど、
また復活するから問題無しとマシーンが判断した事ならあるけど。

>>94
>ロボットに殺人をさせる方法
例えば、閉じ込められた部屋にいる人間を確実に殺す量の毒ガスを噴霧するスイッチを、
そのロボットになんら情報を与えずに押させるとか
いかに危害を加えてはならないといっても、自分の知りえないことが原因で
殺人をしてしまうことを予測はできないはず


自分が作ったゴーレムに「敵に殺されないよう全力でわしを守れ」と命令した
主人が「敵に殺されない」うちにゴーレムによって殺されるって馬鹿話を思い出した。
読んでみたいな、そのSF作品

アシモフの作品で死刑判決を出したことがない判事にロボットの疑いがかかった話で、
犯人を殺す以外に多くのが死ぬのを止められない状況にロボットが居合わせたら
ロボットが壊れるって設定が出てきたな。

>>97
それを「ロボットによる殺人」と言って良いかはかなり微妙だけどね。
それだと殺人の犯人はあくまで人間であって、ロボットは使われた道具の一つに過ぎない。
たとえば自動車の機能を殺しのトリックに組み込んでも「自動車に殺人をさせた」ことにはならないように。
（この点は突き詰めると哲学的問題になってしまうが）
誰の意図もなくそうなったのなら単なる過失か事故だし。

ロボット三原則が全てのSF作品、又は現実世界にも適用されているものであるかのように勘違いしている人って多いよな

＞ロボットに殺人させる方法

バレになるが、アシモフのとある作品では「人間の定義を非常に狭いものにする」ことでロボットに殺人をさせてます。まあロボットの意識としては人間を殺しているわけではないので、微妙かな。

>>101
そこで与えられた条件を自ら書き換えられないところがロボット(人工知能)の悲哀だなあ
人間なら、特殊な条件下に置かれない限り「これは人間だ」と認識することが出来るが、その書き換えがロボットには出来ない
そもそもロボット三原則が奴隷的と言われる事があるのも、内容とは関係なく、変更不能な初期設定という性質にあるんだろうし

草案レベルの話なのに、分かりやすいのと提唱者の知名度ゆえに
絶対原則のように扱われるまでになってしまった

>>103
「ロボット化社会を描くなら、せめてこのレベルの考察ぐらいは経てから描けよ」
ってだけの話だよね、本来は。

「アシモフの三原則」を踏襲する必要はまったく無いし、
作劇ガジェットとしての三原則もアシモフの時点で既にほとんどやり尽くされてるから
形だけ引用することにもそれほど意味はないはずなんだけど。

ロボットがどうこうというよりは家電としての品質保証の話だよなこれ

その家電に思考能力だか感情だかを乗せちゃうから奴隷がどうこう言ってくる人が出てくる、ってだけの話

あんまり複雑なロボットを作ると
ドノヴァンとパウエルが過労死するな

>>102
「我々のほうがより人間らしく優れているので他の人間よりも優先されるべき」
とか言って条件書き換えずに自分たちを人間の上に置くこともできるし……。
人間だって明文化されてないだけでそこまで根本的に違いはないだろ。

あんまり人間に似せちゃうと本能的に人間は自分たちと同じだと勘違いしちゃうから

>>109
自我持ちだしたら凄い厄介だよねｗ

>>109
自我持ちだしたら厄介だよね

>>107
ワロタｗｗ
精神的には作中ですでに限界来てたっぽいけどｗ

>>97
ネタバレだけど『ロボットの魂』（バリントン・J・ベイリー）にそのまんまなエピソードが出てくる

小学校の図書室にアイザック・アシモフの日本語訳が何冊かあった。
パラドックス(?)的な話に頭がおかしくなりそうだったけど、大人になってから読み返すと人類の産物への警鐘みたいで面白いな。

ロボット三原則って
・ドリル
・合体
・自爆
のことだろ？

>>115
それはロボット（ロマン）三原則だｗ

ＳＴＧ的ロボット３原則
・反乱する
・大軍を無力化するが単騎に無力化される
・実は人類全体の滅亡を防ごうとしていた

ロボットというか人工知能三原則か

ワシロボット違う、道具や！と敵陣に突っ込んで自爆するメカカミカゼスコットランド兵とか。実際問題さ、状況判断して勝手に突撃してくれるだけで本質的にはゴリアテとかわらんのよ。

この三原則本当にすげぇよ

でもこれはロボットを人間より下の存在を認めてることになるんだよね

犬は家族とか言っても犬の十戒も犬は家族というコミュニティで下位ってことになるんだよね

ロボットは人間が作ったものという考えもあるけどこう考えると寂しい

削除しました