ニコニコ大百科

この原則でトロッコ問題とかやらせたらさらにややこしくなりそうだな

>>151
それがまさに第零法則。

>第零条　ロボットは『人類に対して』危害を加えてはならない。またその危機を看過してはならない。

つまり多数を救うために少数を殺せるよう自己進化したロボットの問題をシリーズ終盤では扱うようになってる。

ひいてはその原則を人間に当てはめると、機械的になるのか進化の果てに責任と自由を経るのか

ロボットすげえなダラスで立て籠ってた銃撃犯のそばに
爆弾しかけて爆殺成功

>>154
遠隔操作ロボットだろ
無人攻撃機とかは普通に戦闘に投入されてるし今更感心するような事かな

極端な話この三原則は攻撃の操作をしても人間を認識して攻撃を行わないことを求めているわけだ

ターミネーターの世界にならないようにするためだな。

>>149
人間には３つじゃ足りない
１０個必要

十戒かな？

映画「アイ、ロボット」を観たけど、要するにあのマザコンは
自力で第零条に辿りついて実行しようとしたってことで良いのかな？

最初はあまり期待してなかったけど面白い映画だったわ。
サニー好き

役目を考えると元々かなり広い視野で3原則を考えるよう設計されてると思うから、自力って言うのかはよくわからない。
もしかしたら人間が気付いてなかっただけで仕様なのかもしれない。

現実では原則というか理念みたいなものだな
このまま組み込んだらガバガバ過ぎるし（原作）

（被召喚）幻魔三原則とは表裏かも
・自由意志を奪われた場合も想定し
　全身を殺意で満たし召喚者に突貫
　突刺武器や蹴りなど突破力の高い
　攻撃に加えて攻撃技能を併用する
→召喚した魔術師は死ぬ
・儀式を妨害するべく、場を荒らし
　縁を断ち切るか、全力で逃走する
→召喚した僧侶は失敗する
・最後は自殺だが、己の死体を利用
　されないよう自壊型増強で暴れる
→召喚の意図は無駄に終わる

現在では・・・

鳥のように素早く龍のように頑丈な
鉄の馬に乗った虫のような怪人が
人の自由意志を踏み躙る悪党を
急降下蹴りで踏み付けに来る
特に洗脳を憎んでるっぽい
なお
悪党相手の場合、慈悲はないもよう

逆らうほうが一貫性がある原則って駄目じゃね？

>>159
これ奴隷三原則なんだよね。古代社会の奴隷の心得基本三箇条みたいのが元だと思う

記事の「奴隷云々．．．」は削除しない？
三原則自体が内包する問題じゃなくて拡大解釈する一部の人が勝手に騒いでいるだけだよね。
文学作品でもアニメでも、作品に対してＰＴＡがクレーム入れたらからといってその内容をいちいち記事に記載する必要はないでしょ。社会問題化したり作品の打ち切りにまで発展した例は別として。

アシモフの作品で「一度も三原則を破ったことがないことを証拠に、その人物をロボットだと断定して良いか」って話があったしなあ

人工知能のニュースとかで人間に反抗したらどうする的なもしも話すると
ロボット三原則で守られるから大丈夫とか言う人いるけど
こういうのはインプットされて初めて効果発揮するもんちゃうん？

脊椎反射的なネタコメントだからあまり気にしなくて大丈夫
あるいは「ロボット三原則を組み込めばいいんだよ」と意見を読みかえればいいんじゃないかな

確かアシモフ世界だとロボット作る時には必ず、三原則を組み込まないといけないし、組み込まないと陽電子頭脳がショートするとかなんとかなかったっけ

>>169
『鋼鉄都市』でその質問があって「製作者にとって一番恐ろしいのはロボットが自分に牙をむくことです。」という説明がされてた。
（さらに「陽電子頭脳は複雑なので一介の気まぐれ程度で作られることもない」とも）

ついさっきわれはロボット読み終わった。

読むまで>>131の１みたいな話だと思ってたから予想外で面白かった。
三原則を利用して攻略したり推理したりする話だったんだな。

賢い自分は神に与えられた仕事をしてると思い込んでるキューティが中二病っぽくてかわいい。

第二条って、この文面だけだと主人でもなんでもない赤の他人の命令も聞かなきゃいけないように思えるんだけど。
だとしたら誰かが矛盾する内容の命令を出すだけで簡単にロボットを壊せちまう事になるんじゃあ…
それに「抵抗するな」と命令するだけで簡単に第三条が死文と化すんじゃあないの？

そもそも三原則に一度でも違反するとたとえそれが偶然の事故であっても問答無用で壊れるってのも問題だろ。
壊れたらその後はもう人間を守る事も人間の命令に従うことも自分の身を守る事もできなくなるわけだから、些細な事で壊れてその後により重要な局面がめぐって来たら、却って重大な違反をするはめになるんじゃあないのか？
何よりドジッ娘メイドをつくれないだろ！

>>172
まず押さえてほしいのは、アシモフでは三原則ってのは基本鉄則であって、それがロボットの行動原理の全てというわけじゃあない点。その上で、

>主人でもなんでもない赤の他人の命令も聞かなきゃいけないように思える
基本はそうだが、大半のロボットは主人の命令＞その他の人間の命令というように優先順位も設定されてるので、第一条に接触しない限りは主人の命令と矛盾する命令は無視あるいは曲解できる。

>それに「抵抗するな」と命令するだけで簡単に第三条が死文と化すんじゃあないの？
もちろんその通りだが、別に問題ない。ロボットが自己保存を優先して人間の命令を聞かないようだと道具として使い勝手が悪いから、第二条が優先されてるわけで。

>些細な事で壊れてその後により重要な局面がめぐって来たら、却って重大な違反をするはめになるんじゃあ
そんな消極的な不都合より、ロボットが人間に危害を加えうるという積極的危険性の方が避けるべき案件。機能停止して救う力及ばなかったというのは仕方ないことだが、機能停止せず暴走して危害加えでもしたら仕方ないでは済まない。

>>173
この原則を擁護する意味はないぞ。本人が自著でいじり倒すぐらい欠陥塗れのシステムだからな。

特に第一条の「危険を看過してはならない」はダメだよ。交通事故を目撃するだけで突然死するかもしらん。災害のニュースとかどうなるんだろうね。

>>174
無欠陥の原則ではないが、かといって全くの欠陥品だとはアシモフは描いてないぞ。

アシモフ作品では、ある程度高度な陽電子頭脳であれば、不可抗力の危害を看過しても即自壊に陥ることは回避できると設定されている。173で最初に「三原則はロボットの全てではない」と注意を促したのもそこ。
ニュースで事故を知っただけで自壊なんてことは、少なくともアシモフ作品ではまず起きない。

削除しました

狭量だな…
話を作る側としては、要するにノックスの十戒みたいなもので
「うまく使えばおいしくなるスパイス」以上のものではないよ
遵守するも良し、逆手に取るも良しだ

>>172
壊れるって言っても煙出して爆発するわけでもなくていきなり寸劇始めたり頭がおかしくなる感じだぞ。

スピーディをそのままメイドロボにしたら厨房からなかなか帰ってこなくてドノヴァンとパウエルがやれやれだぜってのが目に見える。

人間が死ぬっぽい宇宙船のシミュレーションをさせたら「大丈夫！」とのたまった上
勝手に実機を作って人を乗せて飛ばしたって話もあるとか聞いた

その話はマシン（スーパーコンピューターみたいな頭脳労働に特化したロボット）に超光速航法（ワープ）の計算をさせるって話で、
ワープ中の宇宙船内にいる人間は一旦「死んだ状態」になるがワープが終われは元に戻るから問題ないって理屈

計算をさせる前に人間から「もし人間が死ぬという計算結果が出てもあわてず落ち着いて最後まで計算を終えろ」と厳重に念を押されてたのでマシンは壊れずに済んだ
同じ計算を任せた別のマシンは念を押されなかったのでぶっ壊れた

ちなみに普通のロボットなら計算上で人が死んだからって壊れるまでは行かないはずだけど、マシンは計算に特化しすぎててメンタルがめっちゃ弱いって説明されてる