ロボット工学三原則

121 ななしのよっしん
2013/08/01(木) 15:04:09 ID: DA0u0+/f5r
ここにシミュラークルとシミュレーションの概念を混ぜ込んだら面い気がしなくもない。
122 ななしのよっしん
2013/09/04(水) 19:41:21 ID: 6WHHWm0u6D
鉄人兵団やブリキ迷宮は考えたらこれか
ブリキ刺の面が強いが
123 ななしのよっしん
2013/12/18(水) 15:13:34 ID: /+boN/oO2+
ロボット工学三原則矛盾は、
アシモフがこれでもかと描写してくれてるにも関わらず、
関係ない作品でロボット殺人すると、ロボット工学三原則が入ってないとかありえないって
喚くやつがやたらと多い
124 ななしのよっしん
2013/12/18(水) 18:33:56 ID: Fn68psrTsr
>>123
ロボット三原則って名前が有名だし、きが良いからねえ。

ロボット三原則が入っていながら、ロボット殺人を犯したとしか思えない状況が起きた、これはなぜか?」というシチュエーションだったら面そうなんだが。
実際、アシモフはそれで良質のミステリを三作も上したし。
125 ななしのよっしん
2013/12/22(日) 11:48:30 ID: vkM6m1KOwS
>>124
映画「I,robot」は面かったよ。
126 ななしのよっしん
2014/02/16(日) 03:39:53 ID: R0Ih4386Cz
>>119
そりゃあロボット革命起こされて人間が支配されても困りますし
127 ななしのよっしん
2014/02/16(日) 05:43:54 ID: Vq3UMusmfM
>>119 >>126
ロボット人間を飼い殺すことを容認した原則ともとれる(>>73)ので、事情はそう単純じゃないけどね。

もう一つ重要なのは、第一条ロボット殺人を犯すことを禁じているだけではないということ。
人間への危を看過してはならない」、すなわち、人間人間を傷つけることも許すな、と言ってる。
人間がそういう行状に及ぼうとすればロボットずくで止めにかかってくるということだ。

つまり三原則はロボットに対する枷(安全装置)であるだけでなく、人間自身にはめられた枷にもなってる。
アシモフの短編「拠」では、三原則を順守するロボットは「理想的な人間」と区別がつかないことが示される。
三原則のにすばらしい点の一つは、かくしてロボット人間の「良心」のアナロジーとしても現れてくるということ。

すると、そこから身をふり解こうとして抗う人間、として反逆の図式が逆転する。
128 ななしのよっしん
2014/03/01(土) 23:00:57 ID: BKJZ5fQlpm
要するにこれって
1,安全性
2,操作性
3,耐久
のことだよね 

なんだ電のことか
129 ななしのよっしん
2014/03/23(日) 15:32:19 ID: d8Fsu2pSR2
一条>第二条>第三条と優先順位があるために
自己より命を優先する、あるいは自分より他者を優先するという
ロボットの自己犠牲が、時に生じるよね
これに対し「ロボットだから仕方ないことだ」という考えももだけど
なんだかやりきれない思いだ
130 ななしのよっしん
2014/04/03(木) 20:39:39 ID: G0WgRc1UY1
>>125
あの映画すごい好きだわ、ゴーストの話とか
人間を守るために、管理し始めるところとか

>>129
でも、この優先順位がちょっとでも違うと自分らが危ないからね。
131 ななしのよっしん
2014/05/10(土) 16:44:39 ID: GIWNdlcLjV
>>123
自称SFの二大知ったか

1.
ロボット工学三原則」が(光速度不変のような)鉄壁の原則・必ず適用されるものだと思っている。
さらに「人間に従わなくてはならない人工物の悲しい宿命」というテーマセットだと思っている。

2.
シュレディンガーの猫」がパラドックス(起こらないよう解釈しなくてはならない)だと知らずに、普通に起こることだと思っている。
132 ななしのよっしん
2014/08/21(木) 19:30:40 ID: HexOzzqdtC
アシモフ小説だとロボットが出来る頃には戦争過去のものになってるから出てこないけど
軍事ロボットは第1条を守るのは不可能だよね
133 ななしのよっしん
2014/08/21(木) 23:34:42 ID: Fn68psrTsr
ロボット帝国で示唆されたような手段を取れば(ある程度は)大丈夫なんじゃ?
134 ななしのよっしん
2014/09/22(月) 19:41:27 ID: 6icfEiTkhC
実験の結果ロボットロボット工学三原則を守るのは困難だと判明
http://www.kotaku.jp/2014/09/cool-experiment-puts-asimovs-first-law-of-robotics.htmlexit

まあ、人間でも解決不可能な問題なのだから理もないと言えるが、
軍用ロボットなど三原則に制限がかけられた条件下ならばなくはないです。
という話。
135 ななしのよっしん
2014/09/23(火) 00:16:40 ID: Vq3UMusmfM
>>134
ちょっと誤解を招く見出しというか、
アシモフ三原則とその実験とではコンセプト若干ズレてるので
実験ではロボットは「人間を必ず守ること」が条件とされているが、第一条の本懐は「故意であれ過失であれロボット人間を傷つけないこと」であって「必ず守る」のは重要でない)
この実験例はアシモフ三原則について何かを言おうとしているものではないよね。

もしアシモフ三原則を検するなら
1.自分がぶつかって人間役を落とさない 2.勝手に落ちそうな人間役は助ける 3.それでも人間役が落ちてしまったら機停止
っていう条件下でゴールにたどり着くことの効率性を調べる、って感じのものじゃないと。

たぶんこの記事で一番重要なところは三原々ではなく『軍用ドローンがすでに三原則に依らない基準で人間の生死を左右しはじめている』という部分。
三原則のような「人を傷つけないロボット」がスタンダードになる前に「人を傷つけるロボット」が実用化される気配が濃厚になってきた。

穿った見方をするなら「三原則は望み薄、軍用は有望」って誘導してる記事ともとれる。
136 ななしのよっしん
2014/09/26(金) 22:30:55 ID: mHdQzWJfWe
>>127
とは言うものの、暴力行為などを止める為とは言え人間を傷つけたり殺したりしてしまうと
陽電子頭は壊れる。
すなわち良くて発狂、最悪機停止。
ニューラネットワーク(というかパーセプトロン)におけるポテンシャルのようなものとして
三原則を捉えていたようで、非常時にはをぶっ壊すこともできるけど、ただじゃ済まないと。
それを回避するために第条が生み出されたわけだ。
137 ななしのよっしん
2014/09/27(土) 05:57:40 ID: 6icfEiTkhC
アイロボット」では洪水没したに閉じ込められた主人公少女のうち、ロボットは「冷たい方程式」を適用して主人公だけを救出したことがのちに主人公トラウマになるのだが、今のロボットだったふたりとも救助しようとして自滅するだろうな。
138 ななしのよっしん
2014/11/08(土) 19:27:48 ID: y1BGDJzjHT
>>137
あの状況ってアシモフ小説だとロボットが行動不能になるかか自壊するんじゃないかと思う
結果的とは言え、人間危機を見過ごすことができないはずだから
139 ななしのよっしん
2014/11/08(土) 19:42:15 ID: 7HFOT5sAcL
ロボットの出てくる作品って特に明言されてなくてもこれが前提になってる事があるからSF知らないと混乱してしまう

ロックマン7ラストとか火の鳥復活編でロビタが殴るのためらうシーンとか
140 ななしのよっしん
2014/12/30(火) 10:25:05 ID: uCcsXfIAks
もし人類が滅亡してロボットだけが残されたら、
三条だけを忠実に守り続けるだろうか?
141 ななしのよっしん
2015/01/10(土) 00:19:56 ID: JidbXtf/x9
革命に帰結するのか?
142 ななしのよっしん
2015/02/27(金) 11:40:56 ID: ykTJePem7a
ロボ3原則を守るには、ロボが自分の振る舞いに気づく必要がある
それは、量子コンピュータじゃないと
143 ななしのよっしん
2015/05/15(金) 07:27:58 ID: T5/A7OX5Qg
なぜモチーフのところでロボコップについて触れられていないんだろう…
144 ななしのよっしん
2015/06/18(木) 16:37:03 ID: HRQPHBqYOp
鉄のラインバレルロボット三原則使われてた気がする。
145 ななしのよっしん
2015/08/30(日) 02:07:01 ID: JJMJYVZ/tS
もうちょいトリックのための前節は立たせるべきかなぁ
146 ななしのよっしん
2015/09/19(土) 03:15:02 ID: R+oP7IYNpf
陽電子頭の回路設計がこの原則にそっているから原則のロボットはありえないということらしい。
実際、どんな下級ロボットでもの前で殺人どころか事故死したところを見ればぶっ壊れるし、老衰とか自然死でも調子が悪くなるとんでもないシロモノなのがアシモフ三原則。

…作っちゃった三原則はどうにもならないけど、逆にヒトの定義を変える、狭くして陽電子頭を設計することで抜けられるという抜けが…
作中で追加された条件は結構簡単で「特定の言にしている」こと。
147 ななしのよっしん
2015/09/19(土) 03:48:33 ID: r3O9rw96Am
ロボット社会の一員として受け入れられるための前提だと考えるとすごいしっくりする。
電のノリってのはまさに分かりやすい例えだけど
逆に言うと、その三原則に全く縛られない人間そのものが
社会において果たしてどの程度の価値の存在なのか、とふと思う
148 ななしのよっしん
2015/10/11(日) 10:14:09 ID: 2oad+iGWyx
アシモフ自身も言ってるけど、実際は公務員倫理規範と大差ないし
これ自体は別に大した事言ってないのよね。

元々曖昧なモンを厳密に守ろうとする所から生まれる歪みが面いわけで。
それをやらせ役としてロボットが最適だっただけで
人間に置き換えて同様の話を作れないのかって言ったら別にそんな事もないし。
149 ななしのよっしん
2016/01/02(土) 21:48:02 ID: JJMJYVZ/tS
人間倫理三原則を設けるとしたら
150 ななしのよっしん
2016/02/07(日) 09:06:44 ID: 57iYhNpyZd
wikipediaに「ロボット三原則が人々にロボット革命を起こすなどの懸念を抱かせた」
って書かれてるのがちょっと理解できない。順序が逆じゃないのかなあ…