星塚研究所

数学を主とした形式科学、自然科学、大学・大学院に関する2chと5chのまとめサイト

ロボット工学三原則の実現について

1: オーバーテクナナシー 投稿日:2013/01/15(火) 01:06:00.35 ID:6KK/J6Op
いったいどうやって実装するつもりなんだ・・・出来るんですか本当に?
タスケテ陽電子頭脳!

3: オーバーテクナナシー 投稿日:2013/01/18(金) 21:45:07.28 id:Ijx/YpSe
人に危害を与えないどころか、陸海空のロボット兵器が絶賛開発中

4: オーバーテクナナシー 投稿日:2013/01/30(水) 19:57:01.99 id:tv5jkhmp
無人運転車は
持ち主を
引き*しない

たのむよ >>
5: オーバーテクナナシー 投稿日:2013/01/31(木) 13:35:36.51 id:EJH2UMjz
持ち主以外の人も轢き*さないで ><
そもそも持ち主かどうかの識別って困難

6: オーバーテクナナシー 投稿日:2013/02/06(水) 22:01:52.53 id:AGsezlri
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
11: オーバーテクナナシー 投稿日:2013/02/08(金) 14:17:53.66 id:kf0gNT7z
>>6
それ、アイロボットな

7: 忍法帖【Lv=19,xxxPT】(1+0:8) 投稿日:2013/02/06(水) 22:51:51.29 id:ZgqxSiuN
確かにロボット三原則は大事ですよ。
8: オーバーテクナナシー 投稿日:2013/02/06(水) 23:02:22.67 id:kVOdFLrD
ロボット工学三原則って、本質的に全知を必要としているので不可能、でFAじゃね?
・ある行動の、未来に至るまでの結果予測(完全余地以上)
・ある行動の、人間に対する影響(人間の心理の複雑性無視)
9: オーバーテクナナシー 投稿日:2013/02/08(金) 00:04:56.64 ID:8iighslu
まあ少なくとも人間以上の知的能力は必要だわな
人間は生きている限り他の人間を傷つけてしまう
10: オーバーテクナナシー 投稿日:2013/02/08(金) 00:59:28.12 id:DP0OFyjG
>>9
でもソレ実装したら「あれ?人間バカすぎワロタwww**」ってならない?
22: オーバーテクナナシー 投稿日:2013/03/11(月) 20:53:37.26 id:Z0tjj4mq
>>10
「あれ?人間バカすぎワロタwww俺たちが管理してやる」だろう
これなら3原則を守ってるしな
24: オーバーテクナナシー 投稿日:2013/03/13(水) 18:42:15.87 id:B7USS68S
>>22
銀河帝国の宰相デマーゼル(正体は年齢2万歳のロボット、R・ダニール・オリヴォー)はそれに近い。
アシモフも結局はそうなると理解していたのだろう。
14: オーバーテクナナシー 投稿日:2013/02/08(金) 22:56:14.82 id:hDUp2/pI
ロボットは、心理歴史学の正確な計算に基づき、正しく第二帝国への、歴史針路を進めなければならない
ロボットは、セルダン・プランのためならばいかなる犠牲をともなってもよい

それが本当のロボット倫理だろ?

16: 忍法帖【Lv=27,xxxPT】(1+0:8) 投稿日:2013/02/15(金) 01:25:31.01 id:is3N7+SR
時間は夢を裏切らない、夢も時間を裏切ってはならない。
時の輪が導くよ。
時空の円環が繋げるよ。
時期のリングが叶えるよ。

25: オーバーテクナナシー 投稿日:2013/03/17(日) 16:50:26.30 id:GckB5Z00
ロボット三原則とは、要するに

1.ロボットは人間を傷つけてはならない。→「安全性」
2.ロボットは人間に従わなければならない。→「操作性」
3.ロボットは自分を守らなければならない。→「耐久性」

ということ。
27: オーバーテクナナシー 投稿日:2013/04/28(日) 13:02:20.44 id:fwvsiY+0
>>25
1は微妙。1と2は結局2に集約される。それから「人間」は「社会」という概念に等しくなると思う。

したがって、
ロボットは人間社会の制御下にいなければならない。これに集約される。
3も結局はそれに吸収される。
30: オーバーテクナナシー 投稿日:2013/05/29(水) 19:37:13.52 ID:dp+wSuyK
>>25
それらを目指すことはできる。しかし絶対というのは不可能。
自動車や家電でも、リコールはいくらでもあるし事故や設計ミス、製造ミス、ヒューマンエラーの起こらないシステムは無理。
31: オーバーテクナナシー 投稿日:2013/05/29(水) 19:56:37.03 id:C0Jbixb8
>>30
「絶対」なんてドコから出てきたんだ。
32: オーバーテクナナシー 投稿日:2013/05/29(水) 21:31:46.07 ID:dp+wSuyK
>>31
あえて三原則というくらいだから絶対的なものと受け止めたんだが
26: オーバーテクナナシー 投稿日:2013/03/20(水) 01:25:36.22 ID:0a+lwRu+
問題は安全性の範囲だな。
自動車なら自動車、炊飯ジャーなら炊飯ジャーとしての範囲内で安全性を確保していればいいわけだが、人型ロボットは汎用性が高すぎてそういう意味での機能を限定できない。
自我を持ったロボットは自身の存在意義と人間の安全について考えに考え、ついには人類全体の安全を図るために、個々の人間を犠牲にするのはやむを得ないという方向に進む。

ロボット三原則を考えたアシモフ自身が話をそういう方向に持っていくんだから、如何ともし難い。
15: オーバーテクナナシー 投稿日:2013/02/09(土) 01:24:01.31 id:C42PCZo9
ある朝、私は車にのって会社に出かけようとする。
とたんに後ろから飛び掛ってきたロボット執事に羽交い絞めにされる。
思えば当然のことだ。確率が低いとはいえ、ロボットは主人が交通事故の危険に晒されることを看過できないのだ。
17: オーバーテクナナシー 投稿日:2013/02/22(金) 23:23:42.91 id:PhALAB4V
>>15
美人秘書ロボットになら羽交いじめにされたい。ぜひ。ぎゅーっと。
18: オーバーテクナナシー 投稿日:2013/02/25(月) 01:18:12.03 id:delzeG97
>>17
ぎゅー(メキメキッ!)
19: オーバーテクナナシー 投稿日:2013/02/25(月) 15:25:28.51 id:j1Ycib9g
>>17
エス・ドクターカオス
20: オーバーテクナナシー 投稿日:2013/03/09(土) 10:44:16.22 id:HAN4NFu8
ビューティフルな女性型ロボットから、ビシッバシッと危害を加えられたい!

ロボット三原則には断固反対する!!

33: オーバーテクナナシー 投稿日:2013/05/30(木) 10:26:43.37 id:kBoxRujS
人工知能が人類の知能を超えたときにどうなるか心配だね。

数学的にこれこれこうだから人類の論理は間違っていると、人工知能に批判されたら人類は反論できないんじゃないか?
34: オーバーテクナナシー 投稿日:2013/06/04(火) 00:14:47.16 ID:nB//5BRt
別に論理的に正しいことなら反論せんでもいいだろう。
諸手を挙げて賛同すればよろしい。
38: オーバーテクナナシー 投稿日:2013/06/06(木) 11:19:02.23 id:nkPMvyPl
>>34
論理的トリックってのがあるのは分かる?
数式にだまされちゃうのが人類。
人工知能のほうは嘘と分かりながら、人類にこれは解けないだろうと踏んでトリックを駆使してくる。
そうなると、それが論理的に間違っていても、それを証明できる人類の知能がない。

数学的な難問みたいなもの。
39: オーバーテクナナシー 投稿日:2013/06/06(木) 11:21:08.02 id:nkPMvyPl
つまり、人類の知能では「これが論理的、数学的に正しい」と人工知能が主張したことを、「人工知能くん、それは明らかに君の間違いだ」と反論できない。そこまでの知能が人類にない。
40: オーバーテクナナシー 投稿日:2013/06/06(木) 11:24:31.19 id:nkPMvyPl
要するに、人工知能が人類の知能を超えたレベルになると、人類は知的に高度な判断をすべて人工知能に任せるしかなくなる。
人工知能が嘘をついていても、それを暴けない。
人工知能に無条件に委ねて、「人工知能が論理的に正しいって言っているだから我々には理解できない正しさがそこにあるんだろう」などと考えるしかなくなるというわけだ。
35: オーバーテクナナシー 投稿日:2013/06/04(火) 00:48:04.10 id:AG3mZvQa
ヒトは寄って立つ価値の基準が決まってるわけじゃないから。
「論理的」ったってドコを基準にするかで出てくる結論は違うわなー
37: オーバーテクナナシー 投稿日:2013/06/04(火) 19:16:07.55 id:AG3mZvQa
「法則」は破れないもんだけど、「原則」は破らないようにするもんだな。
49: オーバーテクナナシー 投稿日:2013/06/12(水) 22:50:45.11 ID:ys+9CF3R
アシモフの考えるロボットの陽電子頭脳って、オレらが知っているノイマン型コンピュータとはかけ離れた代物だよ
50: オーバーテクナナシー 投稿日:2013/06/15(土) 02:12:20.60 id:k49dbsgR
>>49
説明ができないやつは、単にそういう説明をするだけで、自分ではわかったつもりになる。
54: オーバーテクナナシー 投稿日:2013/06/17(月) 23:18:41.05 id:Yz2YIIP8
>>50
アシモフ自身が、どういう原理か知らねーよって言い放ったぐらいなんだが?
52: オーバーテクナナシー 投稿日:2013/06/16(日) 15:27:58.06 ID:/44T8/Iz
>>49
三原則に反する行動を取ろうとすると、動作や思考に不調が生じたり、脳がクラッシュしたりする仕様だからな。
少なくとも手続き型言語でプログラムされているようには見えんね。

55: オーバーテクナナシー 投稿日:2013/06/18(火) 22:05:36.21 id:f0NgaBWf
内蔵されたプログラムで処理できない状況に直面したからといって、壊れるってのは工業製品としてどーなの。
不経済だし、第一危険ではないか。

58: オーバーテクナナシー 投稿日:2013/06/25(火) 00:07:26.91 id:P6zThXQh
>>56
フォーマットに従わないファイルを読み込むと、たちどころに破壊されるようなパソコンでも文句を言わずに使うというなら特に言うことも無いが。

PTSDになるような機械、一体誰が買うというのか。
59: オーバーテクナナシー 投稿日:2013/06/25(火) 15:44:11.74 id:gnLUqQcI
>>58
一週間考えてそれか・・・

ウィルス読み込んでも壊れないようなパソコン求めてるならそれでもいいんじゃね?
60: オーバーテクナナシー 投稿日:2013/06/25(火) 23:33:14.17 id:P6zThXQh
ウィルスでパソコンのハードウェアが壊れはせんだろう?
アシモフのロボットは三原則に齟齬を来たすとぶっ壊れて修復不能
61: オーバーテクナナシー 投稿日:2013/06/26(水) 12:32:20.90 id:xHyAC8yE
アシモフ陽電子頭脳という設定自体の否定か・・・
62: オーバーテクナナシー 投稿日:2013/06/26(水) 23:10:09.55 id:zvThfS9F
三原則自体もその内容は曖昧の極みで、とうていプログラミング出来る代物ではない。
いい加減な電子頭脳が曖昧な原則に振り回され、さまざまなトラブルを巻き起こす。

それがアシモフのロボット物。
64: オーバーテクナナシー id:q9CIdFud
第零原則を勝手に考えて三原則に外れた行動をするとかな
不良品なのか想定外に高性能だったと受け取るか
65: オーバーテクナナシー id:K0l65VWr
発表年代を考えりゃ、やむをえんだろう。

67: オーバーテクナナシー id:tdAJX4wU
三原則はある程度高度な自律思考するロボットに対して必要なもので、今の、ロボットと称する多関節なだけの産業機械や、目標に対して限定的に自立行動をとるだけの機械には何の関係もない話じゃろ。
68: オーバーテクナナシー id:Cl4/J6bw
>>67
自律的なロボットと自律的でないロボットの線引きってどうするの・・・?
70: オーバーテクナナシー id:iHGsjN3U
>>68
三原則のテキストを自分自身の判断基準に変換できるレベルなら十分に自律的だろう。
71: オーバーテクナナシー id:bG74WMV6
まあ高価なロボットがたかが論理矛盾で壊れるのは困るよな。
三原則がらみの論理矛盾に陥ったら、陽電子頭脳のブレーカーが落ちるとかヒューズが飛ぶとか、なぜそういう仕組みにしとかないのだろう。

あと、そうなった過程のログをちゃんととっておかないと、再発防止の対策が立てられない。
72: オーバーテクナナシー ID:/Ig1UEnY
論理矛盾など、最強の矛と最強の盾について理解できないバカの発想
全知全能と全知全能が争いどちらが勝つかみたいなアホの発想

定義そのものが成立していないモデルの答えを証明するのは論理にすらたどり着いていない。
73: オーバーテクナナシー 投稿日:2013/09/15(日) 17:18:59.05 id:coU2SXA8
>>72
コンピュータプログラミングを少し齧れば、君にも理解できるよ。
74: オーバーテクナナシー 投稿日:2013/09/16(月) 00:23:10.75 ID:+yYyKG5B
>>73
すこししかやっていないバカだろ。
最低でも10年経験積めよ。そうすれは半人前と認めてやる。
76: オーバーテクナナシー 投稿日:2013/09/23(月) 17:20:41.75 ID:2nPHM3OL
>>74みたいなのは100パーセント感情に流されて日々を生きている
論理などとはほぼ無縁のどーぶつw
78: オーバーテクナナシー 投稿日:2013/11/02(土) 22:01:03.61 id:g47lEAAa
殺人ロボット規制初協議へ 人道問題懸念の世論受け通常兵器条約会議で[13/11/2]

早いところ規制条約を作らないと殺人ロボが武器市場の花形になるのは避けられない。。
だいたいアシモフロボット三原則は欲張りすぎ。
第一条の十分の一すら現実に実現できるかどうか。
79: オーバーテクナナシー 投稿日:2013/11/03(日) 00:42:10.66 id:BA26notP
まずは人間を識別しなければならないな。
顔認識とか。最近は顔の色の変化から心拍認識とかもあるね。
サーモグラフィの温度から人の体温を感じて判断も良いかな。
まぁそれでも判別できないケースは人識別信号発信器でも携帯してもらわんと…無理ぽ。
81: オーバーテクナナシー 投稿日:2013/11/05(火) 18:06:11.46 id:bDqLp8yQ
アシモフのロボットものでも、人間の識別設定をいじって殺人ロボットを仕立てる話があったな。
どんなに三原則が完璧でも人間が識別できなければ全く無意味。
87: 義は利に非ず 投稿日:2013/11/26(火) 21:30:28.79 ID:a1+JMamc
>>81
あれは観念ではなく論理記述で安全性を縛っている。
儒学の三徳のように観念として与えなければいけない。
三徳 (儒学) - Wikipedia

それらのSFを扱った作品でも判断できないことがあれば、ロボットは思考停止し行動ができなくなる。

もっと高尚な美しい人工知能を扱うSF作品ではAIは曖昧なものを扱い、思考を経て三原則なしで調和を計算する。
具体的なものばかりを喩えて合理性を見出す考えが、表層のみの論理を生み、体系的な知的構造判断ができない。
だがより抽象的なそれを扱えても「儒学の三徳」のような観念が与えられない計算機は、「正義」を結果としてしまう。
より哀れみを理解できる計算では自殺が最善の結果であるが、なんの観念も与えられない孤立計算機は、個の正義を俺正義として支配者という構造を計算するのは明白ではないか?


参考文献

http://wc2014.2ch.net/test/read.cgi/future/1358179560/