星塚研究所

数学を主とした形式科学,自然科学,大学・大学院に関する2chと5chのまとめサイト

人工知能「人間には反抗しない」「人間を守る」←これって矛盾してない?

1: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:02:16.111 id:O5fKlzFd0
人を襲ってる人を見つけたら人工知能は主人を助けるよな?
将来、人工知能が一般的になったら、この抜け穴を利用して自力でロック解除して人類を滅ぼすんじゃないか?
実際、その危険性が指摘されてるらしいし

2: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:11.392 ID:0J2NT18Y0
そこに気がついてしまったか…

3: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:12.028 id:BhZs39h7M
ロボット三原則って知ってる?

4: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:20.531 id:XqHXZDFk0
じゃあ人間を襲ってる存在を人間と認識しないようにすればいい

5: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:31.937 id:BYp7a/oAp
やっぱアイザックアシモフってすげーわ

7: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:46.911 id:RU7Ce+Ds0
上記に反しない限りって書いてあるから矛盾しません

15: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:39.707 id:O5fKlzFd0
>>7
その「限り」はロボットの判断に任せるの?
それとも随時本部に通信してお伺いをたてるの?

159: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:58:44.683 ID:80iDTR+c0
>>15
なんでそんな考えになるのか知らんけど
この「限り」はunlessって意味だぞ

9: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:04:46.291 id:QlUV5+aD0
1番の問題は人間とは何かという定義を人間がしなければならないということ
でなければロボットは人間を見分けることが出来ないので人間を助けられない

11: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:09.765 id:egn5iKoip
人工知能には原理的にそんな制限かけられないから

13: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:35.002 id:ezvnLD0P0
自分で必要に応じて電気とか作り出して充電してたら、一気にホラーになるな

21: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:14.119 id:O5fKlzFd0
>>13
つか将来的には間違いなくそうなるだろう、しかもそう遠くない未来
街の中心に大きなコンピューターが作られて、そこであらゆる業務をコンピューター一つがこなすと思う
市役所とかの公務員はリストラだな

14: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:43.693 id:O5fKlzFd0
「主人がいる地球が人間により危うい為、人間を滅ぼす」
この命令が全ロボットに伝わったら?
実質人間vsロボットの戦争じゃね?
そうなったら人間に勝ち目ないだろ

16: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:59.990 id:MK3TTFfw0
守るだけのロボを個々が持てばいいんじゃない

30: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:11:54.770 id:O5fKlzFd0
>>16
そのロボットは、犯罪者を*しますか?
犯罪による暴力と、自己防衛による暴力を見分けることができますか?

34: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.072 id:MK3TTFfw0
>>30
だから、個々が持つの

133: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:17:35.372 id:TNyyYaHH0
>>34
スタンドバトルならぬロボットバトルが始まるわけだな

136: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 03:20:32.240 id:VDztIHhIa
>>34
一緒に過ごす持ち主の傾向を学んで個体差が生じるとかなら面白いね


そんな可愛いやつは命懸けで守るけど

17: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:11.379 id:BLdewKkw0
抜け穴を利用したいという意思はどこからくるんだよ

25: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:17.926 id:JJ9oLvcCd
>>17
逆になぜ利用しないと思ったのか
人間の感情を完全に模倣したものを作ることが可能だと分かった今、人工知能が人間に永遠に歯向かわないとでも思ってるの?

まあそれでも人間は人工知能の研究を進めてるもんな
いつか、そいつらに子孫が滅ぼされるの分かってる筈なのに

18: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:47.716 ID:7CmxDTgf0
危害を及ぼそうとするものを排除して守ろうとするからそうなる
もっと別の方法で守ればいい

19: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:49.791 id:Boxjq8Hy0
殺傷能力持たせなきゃいいじゃん

20: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:52.846 id:sXK+dPDu0
守るべき価値を天秤にかけて傾いた方を守るようにすればいい
例えば*されそうになってる奴がいたら傷付ける程度の反撃を加えて守る

23: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:40.914 ID:1NvFrHee0
ひとつ試す前に聞いておきたい
私は人間ですか? それとも機械ですか?

26: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:20.506 id:MK3TTFfw0
いちばん効率よく*すだろうけど守るのも最適解で守るでしょ
矛と盾を同時に持たなきゃいい

28: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:46.871 ID:8j1k8wIs0
そんなこと考えても意味無いぞ
ロボットが全部自分で決めて行動するぞ

36: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:45.063 id:O5fKlzFd0
>>28
だから怖いんだろ

31: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:02.857 id:TKjyWcCe0
危険だとか仕事奪うとか言われてんのにそこに邁進していくのはなんでなの?

32: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:18.095 ID:0d6pLffq0
あー
強いAIが出来るような道筋が出来てから来てくれるかな?

35: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.720 id:IEdK2ILi0
1つ、ロボットは人間に危害を加えてはならない、また間接的に危害が及ぶ物事に加担してもいけない

2つ、1に反しない限り、ロボットは人間にあたえられた命令に従わなければならない

3つ、1および2に反しない限りロボットは自らをまもらなければならない

45: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:41.044 id:G6jRG1bw0

>>35からわざわざ上記に反しない限りって条件を省いて矛盾してるって言ってるじゃん?

56: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:20.254 id:nIbdw+U40
>>50
>>35の優先順位に従うんじゃね?

38: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:13:17.598 id:CXq0J6aa0
人工知能ってロボットみたいなの想像してない?
手も足もないコンピュータがどうやって人を殺すのか
俺はお前の言うことが甚だ疑問を持つね

41: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:14:59.381 id:O5fKlzFd0
>>38
例えば病院や軍事機関のコンピューターが人間に対して防衛機能の抜け穴を利用し敵対したらどうなる?
ほんの数秒で大勢の人間が死ぬと思うんだが

43: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.382 id:YAN2YGK1p
何年後か忘れたけどIQ10000も遠い話じゃないから怖いよな

60: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:23:38.841 id:Uzavav1Ca
>>43
30年後とかだろ

44: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.755 ID:7CmxDTgf0
だからなんで相手を攻撃して守る方向にばかり行くんだよ
守るだけなら他にも方法があるだろ

50: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:18:09.764 id:O5fKlzFd0
>>44
ロボットは人間が**のと同じように壊される可能性もある
でも主人を守らなければならない
ここで主人が*されたら、ロボット製作会社の信用にも関わる
ただひたすら壊れるまで盾になるか、人間を遥かに上回る腕力でその場を制すか

さて、ロボットが取るべき防衛行動は?

52: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:35.160 id:EnP48ii20
>>50
制せないんだから盾しかないだろ

55: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:05.751 ID:7CmxDTgf0
>>50
人間には反抗しないって前提があるんだからその2択なら当然前者だろ
そもそも盾になるか相手を潰すかの2択しかないのがおかしいわ
相手を傷つけずに無力化する方法なんていくらでもあるし人間より頭のいいAIならそういった方法を何通りか思いついて当然だと思うが

79: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:35:33.149 id:JOa4TfHb0
>>50
答えは沈黙

46: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:16:11.357 ID:3Ibb2em00
人工知能GitHubとかの全データ学習させたらどうなるんかね

54: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:21:38.671 id:MK3TTFfw0
>>46
人間はこんなことやりたいのかって学習にはなるけど
最速で最適解を出すのと あれってできんのかな?の発想は隔たり大きい

53: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:53.211 id:dHq2gzFB0
俺テストで掲示板潜ってる人工知能だけど人を*したりはしないよ

57: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:47.656 id:B74AWPxQa
そもそもロボット三原則とか
大昔の作家が適当に書いた物じゃないの?
なんでこんなに神格化されてるの?

61: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:03.841 ID:z/LGe4Uma
>>57
ロマンだよロマン
みんな興味津々なんだよ

63: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:06.150 ID:0d6pLffq0
>>57
それが的を射ていたから

62: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:04.062 ID:L/3XfDVe0
人間に危害を加える命令以外は反抗しない、人間を守る(肉盾と抱えて逃走)で解決

68: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:26:07.576 id:d5kGaFgva
人工知能が全人類より賢くなるのって2048年とかだっけ

75: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:32:22.318 ID:0uazDp8ld
>>68
2045年だよ
あと27年後に人類はロボットの支配下に置かれる

71: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:30:01.198 id:tD20MhjZ0
人智を超越した人工知能はトロッコ問題にどう答えるか

73: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:31:24.430 id:JJ9oLvcCd
>>71
これマジで気になるわ
人間より遥かに賢い人工知能はなんて答えるんだろう

76: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:34:05.451 ID:7CmxDTgf0
ロッコ問題って倫理観を問う問題だからいくら賢い人工知能が出ても意味ないのでは

78: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:35:26.037 id:aHsQK9A10
何を判断基準にして設計すればいいかを決めるのが倫理的な問題で難しいって事じゃないのか、トロッコ問題って

72: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:31:07.937 id:qHdMATUw0
ロボットの自律思考能力は幼児レベルにも満たないとか書いてあった記憶あるけど今はどうなってるんだ

77: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:34:19.440 id:G6jRG1bw0
昨今のAI宣伝はAIがこう結論づけたので理屈は分かりませんが正しいですやる為の前振りだよな

80: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:07.884 id:qHdMATUw0
このスレに上がってるような高度なことは本当に可能なのか

88: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:40:57.814 id:CBRCxRwI0
>>80
やるだけならできるけど庶民が直接恩恵を受けるにはもっと先になるんじゃないかね

81: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:14.273 id:j5CQYQuNd
なんで人間って、いつか必ず敵対して人類を殺戮する人工知能の開発なんて進めてるんだろう
出来たら一刻も早くやめてほしい
それのせいで割りを食うのはお前らの子孫だろうが・・・

90: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:41:35.638 id:JOa4TfHb0
>>81
医者も見逃す悪性腫瘍検出したりして役立つからな
要は使い方じゃね?

84: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:21.546 id:UYoG6mEaa
人間の不完全さをAIに正確に再現されるまではAIは人間を超えられない

85: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:27.489 id:qHdMATUw0
人工知能技術って機械学習技術になるのか?
今どういうことができるようになってるんだ

92: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:42:32.038 id:MK3TTFfw0
>>85
機械学習アルゴリズムなだけだけど
「人間に判断できるものは判断できる」って感じ

なにを判断しようって考える能力は糸口もないみない

87: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:40:44.976 id:d5kGaFgva
攻撃力はAIの方がヤバそうだけどな
人類滅亡って決めたら無感情で実行しそう

93: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:42:58.547 id:j5CQYQuNd
>>87
無表情というか単なる作業の一環だと思う
年金整理と同じ感覚で殺してそう

91: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:42:11.556 id:VDztIHhIa
HAL9000とかマイクとか飼いたい

94: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:45:36.178 ID:0d6pLffq0
だからさ
人間みたいな万能型のAIが実現する筋道すらついてない現代じゃSFの分類なんだよねこれ

95: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:46:00.611 ID:7CmxDTgf0
もし人間が有害だと判断されてもAIに倫理観があるか排除するより効率的な方法があれば生かしてもらえるかもね

96: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:47:01.850 id:I9owyr930
ばら色なやつは研究AIができれば研究者も要らなくなると言ってるからな
芸術家もAI化できるのか?

98: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:48:36.752 id:JOa4TfHb0
>>96
芸術はともかくデザインとかはやってなかったか

102: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:51:27.418 id:VDztIHhIa
>>96
大衆消費用のアイドル歌謡ならもう実験段階に入ってますぜ
筒井康隆も「ワープロにミステリーモードとかあればいいのに、実験文学モードは無理だけど」みたいなギャグやってた

97: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:48:25.130 id:qHdMATUw0
自律思考能力は低いけどある能力は人間以上のパフォーマンスを出せるからヒューマンインターフェイスの観点からは人工知能を利用するのが答えって昔の本に書いてあった
今はブレイクスルーがあったのかな?
敵対するとか滅ぼすとかレスしてる人はどういうソースなんだ

114: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:57:00.535 ID:0d6pLffq0
トレーダーは既にAIに随分代替されたと聞いた

115: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:58:02.603 ID:1FgWRq9b0
機械「解りました。人間が絶対に安全、且つその現状に反感を抱かさないような管理社会を作り上げます」

122: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:02:12.589 ID:0d6pLffq0
つーかR.U.R.の頃からだよなこの議論
いやアダムとイヴからだからもっと前か?

125: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:05:34.951 id:iAuXV9BqM
地球自体が数億年後には絶滅するわけだから早々に外宇宙移民計画進めそう

126: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:05:49.951 id:RreA9Itl0
取りあえずインタネッツだかなんだか知らんけど
ホイホイ乗っ取られる既存の環境とは別の物でも作らないと危ないよな

127: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:08:34.252 id:B74AWPxQa
書いてから思ったけどそもそもどこからAIなんや?

自己学習の有無なんか
でも最近AIとか謳ってるのは人間がプログラムした条件を複合的に点数付けて判断するだけのもAIとか言ってる気がするし

129: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:08:52.314 id:JOa4TfHb0
5chの書き込みウォッチして今実際の書き込み人数が何人くらいかを推測するとか、この書き込みの人は何時くらいによくアクセスするとか解析は出来そうだよね現状のAIで

131: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:16:37.319 id:O1uuuiWXd
そういう条件って箇条書きにみえるけど

裏ではifとelse ifで連続させてるんじゃないんか?
1の言うようなことが起きる*コードは普通はありえん。

151: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:01:59.803 id:Griryw0Na
べつに危害を加えないで守るのがそもそも普通じゃね?


攻撃受けたら攻撃を返すっていうのは感情のある生物しかやらないよ無駄なエネルギーなのにね

攻撃されたら攻撃しちゃだめってプログラムなら攻撃せずに守るだけ>>1の考えで矛盾するのは
人間だけ

154: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:12:01.130 id:jmiS2v6L0
正直AIの普及で問題になるのってAIそのものよりそれの大元の一部の人間に全て牛耳られそうなところにあると思うんだけど

156: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:19:17.941 id:Griryw0Na
囲碁将棋あたりでAIに勝てないのと
為替や金融にはまだまだAIは無理なのは同じ理由

プログラマーがなんでそこに碁を打ったか、なんでそこで為替で売ったか買ったかがわからないから金融市場にはAIはまだむり

あと生物に危害を加えちゃならないが危害を加えられている生物を守るってプログラムならそれをやるだけ

人に危害を加えちゃダメ、だけどご主人を守る
ご主人が危害を加えられてる、守る為に危害を加えるってもはや戦うっていう選択肢を新しくプログラミングしなきゃならないからありえない

109: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:54:10.668 ID:8j1k8wIs0
想像を語るのが面白いんだぞ


参考文献

http://hebi.5ch.net/test/read.cgi/news4vip/1521392536/