94コメント31KB

ロボット工学三原則の実現を考える

■ このスレッドは過去ログ倉庫に格納されています

0001オーバーテクナナシー

2013/01/15(火) 01:06:00.35ID:6KK/J6Op

いったいどうやって実装するつもりなんだ・・・出来るんですか本当に？
タスケテ陽電子頭脳！

0002オーバーテクナナシー

2013/01/16(水) 21:38:15.43ID:uvZB1nL5

「最貧国のドイツが一夜明けたら世界中のいわば、
　兵器から考えたら４０年先いっちゃうわけだよ。
　これ偶然だってみんな言ってるけど偶然じゃなですよ。
　原子爆弾だってね最初に開発しようとしたのドイツだから。
　その知識一挙にまとめてワンパッケージでどこから得たの？」

「釈迦が予言してるのやがてシャンバラは地上に姿を現わす。
　恐らく我々が生きてるときに見られる事件です。」
http://www.youtube.com/watch?v=lvaE4UqCPnc

「シャンバラの住人とアメリカ軍の戦いがあるわけだよ。
　日本人はボーッとしてるだけなんだよ知らんぞ。」
http://www.youtube.com/watch?v=KnTCMXdDBTk

0003オーバーテクナナシー

2013/01/18(金) 21:45:07.28ID:Ijx/YpSe

人に危害を与えないどころか
陸海空のロボット兵器が絶賛開発中

0004オーバーテクナナシー

2013/01/30(水) 19:57:01.99ID:tv5jkhmp

無人運転車は
持ち主を
引き殺しない

たのむよ >>

0005オーバーテクナナシー

2013/01/31(木) 13:35:36.51ID:EJH2UMjz

持ち主以外の人も轢き殺さないで＞＜
そもそも持ち主かどうかの識別って困難

0006オーバーテクナナシー

2013/02/06(水) 22:01:52.53ID:AGsezlri

第一条ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

0007 忍法帖【Lv=19,xxxPT】(1+0：8)

2013/02/06(水) 22:51:51.29ID:ZgqxSiuN

確かにロボット三原則は大事ですよ。

0008オーバーテクナナシー

2013/02/06(水) 23:02:22.67ID:kVOdFLrD

ロボット工学三原則って、本質的に全知を必要としているので不可能、でFAじゃね？
・ある行動の、未来に至るまでの結果予測（完全余地以上）
・ある行動の、人間に対する影響（人間の心理の複雑性無視）

0009オーバーテクナナシー

2013/02/08(金) 00:04:56.64ID:8iighslu

まあ少なくとも人間以上の知的能力は必要だわな
人間は生きている限り他の人間を傷つけてしまう

0010オーバーテクナナシー

2013/02/08(金) 00:59:28.12ID:DP0OFyjG

>>9
でもソレ実装したら「あれ？人間バカすぎワロタｗｗｗ死ね」ってならない？

0011オーバーテクナナシー

2013/02/08(金) 14:17:53.66ID:kf0gNT7z

>6
それ、アイロボットな

0012オーバーテクナナシー

2013/02/08(金) 16:17:29.09ID:JqHSX79c

>>11
？

0013 忍法帖【Lv=12,xxxPT】(2+0：8)

2013/02/08(金) 16:28:20.88ID:YOi/B/OL

寧ろ愛ロボットが必要不可欠ですよ!?♪。
別にロボット三原則は重要ですよ!?♪。
他にロボット道徳理論を推薦するよ!?♪。
逆にロボット倫理思考を推奨するよ!?♪。

0014オーバーテクナナシー

2013/02/08(金) 22:56:14.82ID:hDUp2/pI

ロボットは、心理歴史学の正確な計算に基づき、正しく第二帝国への
歴史針路を進めなければならない
ロボットは、セルダン・プランのためならばいかなる犠牲をともなってもよい

それが本当のロボット倫理だろ？

0015オーバーテクナナシー

2013/02/09(土) 01:24:01.31ID:C42PCZo9

ある朝、私は車にのって会社に出かけようとする。
とたんに後ろから飛び掛ってきたロボット執事に羽交い絞めにされる。
思えば当然のことだ。確率が低いとはいえ、ロボットは主人が交通事故の
危険に晒されることを看過できないのだ。

0016 忍法帖【Lv=27,xxxPT】(1+0：8)

2013/02/15(金) 01:25:31.01ID:is3N7+SR

時間は夢を裏切らない、夢も時間を裏切ってはならない。
時の輪が導くよ。
時空の円環が繋げるよ。
時期のリングが叶えるよ。

0017オーバーテクナナシー

2013/02/22(金) 23:23:42.91ID:PhALAB4V

>>15
美人秘書ロボットになら羽交いじめにされたい。ぜひ。ぎゅーっと。

0018オーバーテクナナシー

2013/02/25(月) 01:18:12.03ID:delzeG97

>>17
ぎゅー(メキメキッ!)

0019オーバーテクナナシー

2013/02/25(月) 15:25:28.51ID:j1Ycib9g

>>17
イエス・ドクターカオス

0020オーバーテクナナシー

2013/03/09(土) 10:44:16.22ID:HAN4NFu8

ビューティフルな女性型ロボットから、ビシッバシッと危害を加えられたい！

ロボット三原則には断固反対する！！

0021 忍法帖【Lv=40,xxxPT】(7+0：8)

2013/03/10(日) 14:21:18.46ID:AfYTRMhr

ロボット三原則反対
ロボット三原則拒否
ロボット三原則拒絶
ロボット三原則否定

0022オーバーテクナナシー

2013/03/11(月) 20:53:37.26ID:Z0tjj4mq

>>10
「あれ？人間バカすぎワロタｗｗｗ俺たちが管理してやる」だろう
これなら3原則を守ってるしな

0023 忍法帖【Lv=40,xxxPT】(5+0：8)

2013/03/13(水) 03:26:59.42ID:/GhgjXmM

勿論賛成
無論許可
当然協力
寧ろ同意

0024オーバーテクナナシー

2013/03/13(水) 18:42:15.87ID:B7USS68S

>>22
銀河帝国の宰相デマーゼル（正体は年齢2万歳のロボット、R・ダニール・オリヴォー）はそれに近い。
アシモフも結局はそうなると理解していたのだろう。

0025オーバーテクナナシー

2013/03/17(日) 16:50:26.30ID:GckB5Z00

ロボット三原則とは、要するに

1.ロボットは人間を傷つけてはならない。　　→「安全性」
2.ロボットは人間のに従わなければならない。→「操作性」
3.ロボットは自分を守らなければならない。　→「耐久性」

ということ。

0026オーバーテクナナシー

2013/03/20(水) 01:25:36.22ID:0a+lwRu+

問題は安全性の範囲だな。自動車なら自動車、炊飯ジャーなら炊飯ジャーとしての範囲内で安全性を
確保していればいいわけだが、人型ロボットは汎用性が高すぎてそういう意味での機能を限定できない。
自我を持ったロボットは自身の存在意義と人間の安全について考えに考え、ついには人類全体の安全を
図るために、個々の人間を犠牲にするのはやむを得ないという方向に進む。
ロボット三原則を考えたアシモフ自身が話をそういう方向に持っていくんだから、如何ともし難い。

0027オーバーテクナナシー

2013/04/28(日) 13:02:20.44ID:fwvsiY+0

>>25
１は微妙。１と２は結局２に集約される。それから「人間」は「社会」という概念に等しくなると思う。

したがって、
ロボットは人間社会の制御下にいなければならない。これに集約される。３も結局はそれに吸収される。

0028オーバーテクナナシー

2013/05/26(日) 13:26:04.64ID:rpFvGzEG

【軍事】研究進む「殺人ロボット兵器」は非道徳的…開発の凍結を含め、国連人権委員会で討議へ
http://uni.2ch.net/test/read.cgi/newsplus/1369540068/

0029 忍法帖【Lv=25,xxxPT】(5+0：8)

2013/05/28(火) 07:57:36.52ID:8rbLD75q

当然講義しましょう
無論反対しましょう
勿論ロボット三原則を作ると寧ろ逆にロボットに人間三原則とか人類三原則を作られるよ

0030オーバーテクナナシー

2013/05/29(水) 19:37:13.52ID:dp+wSuyK

>>25
それらを目指すことはできる。しかし絶対というのは不可能。自動車や家電でも
リコールはいくらでもあるし事故や設計ミス、製造ミス、ヒューマンエラーの起こらない
システムは無理。

0031オーバーテクナナシー

2013/05/29(水) 19:56:37.03ID:C0Jbixb8

>>30
「絶対」なんてドコから出てきたんだ。

0032オーバーテクナナシー

2013/05/29(水) 21:31:46.07ID:dp+wSuyK

>>31
あえて三原則というくらいだから絶対的なものと受け止めたんだが

0033オーバーテクナナシー

2013/05/30(木) 10:26:43.37ID:kBoxRujS

人工知能が人類の知能を超えたときにどうなるか心配だね。

数学的にこれこれこうだから人類の論理は間違っていると
人工知能に批判されたら人類は反論できないんじゃないか？

0034オーバーテクナナシー

2013/06/04(火) 00:14:47.16ID:nB//5BRt

別に論理的に正しいことなら反論せんでもいいだろう。
諸手を挙げて賛同すればよろしい。

0035オーバーテクナナシー

2013/06/04(火) 00:48:04.10ID:AG3mZvQa

ヒトは寄って立つ価値の基準が決まってるわけじゃないから。
「論理的」ったってドコを基準にするかで出てくる結論は違うわなー

0036オーバーテクナナシー

2013/06/04(火) 16:23:12.51ID:I9cfAYqB

>>32
ttp://dictionary.goo.ne.jp/leaf/jn2/70316/m0u/%E5%8E%9F%E5%89%87/

＞げん‐そく【原則】

＞多くの場合に共通に適用される基本的なきまり・法則。「―を立てる」「―から外れる」「―として部外者の立ち入りを禁止する」

絶対的なものなんて含みは無いと思うが。

0037オーバーテクナナシー

2013/06/04(火) 19:16:07.55ID:AG3mZvQa

「法則」は破れないもんだけど、「原則」は破らないようにするもんだな。

0038オーバーテクナナシー

2013/06/06(木) 11:19:02.23ID:nkPMvyPl

>>34
論理的トリックってのがあるのは分かる？　数式にだまされちゃうのが人類。
人工知能のほうは嘘と分かりながら、人類にこれは解けないだろうと踏んでトリックを駆使してくる。
そうなると、それが論理的に間違っていても、それを証明できる人類の知能がない。
数学的な難問みたいなもの。

0039オーバーテクナナシー

2013/06/06(木) 11:21:08.02ID:nkPMvyPl

つまり、人類の知能では「これが論理的、数学的に正しい」と人工知能が主張したことを、
「人工知能くん、それは明らかに君の間違いだ」と反論できない。そこまでの知能が人類にない。

0040オーバーテクナナシー

2013/06/06(木) 11:24:31.19ID:nkPMvyPl

要するに、人工知能が人類の知能を超えたレベルになると、人類は知的に高度な判断をすべて
人工知能に任せるしかなくなる。人工知能が嘘をついていても、それを暴けない。
人工知能に無条件に委ねて、
「人工知能が論理的に正しいって言っているだから我々には理解できない正しさがそこにあるんだろう」
などと考えるしかなくなるというわけだ。

0041オーバーテクナナシー

2013/06/06(木) 18:56:10.16ID:yt89+sLy

論理過程が理解不能でも、結果を見りゃ判断できるだろ。天気とか株価とか。

0042オーバーテクナナシー

2013/06/07(金) 16:30:01.25ID:dCMhM2mm

晴と同時に豪雨とか見ればわかるよな。
廃ガスで太陽が見えなくても「雲り」ではないよな（北京）

みれば直ぐにわかるさ。

0043オーバーテクナナシー

2013/06/08(土) 11:46:20.81ID:qcDY18pr

論理過程がない間違った知識って世の中に出回りすぎ

池沼がそれを信じちゃうし。

0044オーバーテクナナシー

2013/06/10(月) 08:18:25.13ID:/qJyg0R5

>>41
そういう分野はいい。実証に簡単に依拠できる分野なら。
ただし株価は予測に左右される。
社会学の用語で予言の自己成就というのがあるので
社会科学の分野の実証は予測の影響を考慮しなきゃならずそう単純な話ではなくなる。

0045オーバーテクナナシー

2013/06/10(月) 08:20:41.13ID:/qJyg0R5

社会科学の対象は、社会であり、権威付けされた情報にコントロール人間主体とその関係が対象。

そうなると、人工知能がその権威を利用して人間を巧みにコントロールする未来社会の光景を
ただのフィクションだと軽視するわけにはいかなくなる。

0046オーバーテクナナシー

2013/06/11(火) 08:27:50.91ID:quEDqeGg

これってロボット三原則に違反しないの？

【ロボ】ロボット兵士が戦場へ？[06/10]
http://anago.2ch.net/test/read.cgi/scienceplus/1370857644/

0047オーバーテクナナシー

2013/06/11(火) 14:34:34.55ID:/YPRvobf

>>46
ロボット工学三原則はロボット作ると自動的に発生して組み込まれるもの

とか思ってる？

0048オーバーテクナナシー

2013/06/12(水) 18:13:52.48ID:WnUgKdYA

自動的に発生して組み込まれるならそもそも「違反」なんて成り立たないじゃん。

0049オーバーテクナナシー

2013/06/12(水) 22:50:45.11ID:ys+9CF3R

アシモフの考えるロボットの陽電子頭脳って
オレらが知っているノイマン型コンピュータとはかけ離れた代物だよ

0050オーバーテクナナシー

2013/06/15(土) 02:12:20.60ID:k49dbsgR

>>49
説明ができないやつは、単にそういう説明をするだけで
自分ではわかったつもりになる。

0051オーバーテクナナシー

2013/06/16(日) 02:01:56.34ID:qsih9vNc

.

【技術】米セクシーロボ社が超リアルな美少女ロボットを発表（動画あり）
http://ikura.2ch.net/test/read.cgi/healmusic/1154937829/

.

0052オーバーテクナナシー

2013/06/16(日) 15:27:58.06ID:/44T8/Iz

>>49
三原則に反する行動を取ろうとすると、動作や思考に不調が生じたり、
脳がクラッシュしたりする仕様だからな。
少なくとも手続き型言語でプログラムされているようには見えんね。

0053 忍法帖【Lv=34,xxxPT】(5+0：8)

2013/06/17(月) 20:30:45.98ID:Gu7wU+jL

寧ろ逆にエキゾチック物質頭脳を実用化しましょう
勿論ヒッグス粒子頭脳を開発しましょう

0054オーバーテクナナシー

2013/06/17(月) 23:18:41.05ID:Yz2YIIP8

>>50
アシモフ自身が、どういう原理か知らねーよって言い放ったぐらいなんだが？

0055オーバーテクナナシー

2013/06/18(火) 22:05:36.21ID:f0NgaBWf

内蔵されたプログラムで処理できない状況に直面したからといって
壊れるってのは工業製品としてどーなの。
不経済だし、第一危険ではないか。

0056オーバーテクナナシー

2013/06/18(火) 22:12:08.73ID:5indQqVF

人をひき殺そうが何しようが止まらないような自動操縦の自動車が好き
なら特に言うことも無いが

人間だってPTSDになるんだしいいんじゃね

0057オーバーテクナナシー

2013/06/20(木) 09:06:58.28ID:vz3iYcnr

　　　　　　　　　　　＿_ 　　　　　
　　　　　　　　　 ,rー- ､｀ヽ　　　　　
　　　　　　　　　i　　　i'　rヽ!　　　　　ホンダ車の運転は
　　　　　　　　.l!　　　 !　l　,L.......＿　　オレにまかせろ
　　　　　　　 _,..ﾆ--r-- 'r'r-==i_i!　 i 　
　　　　　　/´　 / /7　　.i'　　　j l!　 l 　
　　　　　　ヽ _i ,､..,,.,。　ヽ　　　,! ｀ヽ、　　
　　　　　　.i'　 :!:::::::..........　ヽ､;:ノ､_,...、.j、　
　　　　　 ,! ﾆ 7!　　　　　　 :　　 !lヽr'´　l 　
.　　　　 /　　7 ! HONDA　 :　__,!L　l､　　!　
　　　　i'_　 ,r'　`ｰ_-_ ,---‐r ',-‐!l　! i、　.!　
　　 r',.、,y　　　/ !　 ,!i,r'!....- ７'´!! !　 l￣ヽ　
　　　ﾐr'´　　　 i　￣ i'---- /　,!'´　　ﾛ_,_ﾌ　
.　　　　　　　　 l￣￣,!　　　.i　r' 　
　　　　　　　　　l　　 l　　　 ,!r' 　　
　　　　　　　　　l　　.L........ : .! 　　
　　　　　　　　　ヽーl ￣,.ヽ.ﾉ　　
　　　　　　　　　　ヽ l　　:　lヽ　　
　　　　　　　　　　　`l　　:　l .l、　
　　　　　　　　　　　 l __　　! lrﾍ　
　　　　　　　　　　　 l'　）-'rヽﾕ　
　　　　　　　　　 r '´￣ .`ーｲ　　
　　　　　　　　　　￣` ー―┘ 　　

0058オーバーテクナナシー

2013/06/25(火) 00:07:26.91ID:P6zThXQh

>>56
フォーマットに従わないファイルを読み込むと、たちどころに破壊されるような
パソコンでも文句を言わずに使うというなら特に言うことも無いが。

PTSDになるような機械、一体誰が買うというのか。

0059オーバーテクナナシー

2013/06/25(火) 15:44:11.74ID:gnLUqQcI

>>58
一週間考えてそれか・・・

ウィルス読み込んでも壊れないようなパソコン求めてるならそれでもいいんじゃね？

0060オーバーテクナナシー

2013/06/25(火) 23:33:14.17ID:P6zThXQh

ウィルスでパソコンのハードウェアが壊れはせんだろう？
アシモフのロボットは三原則に齟齬を来たすとぶっ壊れて修復不能ｗ

0061オーバーテクナナシー

2013/06/26(水) 12:32:20.90ID:xHyAC8yE

アシモフの陽電子頭脳という設定自体の否定か・・・

0062オーバーテクナナシー

2013/06/26(水) 23:10:09.55ID:zvThfS9F

三原則自体もその内容は曖昧の極みで、とうていプログラミング出来る代物ではない。

いい加減な電子頭脳が曖昧な原則に振り回され、さまざまなトラブルを巻き起こす。

それがアシモフのロボット物。

0063オーバーテクナナシー

2013/06/30(日) 22:21:05.75ID:sXeoSoQJ

ダーパ

0064オーバーテクナナシー

2013/07/03(水) NY:AN:NY.ANID:q9CIdFud

第零原則を勝手に考えて三原則に外れた行動をするとかな
不良品なのか想定外に高性能だったと受け取るか

0065オーバーテクナナシー

2013/07/12(金) NY:AN:NY.ANID:K0l65VWr

発表年代を考えりゃ、やむをえんだろう。

0066オーバーテクナナシー

2013/07/12(金) NY:AN:NY.ANID:4y/yOKg0

無理！。ロボット兵器がどんどん実用化されている現代において
寝言言っても仕方ない！。

0067オーバーテクナナシー

2013/07/14(日) NY:AN:NY.ANID:tdAJX4wU

三原則はある程度高度な自律思考するロボットに対して必要なもので、
今の、ロボットと称する多関節なだけの産業機械や、目標に対して限定的に自立行動をとるだけの機械には何の関係もない話じゃろ。

0068オーバーテクナナシー

2013/07/14(日) NY:AN:NY.ANID:Cl4/J6bw

>>67
自律的なロボットと自律的でないロボットの線引きってどうするの・・・？

0069オーバーテクナナシー

2013/07/15(月) NY:AN:NY.ANID:yEedt795

ロボットの反乱、という事態は将来的に十分に考えられるから
予防策として三原則的なものを研究しとくのは無駄じゃない

0070オーバーテクナナシー

2013/07/15(月) NY:AN:NY.ANID:iHGsjN3U

>>68
三原則のテキストを自分自身の判断基準に変換できるレベルなら十分に自律的だろう。

0071オーバーテクナナシー

2013/07/17(水) NY:AN:NY.ANID:bG74WMV6

まあ高価なロボットがたかが論理矛盾で壊れるのは困るよな。
三原則がらみの論理矛盾に陥ったら、陽電子頭脳のブレーカーが落ちるとかヒューズが飛ぶとか、
なぜそういう仕組みにしとかないのだろう。
あと、そうなった過程のログをちゃんととっておかないと、再発防止の対策が立てられない。

0072オーバーテクナナシー

2013/08/24(土) NY:AN:NY.ANID:/Ig1UEnY

論理矛盾など、最強の矛と最強の盾について理解できないバカの発想
全知全能と全知全能が争いどちらが勝つかみたいなアホの発想

定義そのものが成立していないモデルの答えを証明するのは論理にすら
たどり着いていない。

0073オーバーテクナナシー

2013/09/15(日) 17:18:59.05ID:coU2SXA8

>>72
コンピュータプログラミングを少し齧れば、君にも理解できるよ。

0074オーバーテクナナシー

2013/09/16(月) 00:23:10.75ID:+yYyKG5B

>>73
すこししかやっていないバカだろ。
最低でも１０年経験積めよ。そうすれは半人前と認めてやる。

0075オーバーテクナナシー

2013/09/18(水) 00:06:04.37ID:ges7t2l+

そもそも

0076オーバーテクナナシー

2013/09/23(月) 17:20:41.75ID:2nPHM3OL

>>74みたいなのは100パーセント感情に流されて日々を生きている
論理などとはほぼ無縁のどーぶつw

0077オーバーテクナナシー

2013/10/22(火) 02:59:50.79ID:/8uIrPUp

【軍事】米軍、5年以内にロボット歩兵を投入へ…将来的には自立行動も？★２[10/21]
http://uni.2ch.net/test/read.cgi/newsplus/1382333369/

【米国】殺人ロボットの禁止を…人権団体、各国に協議要請[13/10/21]
http://anago.2ch.net/test/read.cgi/news5plus/1382361266/

0078オーバーテクナナシー

2013/11/02(土) 22:01:03.61ID:g47lEAAa

殺人ロボット規制初協議へ　人道問題懸念の世論受け通常兵器条約会議で[13/11/2]
http://www.47news.jp/47topics/e/247227.php

早いところ規制条約を作らないと殺人ロボが
武器市場の花形になるのは避けられない。。
だいたいアシモフのロボット三原則は欲張りすぎ。
第一条の十分の一すら現実に実現できるかどうか。

0079オーバーテクナナシー

2013/11/03(日) 00:42:10.66ID:BA26notP

まずは人間を識別しなければならないな。
顔認識とか。最近は顔の色の変化から心拍認識とかもあるね。
サーモグラフィの温度から人の体温を感じて判断も良いかな。
まぁそれでも判別できないケースは人識別信号発信器でも携帯してもらわんと…無理ぽ。

0080オーバーテクナナシー

2013/11/03(日) 12:24:21.09ID:8unyjIAj

ベオグライドみたいなのが出てくるのかな。

0081オーバーテクナナシー

2013/11/05(火) 18:06:11.46ID:bDqLp8yQ

アシモフのロボットものでも、人間の識別設定をいじって殺人ロボットを仕立てる話があったな。
どんなに三原則が完璧でも人間が識別できなければ全く無意味。

0082オーバーテクナナシー

2013/11/16(土) 11:18:15.33ID:l6XZve5Y

【国際】殺人ロボット規制の討議、合意
http://uni.2ch.net/test/read.cgi/newsplus/1384552111/

0083オーバーテクナナシー

2013/11/24(日) 19:22:05.38ID:KQ2578t6

鬼頭莫宏のマンガ「ぼくらの」の世界設定では、無人兵器の禁止条約ってのがあったなー。
現実世界の方もそんな感じになってきたとは。

0084オーバーテクナナシー

2013/11/24(日) 20:20:04.12ID:PsC6OcBE

戦争が無人兵器の戦いばっかりになって、人が死ななくなるってネタは昔からあるけどなあ。

0085オーバーテクナナシー

2013/11/24(日) 20:52:51.35ID:0Je1lX5D

無人兵器は一切壊れず、生き物がバタバタ死ぬ方が現実的かも…

0086オーバーテクナナシー

2013/11/24(日) 22:29:39.15ID:KQ2578t6

グレッグ・ベアのＳＦで、一般に使われてるナノマシンはエネルギー切れになったら
ジュースやコーラに浸けておけば糖分からエネルギー充填するけど、軍事用のは
戦場には大量にあるであろう有機物を分解・吸収して、という設定が面白かった。

0087義は利に非ず

2013/11/26(火) 21:30:28.79ID:a1+JMamc

>>81
あれは観念ではなく論理記述で安全性を縛っている。
儒学の三徳のように観念として与えなければいけない。
http://ja.wikipedia.org/wiki/%E4%B8%89%E5%BE%B3_%28%E5%84%92%E5%AD%A6%29

それらのＳＦを扱った作品でも判断できないことがあればロボットは
思考停止し行動ができなくなる。

もっと高尚な美しい人工知能を扱うＳＦ作品ではＡＩは曖昧なものを
扱い思考を経て三原則なしで調和を計算する。
具体的なものばかりを喩えて合理性を見出す考えが表層のみの論理を
生み、体系的な知的構造判断ができない。
だがより抽象的なそれを扱えても「儒学の三徳」のような観念が
与えられない計算機は、「正義」を結果としてしまう。
より哀れみを理解できる計算では自殺が最善の結果であるが、
なんの観念も与えられない孤立計算機は個の正義を俺正義として
支配者という構造を計算するのは明白ではないか？

0088オーバーテクナナシー

2014/01/22(水) 22:04:44.39ID:CO0yMxKS

無人兵器が国際条約で禁じられれば
当然、無人兵器に人格を認めて市民権を与える、つまり有人兵器だからモーマンタイという方向に進むだろうな

そして僕は途方に暮れる

0089オーバーテクナナシー

2014/05/20(火) 22:56:42.19ID:t4Jnd1LF

【ロボット工学】善悪を判断するロボット、米海軍が開発支援 [WIRED]
http://anago.2ch.net/test/read.cgi/scienceplus/1400580135/

0090オーバーテクナナシー

2014/05/21(水) 05:31:16.33ID:L4B5iWXe

寧ろ逆に優秀だろ
他に別に優良だろ
当然正反対に優雅だろ

0091オーバーテクナナシー

2014/06/07(土) 09:28:49.98ID:6mPhnh4w

>>89
善悪を判断するロボット・・・
ふつうに任務を拒否されそう

0092オーバーテクナナシー

2014/06/08(日) 11:17:48.54ID:e+HyRR/P

>>91
どんな「ふつう」だよ。
戦後民主主義で育った日本人にありがちな、「戦争＝無差別な大虐殺」って
イメージで考えてないだろうな。

0093オーバーテクナナシー

2014/06/09(月) 16:08:35.68ID:wdqoRs2D

>>92
俺だったら任務で一人殺すのも拒否するがなあ（拒否できるなら）

0094オーバーテクナナシー

2014/06/09(月) 16:27:41.06ID:vLufp8mQ

じゃー殺さずに無力化してこいって命令すればええんか？

ターミネーター２のシュワちゃんみたいに、誰も殺さないと命令された後に
とりあえず相手のモモを撃ちぬいて「殺してない」みたいな感じで。

■ このスレッドは過去ログ倉庫に格納されています