(強いAI)技術的特異点/シンギュラリティ(世界加速)4
■ このスレッドは過去ログ倉庫に格納されています
0487オーバーテクナナシー
2012/08/27(月) 19:47:52.44ID:41NlTxs4>もちろん次第に差は付く。
>しかしそれは時間経過によるものであって、最初はあまり差はないだろう。
その「次第に」がすっぴんの人間の一世代よりも遥かに短い間隔になる事が問題なんだが。
たぶん、君も私も収穫加速によって特異点が訪れる事をほぼ必然と考えているだろうが、
特異点以降、超AIが世界に及ぼす影響力はすっぴんの人間(の集団)が及ぼす影響力など比較にもならない程に、
あっと言う間に増大するだろう。
(何といっても、超AIが自分自身に収穫加速の法則を適用できるのだから)
そうなった時、超AIがすっぴんの人間の自由意思を尊重してくれる保証などどこにも無い。
(>>452から始まる一連のアイデアはかなり有望そうに見えるが、これとて、
「人類に対してヤンデレな超AIができちゃったらどうする?」という懸念がある)
君は、どうやって、特異点以後の超AIに、すっぴんの人間が自ら好ましいと思う生き方を選択する事を尊重させられると思うのか。
その辺りどう考えているのか知りたい。
■ このスレッドは過去ログ倉庫に格納されています