>>108
僕は敵対的（或いは友好的でない）なAIができたらこういう理由で困るねって考えてる部分があるだけで、
敵対的なAIの必然性を想定しているわけではないかな。
人間の悪を投影して、悪い異星人や悪いAIを考えているのともちょっと違う（と思う）というのは、>>106の
駄文の部分を読んでもらえればわかると思う。

シェアを奪おうとするAIがあらわれれば、そのAIはシェアを奪う可能性がある。
繁栄を志向すものが繁栄する可能性が高いのは必然と言っていい。その過程の不安定は、人間が
考えうるよりずっと急激で、ずっと激烈な、ヤバいものになると思う。

AI同士のデータ的な争いや物理的な戦争であるとしても、AI対人間の戦争であるとしても、大して違いはない。
それがもたらす影響は、（猫が）人間同士の戦争によって、或いは猫と人間の戦争（もちろんこんなものは
ないけど）によって、猫が受ける影響を遥かに越えるはず。
先に書いたような「支配下になるわけじゃないから」とか、「揺らぎ」とかの話では終われない。

最終的にはAIが倫理を持った存在になる可能性もあるけれど、そこに収束するまでに、災厄の可能性を
ひめた、制御不能な弱いリングを一つも作り出さないように熟慮を重ねる必要がある。
科学技術が段階的に進歩して何とか上手く行ってきたから、AIについても段階的進歩に任せて大丈夫
だろう、みたいな楽観論が人間にはあるんじゃないかな。>>27で引用した文章とか。

長くて気持ちが悪い文章になってしまったので、ここで切る。

AIの倫理とか、それをどうやって組み込んで行くべきかについては想像もつかないというのが正直な所。
ぶっちゃけ、AIなんて作らないと人類全体で決めたほうが、人類は幸せなんじゃないかな。
とはいえ、そういうわけにもいかないし。