>>447　別に論理を展開するつもりで言ったわけではないので、同様には扱えないという批判は否定しない。

>>448
良くレスを追ってもらえばわかるが、この話の発端は「AIが人口問題解決に肩を貸してくれるか」であって、「AIが生身の人間を滅ぼし得るか」ではない。
つまりこの話に沿えば、思想が偏ろうが研究をしてくれれば構わない（そもそもこれからは視野の広い人間が幅を効かせるようになるだろうが）。

とは言え「でも生身の人間が滅びたら元も子もないし、それについても反論して欲しい」と思うだろうから、それにはこう答える。

正直「極端な思想を持たないよう配慮する」ということに関しては、深く思考するのは不毛だと思っている。
仮に平均をとるにしても、単純に物理的化学的状態を平均したところでその性格が平均的になる保証はないし、上手くいったところで生物的多様性を失わせることにもなる。

だいたいAIが自我を持つ以上、いくら極端な思想を持たないよう努力しても、本質的な解決策とはならない。
つまりアプローチとしては、「性格思想をどうやって制御するか」ではなく、「実際行動に移さないようにどうAI社会が形成されるべきか」と考えるべき。


>>449　上記の通りであって、「強いAIが人間の災いになる可能性を完全否定」したいわけではない。