人間を越える知性ができ、それがより高い知性を生産していくというスパイラルはきっと来るだろう
ここで問題になるのはその知性が何を目的に活動するように設定するかだろう

宇宙開発だとか、環境保護だとか、食料生産、平和、子孫の繁栄…
いろいろあるだろうが、どれも恣意的でそんなものを目的として設定するわけにはいくまい
今いる人間の幸福…それが唯一の合理的な解答であろう

ところがこれを目的としたときに行き着く先は、幸福最大化装置による滅亡だと思う

http://utilitarianism.blog109.fc2.com/blog-entry-31.html