支配とか観察とか人間のような感覚で強いAIを捉えている人が多いけど、支配欲とか好奇心は人間が地球上の生存競争を勝ち残るために獲得してきた特性であって、電気で動いて交換可能な身体を持ったロボットなら、そんな特性は必要ない。

要は行動原理をどう設定するか、その後どう変化するかの問題で、仮にすべてを破壊するように設定すれば、自分の生存など考慮せずにあらゆる手段で地球を破壊するだろう。
もちろん人間同様の行動原理を与えれば支配、観察もするかもしれない。

AIが人間に有益であり続けるためにどのような行動原理を与え、どうコントロールするかが課題だと思う。

それが確立するまでは、強いAIは作るべきでないと思う。