>>193
あー、「理解」を捕らえ違いしてるような気が。
例えば、自分(AI)が食欲を持っていない状態で、
自分以外には食欲という欲求があることを理解していないと、
「おなかが空いていませんか？」などと発言することができないと思う。
これは生理的欲求を実装しない前提の話になるけどね。

機械に載せる場合、動力源（バッテリー）が切れそうな状態で
「おなかが空いた。」と言うなら、生理的欲求といえなくはないけど
かなり擬人化した状態だね。

>>194
SFだけの話じゃないと思う。
作った人を殺してはいけない。とか、勝手に犯罪を犯してはいけない。等の
制御ができないと作った人の身が滅ぶ。
「ロボットが勝手にやったので知りません。」なんて言い訳は現実世界で通らない。

>>198
守る必要ないじゃん。
メイド対ご主人様の関係なら守らなきゃならない契約になると思うが。