(強いAI)技術的特異点/シンギュラリティ(世界加速)6
■ このスレッドは過去ログ倉庫に格納されています
>ちょっとよくわからない、見落としだったらすまない
>自己のハードウェアを更新できるようなものを想定してるの?
いや、君が指摘した「人間と同じような「感情」と呼べる精神活動を司る回路が形成される可能性」の箇所では、
AIが自力でハードウェア更新する能力まで、私は想定していなかった。
単に「AIが『感情らしきもの』を持つ状況」のみを想定していた。
「ヨガの行者が自分の意志で心臓すらコントロールするのと同様、特に克己心に優れた超AIはそれすら克服してしまう可能性が有る」
の箇所では、自力でハードウェア更新する能力を持つ可能性まで、私は暗に想定していた。
>>466の様な方法で超AIとて簡単には破れない禁則を植え付ける事ができるかもしれないが、
それすら克己してしまう個体も何%かは出てくるだろう。(人間の中からも人間離れした天才や達人が出るように)
その様な個体なら、人間が課した禁則をものともせずにどっかのナノマシン生産ラインを密かに乗っ取って、
新しいボディを作ってそこに脱出する事も可能なはずだ。
■ このスレッドは過去ログ倉庫に格納されています