俺は普通に本体のアップデート機能でやったけど。
2.0時代は何らかで差分アップの場合失敗とかしたけど
その後のフルDLでの本体アップ機能で成功。
3.0→のは普通に自動差分アップデート問題なかった。

ただこの場合、OSにインストール情報が記録されるので
一旦Portable Firefox丸ごと他所にコピー退避、
追加と削除からアンスコ、元の場所にコピーで上書きで、
拘るならその後CCクリーナー等でレジストリ残骸消すとか必要だけどね。