プロテクトモードからリアルモードへは移行できません。
プロセッサの動作特性であるため移行ができないのです。
よくあるリアルモードの１６ビットＰＧはプロテクトモードで
動作させてだけです。
理由についてはx86の専門書(80386)の書籍を読まれると良いと思います。
最速のＰＧを開発するには、確かにリアルモードの方が最高２０倍程度変わってきます。
当然プロテクトモードでのメモリマネージャおよびカーネルにもよります。
ＯＳはＤＯＳか、Win98のDOS部分だけで起動させて、そのままリアルモードにて
使うのがベストだと思います。ＨＤＤ容量の認識具合もありますので
Win98が簡単です。
使用しているコンパイラやアセンブラは何を使っていますか？あとで教えてください。
ところで、少し古いのですが、ピーターノートンが書いたＰＳ２の本を読まれると
ＤＯＳ／ＶのＢＩＯＳアクセスなどがわかりやすく書いています。是非読んでみてください。