並列動作可能なら、CPU側のタスクに合わせてタスクスイッチする必要はないんじゃない?
OS分の描画やりながら、遊んでるユニットでGPGPUの計算するとかできんの?