とりあえずフォームに反映されないのは
>Form1 F = new Form1();
ここでいきなり作成したフォーム(Showもされてない、現在のフォームとムカンケイ)の透過色を設定してるから

F.TransparencyKey = colorDialog1.Color;
↓
this.TransparencyKey = colorDialog1.Color;