実行時にプログラムからテキストボックス、ラベルなどを
一時的に作成することはできるのでしょうか?

「テキスト追加」の様なボタンを押すと、
フォームにテキストボックスが追加できれば良いのですが?
追加したものは、フォームを閉じるときに破棄されて構いません。