FindWindow APIの第二引数はドキュメントによれば
「NULL で終わる文字列へのポインタを指定します」
とありますが、
FindWindow(NULL,"aaaaa");
とすると、aaaaaというタイトルのウィンドウがあればちゃんとハンドルが帰ってきます。

例えばchar a[] = "aaaa";
とすればa[]には実際にはaaaa\0が格納されますが、
LPCTSTR型に関しても同じ作用があるのでしょうか?

あ、LPCTSTR型ってchar *の別名でしたっけ?