>>638-639
TControlクラスのSetTextBufメソッドを使うと良いでしょう．

procedure TForm1.Button1Click(Sender: TObject);
var
　i: integer;
　NewCaptionOrText: string;
begin
　for i := 0 to pred(ComponentCount) do
　　if Components[i] is TControl then //※1
　　begin
　　　NewCaptionOrText := format('%d番目のｺﾝﾎﾟ', [1 + i]);
　　　(Components[i] as TControl).SetTextBuf(PChar(NewCaptionOrText)); //※2
　　end;
end;

ラベルコンポやエディットコンポなど，実行時に目に見えるコンポーネントは基本的にTControlの仲間で，
SetTextBufというCaptionまたはTextを変更するメソッドを持っています．
そこで※1でis演算子を使ってフォーム上の番号iのコンポがTControlの仲間かどうかを調べ，もしそうなら，
※2でas演算子を使ってTControlの仲間として解釈し，SetTextBufメソッドを実行しています．