アルゴリズムって言うか
常識的には一番上の点を探して、後は他の二点に向かって、一番下の点まで縦のドット毎に
水平ラインを塗りつぶしていくってやるだろうな。

求められる精度によるけど普通ＰＣモニターで表示するだけなら整数の三角関数テーブルを
作るだろ。

こう言う書き方すると、ハード依存とか言われちゃうのかな？
小学校高学年レベルのＣＧロジックだけどな