画像処理 その6
■ このスレッドは過去ログ倉庫に格納されています
004443
2006/02/24(金) 14:23:38一例は下記のようになります。
※ 式B(int) と API で結果が異なるものを「×」としています。
・結果が負の場合
×: [式B(double)] = -41.53, [式B(int)] = -41, [API] = -42
○: [式B(double)] = -37.52, [式B(int)] = -37, [API] = -37 [※1]
○: [式B(double)] = -33.50, [式B(int)] = -33, [API] = -33 [※1]
○: [式B(double)] = -29.48, [式B(int)] = -29, [API] = -29
・結果が正の場合
○: [式B(double)] = 25.46, [式B(int)] = 25, [API] = 25
×: [式B(double)] = 29.48, [式B(int)] = 29, [API] = 30 [※2]
×: [式B(double)] = 33.50, [式B(int)] = 33, [API] = 34
×: [式B(double)] = 37.52, [式B(int)] = 37, [API] = 38
※1 [式B(double)] の値が四捨五入対象なのに [API] ではされていないケース。
※2 [式B(double)] の値が四捨五入対象ではないのに [API] ではされているケース。
傾向としては、APIの方では [式B(double)] の値を四捨五入しているように
感じられますが、※1, 2 のような例外もあります。
そのため、[式B] を double で行い四捨五入後に整数化しても
API と同じ結果を得ることができません。
そこで、お聞きしたいのですが、座標変換を行う場合は
数学的に導いた [式B] をそのまま使うのではなく
画像処理特有の工夫みたいなものがあるのでしょうか?
結果としては、ほぼ同じなので問題ないとは思うのですが
今後の勉強のために何かアドバイスがありましたら
よろしくお願いします。
■ このスレッドは過去ログ倉庫に格納されています