はじめに
小数値を計算して使用すると、どうしても誤差が生じます。
そのため有効桁数で四捨五入して使用するため、四捨五入する方法を調査しました。
Math.Roundメソッド
四捨五入するにはMathクラスのRoundメソッドを利用します。
小数値を四捨五入するRoundメソッドは次の4つの引数パターンがあり、それぞれどのように丸めか選択できます。
Roundメソッドは整数値も丸められますが、今回は省略します。
| メソッド名 | 説明 |
|---|---|
| Round(Double) | 最も近い整数値に丸めます。 |
| Round(Double, Int32) | 指定した小数桁数に丸めます。 |
| Round(Double, Int32, MidpointRounding) | 指定した小数桁数に丸めます。 値が数値の中間にある場合は第3引数のMidpointRoundingで指定される方法で丸められます。 |
| Round(Double, MidpointRounding) | 最も近い整数値に丸めます。 |
MidpointRounding列挙子は次の2つが指定できます。
| メンバー名 | 説明 |
|---|---|
| AwayFromZero | 数値が2つの数値の中間に位置するときに、ゼロから遠い方の近似値に丸められます。 |
| ToEven | 数値が2つの数値の中間に位置するときに、最も近い偶数方向に丸められます。 |
API Refernce
Math.Roundメソッド
MidpointRounding列挙子
おわりに
小数値を使った案件はあまりやったことがなく、今回初めて小数値を扱いましたが計算誤差で結構はまりました。
ロジックはあっているはずなのに想定の動作にならないことが多々あり、デバッグに時間がかかりました。
お仕事決まれば全額キャッシュバック！転職特化型Ruby実践研修【ポテパンキャンプ】
紹介している一部の記事のコードはGitlabで公開しています。
興味のある方は覗いてみてください。
私が勤務しているニューラルでは、主に組み込み系ソフトの開発を行っております。
弊社製品のハイブリッドOS Bi-OSは高い技術力を評価されており、特に制御系や通信系を得意としています。
私自身はiOSモバイルアプリやウィンドウズアプリを得意としております。
ソフトウェア開発に関して相談などございましたら、お気軽にご連絡ください。
また一緒に働きたい技術者の方も随時募集中です。
興味がありましたらご連絡ください。
EMAIL : info-nr@newral.co.jp / m-futamata@newral.co.jp
TEL : 042-523-3663
FAX : 042-540-1688
