Mapperのロジックアイコンで、数値⇒演算 の処理アイコン(足し算、引き算、掛け算、割り算、余り)に「丸め処理」項目があり、選択できる8つの処理が有ります

Avatar
dstn

Question

Mapperのロジックアイコンで、数値⇒演算 の処理アイコン(足し算、引き算、掛け算、割り算、余り)に「丸め処理」項目があり、選択できる8つの処理が有ります。
それぞれどの様な処理結果となるのでしょうか?具体的な処理例があれば提示ください。

Answer

■仕様説明

ここで選択できる8つの「丸め処理」の仕様は、javaで実装されている
丸め動作と同一となります。

以下に具体例を記載します

(1)0に近づくように丸める

破棄される小数部に先行する桁を増分しません。
例)
5.5 → 5
2.5 → 2
-1.1 → -1
-1.6 → -1
-2.5 → -2

(2)0から離れるように丸める

破棄される 0 以外の小数部に先行する桁を常に増やします。
例)
5.5 → 6
2.5 → 3
-1.1 → -2
-1.6 → -2
-2.5 → -3

(3)正の無限大に近づくように丸める

・正の数の場合
「0から離れるように丸める」と同様の動作になります。
・負の数の場合
「0に近づくように丸める」と同様の動作になります。
例)
5.5 → 6
2.5 → 3
-1.1 → -1
-1.6 → -1
-2.5 → -2

(4)負の無限大に近づくように丸める

・正の数の場合
「0に近づくように丸める」と同様の動作になります。
・負の数の場合
「0から離れるように丸める」と同様の動作になります。
例)
5.5 → 5
2.5 → 2
-1.1 → -2
-1.6 → -2
-2.5 → -3

(5)最も近い数字に丸める(等距離の場合は切り上げ)

端数がちょうど0.5だった場合、切り上げます。
例)
5.5 → 6
2.5 → 3
-1.1 → -1
-1.6 → -2
-2.5 → -3

(6)最も近い数字に丸める(切り捨て)

端数がちょうど0.5だった場合、切り捨てます。
例)
5.5 → 5
2.5 → 2
-1.1 → -1
-1.6 → -2
-2.5 → -2

(7)最も近い数字に丸める(偶数側)

端数がちょうど0.5だった場合、切り捨てと切り上げのうち結果が偶数となる方へ丸める方法になります。
例)
5.5 → 6
2.5 → 2
-1.1 → -1
-1.6 → -2
-2.5 → -2


(8)丸めの必要なし

丸めが必要でないことを表すモードです。結果が正確でない演算で指定された場合、エラーを返します。
例)
5.5 → エラー
2.5 → エラー
1.0 → 1
-1.0 → -1
-2.5 → エラー

参考情報




[注意事項]
  • このFAQの内容は2017年3月時点のものです。内容は予告なく変更されることがありますので、ご注意ください。
  • 一部にDataSpider Servistaサポートサイトへのリンクを含むことがあります。サポートサイトにアクセスするには、DataSpiderのサポート契約が必要です。


ID:Q195

コメント

記事コメントは受け付けていません。

Powered by Zendesk