2010年12月25日土曜日

プログラミング その1

Visual Basicでの四捨五入

ex.テキストボックスから入力された半径から球の体積を求める際、少数第2位を四捨五入する

Radius = TextBox.Text

Volume = 4 / 3 * Math.PI * Radius ^ 3

'ここから四捨五入'
Volume = math.Floor(Volume * 10 + 0.5) / 10
※Floorは小数点以下切り捨てのメソッド

たとえば四捨五入する前の体積が55.128・・・だった場合、

Volume * 10 = 551.28 + 0.5 = 551.78 / 10 = 55.1

となる。

たとえば四捨五入する前の体積が55.178・・・だった場合、

Volume * 10 = 551.78 + 0.5 = 552.28 / 10 = 55.2

となり、結果的に少数第2位が四捨五入されている結果となる。

0 件のコメント:

コメントを投稿