YouTube | Facebook | X(Twitter) | RSS

Decimal 型の操作

2016/9/1 (木) 

import numpy
import decimal
 
x = 198576 / 1000.0
x = numpy.float64(x)
 
y = decimal.Decimal(x).quantize(decimal.Decimal('.000'), rounding=decimal.ROUND_HALF_UP)
z = decimal.Decimal(x)
 
print type(y),y
print type(z),z
この記事タイトルとURLをコピー
  • この記事を書いた人

羽田 康祐

伊達と酔狂のGISエンジニア。GIS上級技術者、Esri認定インストラクター、CompTIA CTT+ Classroom Trainer、潜水士、PADIダイブマスター、四アマ。WordPress は 2.1 からのユーザーで歴だけは長い。 代表著書『"地図リテラシー入門―地図の正しい読み方・描き方がわかる』 GIS を使った自己紹介はこちら。ESRIジャパン(株)所属、元青山学院大学非常勤講師を兼務。日本地図学会第31期常任委員。発言は個人の見解です。

-プログラミング
-