2007-08-15から1日間の記事一覧
なんか、クエリである指数をある値(例えば原価)などにかけた場合、 小数点5位くらいから値がおかしくなるという現象に遭遇しました。 そもそもこんなことが起こるのかというと、 コンピュータの内部表現は2進数なので、例えば1/3なんかは表現できないわけ…
なんか、クエリである指数をある値(例えば原価)などにかけた場合、 小数点5位くらいから値がおかしくなるという現象に遭遇しました。 そもそもこんなことが起こるのかというと、 コンピュータの内部表現は2進数なので、例えば1/3なんかは表現できないわけ…