double値の比較処理って有効桁に気を使わないとまずいんだっけ・・・?
double a=1.00000; if(a==1)
とかいう条件は真にならないのかな・・・?
対策としては、aをintにキャスティングして比較するか、
有効桁による範囲指定で比較処理をするかどちらかかなー。
うーむ調査せねば。
プログラミング tappe
double値の比較処理って有効桁に気を使わないとまずいんだっけ・・・?
double a=1.00000; if(a==1)
とかいう条件は真にならないのかな・・・?
対策としては、aをintにキャスティングして比較するか、
有効桁による範囲指定で比較処理をするかどちらかかなー。
うーむ調査せねば。
実験の結果、上の条件でも真になることが判明。
それほど気をつかわなくてもいいってことだな。