新聞中心
本文轉(zhuǎn)載自微信公眾號「 故里學Java」,作者 故里學Java。轉(zhuǎn)載本文請聯(lián)系 故里學Java公眾號。

10年積累的網(wǎng)站設(shè)計制作、做網(wǎng)站經(jīng)驗,可以快速應(yīng)對客戶對網(wǎng)站的新想法和需求。提供各種問題對應(yīng)的解決方案。讓選擇我們的客戶得到更好、更有力的網(wǎng)絡(luò)服務(wù)。我雖然不認識你,你也不認識我。但先建設(shè)網(wǎng)站后付款的網(wǎng)站建設(shè)流程,更有荔波免費網(wǎng)站建設(shè)讓你可以放心的選擇與我們合作。
在我們?nèi)粘9ぷ髦袛?shù)值計算是不可避免的,特別是電商類系統(tǒng)中,這個問題一般情況下我們都是特別注意的,但是一不注意就會出大問題,跟錢有關(guān)的事情沒小事。這不新來的大兄弟就一個不注意,在這個小陰溝里翻車了,鬧笑話了。
為了我們以后可以避免在這個問題上犯錯,我今天特地寫了這一篇來總結(jié)一下。
避免用Double來進行運算
使用Double來計算,我們以為的算術(shù)運算和計算機計算的并不完全一直,這是因為計算機是以二進制存儲數(shù)值的,我們輸入的十進制數(shù)值都會轉(zhuǎn)換成二進制進行計算,十進制轉(zhuǎn)二進制再轉(zhuǎn)換成十進制就不是原來那個十進制了,再也不是曾經(jīng)那個少年了。舉個例子:十進制的0.1轉(zhuǎn)換成二進制是0.0 0011 0011 0011...(無數(shù)個0011),再轉(zhuǎn)換成十進制就是0.1000000000000000055511151231,看到了吧,沒有騙你的。
計算機無法精確地表達浮點數(shù),這是不可避免的,這是為什么浮點數(shù)計算后精度損失的原因。
- System.out.println(0.1+0.2);
- System.out.println(1.0-0.8);
- System.out.println(4.015*100);
- System.out.println(123.3/100);
通過簡單的例子,我們發(fā)現(xiàn)精度損失并不是很大,但是這并不代表我們可以使用,特別是電商類系統(tǒng)中,每天少說幾百萬的單量,每筆訂單哪怕少計算一分錢,算下來也是一筆不小的金額,所以說,這不是個小事情,然后很多人就說,金額計算啊,你用BigDecimal啊,對的,這個沒毛病,但是用了BigDecimal就完事大吉了嗎?當問出這句話的時候,就說明這其中必有蹊蹺。
BigDecimal你遇見過哪些坑?
還是通過一個簡單的例子,計算上邊例子中的運算,來看一下結(jié)果:
- System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
- System.out.println(new BigDecimal(1.0).subtract(new BigDecimal(0.8)));
- System.out.println(new BigDecimal(4.015).multiply(new BigDecimal(100)));
- System.out.println(new BigDecimal(123.3).divide(new BigDecimal(100)));
我們發(fā)現(xiàn)使用了BigDecimal之后計算結(jié)果還是不精確,這里就要記住BigDecimal的第一個坑了:
BigDecimal來表示和計算浮點數(shù)的時候,要使用String的構(gòu)造方法來初始化BigDecimal。
小的改進一下再來看看結(jié)果:
- System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
- System.out.println(new BigDecimal("1.0").subtract(new BigDecimal("0.8")));
- System.out.println(new BigDecimal("4.015").multiply(new BigDecimal("100")));
- System.out.println(new BigDecimal("123.3").divide(new BigDecimal("100")));
那么接下來一個問題,使用了BigDecimal就萬事大吉了嗎?并不是的!
接下來我們來看一下BigDecimal的源碼,這里面有一個地方需要注意,先看圖:
注意看這兩個屬性,scale表示小數(shù)點右邊幾位,precision表示精度,就是我們常說的有效長度。
前邊我們已經(jīng)知道,BigDecimal必須傳入字符串類型數(shù)值,那么如果我們現(xiàn)在是一個Double類型數(shù)值,該如何操作呢?通過一個簡單的測試我們來看一下:
- private static void testScale() {
- BigDecimal bigDecimal1 = new BigDecimal(Double.toString(100));
- BigDecimal bigDecimal2 = new BigDecimal(String.valueOf(100d));
- BigDecimal bigDecimal3 = BigDecimal.valueOf(100d);
- BigDecimal bigDecimal4 = new BigDecimal("100");
- BigDecimal bigDecimal5 = new BigDecimal(String.valueOf(100));
- print(bigDecimal1);
- print(bigDecimal2);
- print(bigDecimal3);
- print(bigDecimal4);
- print(bigDecimal5);
- }
- private static void print(BigDecimal bigDecimal) {
- System.out.println(String.format("scale %s precision %s result %s", bigDecimal.scale(), bigDecimal.precision(), bigDecimal.multiply(new BigDecimal("1.001"))));
- }
run一下我們發(fā)現(xiàn),以上前三種方式是將double轉(zhuǎn)換成BigDecimal之后,得到的BigDecimal的scale都是1,precision都是4,后兩種方式的toString方法得到的scale都是0,precision都是3,與1.001進行乘運算后,我們發(fā)現(xiàn),scale是兩個數(shù)的scale相加的結(jié)果。
我們在處理浮點數(shù)的字符串的時候,應(yīng)該顯式的方式通過格式化表達式或者格式化工具來明確小數(shù)位數(shù)和舍入方式。
浮點數(shù)的舍入和格式化該如何選擇?
我們首先來看看使用String.format的格式化舍入,會有什么結(jié)果,我們知道浮點數(shù)有double和float兩種,下邊我們就用這兩種來舉例子:
- double num1 = 3.35;
- float num2 = 3.35f;
- System.out.println(String.format("%.1f", num1));
- System.out.println(String.format("%.1f", num2));
得到的結(jié)果似乎與我們的預(yù)期有出入,其實這個問題也很好解釋,double和float的精度是不同的,double的3.35相當于3.350000000000000088817841970012523233890533447265625,而float的3.35相當于3.349999904632568359375,String.format才有的又是四舍五入的方式舍入,所以精度問題和舍入方式就導(dǎo)致了運算結(jié)果與我們預(yù)期不同。
Formatter類中默認使用的是HALF_UP的舍入方式,如果我們需要使用其他的舍入方式來格式化,可以手動設(shè)置。
到這里我們就知道通過String.format的方式來格式化這條路坑有點多,所以,「浮點數(shù)的字符串格式化還得要使用BigDecimal來進行」。
來,上代碼,測試一下究竟是不是那么回事:
- BigDecimal num1 = new BigDecimal("3.35");
- //小數(shù)點后1位,向下舍入
- BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
- System.out.println(num2);
- //小數(shù)點后1位,四舍五入
- BigDecimal num3 = num1.setScale(1, BigDecimal.ROUND_HALF_UP);
- System.out.println(num3);
- 輸入結(jié)果:
- 3.3
- 3.4
這次得到的結(jié)果與我們預(yù)期一致。
BigDecimal不能使用equals方法比較?
我們都知道,包裝類的比較要使用equals,而不能使用==,那么這一條在Bigdecimal中也適用嗎?數(shù)據(jù)說話,簡單的一個測試來說明:
- System.out.println(new BigDecimal("1").equals(new BigDecimal("1.0")))
- 結(jié)果:false
按照我們的理解1和1.0是相等的,也應(yīng)該是相等的,但是Bigdecimal的equals在比較中不只是比較了value,還比較了scale,我們前邊說了scale是小數(shù)點后的位數(shù),明顯兩個值的小數(shù)點后位數(shù)不一樣,所以結(jié)果為false。
實際的使用中,我們常常是只希望比較兩個BigDecimal的value,這里就要注意,要使用compareTo方法:
- System.out.println(new BigDecimal("1").compareTo(new BigDecimal("1.0")))
- 結(jié)果:true
最后
再總結(jié)一下今天的文章:
- 避免使用Double來進行運算
- BigDecimal的初始化要使用String入?yún)⒒蛘連igDecimal.valueOf()
- 浮點數(shù)的格式化建議使用BigDecimal
- 比較兩個BigDecimal的value要使用compareTo
分享標題:剛來的大兄弟在這個小問題上翻車了,你確定不看一下?
本文路徑:http://www.dlmjj.cn/article/coiosjg.html


咨詢
建站咨詢
