文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

java为什么会出现精度丢失这种现象你知道吗

2024-04-02 19:55

关注

很多人都知道:浮点数值不适用于无法接受舍入误差的金融计算中,即:我们常说的丢失精度问题。

这是为什么呢?

很多人还知道这样一句话:这种舍入误差的主要原因是浮点数值采用二进制系统表示, 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。

针对十进制,1除以3是除不尽的。很好理解,因为我们一直接触的就是十进制,等于0.333333… 很好理解

但是:二进制系统中无法精确地表示分数 1/10。为啥呢。就有点不理解了

《Java核心技术卷》书上也是这么写的。

在这里插入图片描述

接下来我们就深究一下为什么!!! 

重点这句话:这种舍入误差的主要原因是浮点数值采用二进制系统表示。就是说我们在代码中编写的 System.out.println(4.0 - 3.6); 这样一段代码, 

计算过程:

①将十进制的 4.0 转换成 二进制,将十进制的 3.6 转换成二进制;

②使用转换后的二进制,进行减法运算 

3.6 转换成二进制,就类似于 1除以3一样,是除不尽。所以 System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999

备注:

十进制的 3.6 转换成二进制为:11.100110011001…(一直循环除不尽),就类似于 1/3 是 0.33333333333…除不尽。所以System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999

十进制的 3.6 转换成二进制为:11.100110011001…

转换过程参考下文⬇⬇⬇ 【4.(小数)十进制转二进制(除不尽)】

此处涉及到进制转换,参考下文:

涉及到:

1.二进制 转 十进制
2.十进制 转 二进制
3.(小数)十进制 转 二进制

接下来,举几个二进制和十进制之间转换的例子 。你就知道为什么【除不尽】了

1.二进制转十进制

二进制转十进制

2.(整数)十进制转二进制

十进制转二进制

3.(小数)十进制转二进制(可除尽)

请添加图片描述

4.(小数)十进制转二进制(除不尽)

请添加图片描述

总结:  

因为 3.6 转成二进制为 11.10011001....,除不尽的

所以 System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999

本片文章就到这里了,希望能够给你带来帮助,也希望您能够多多关注编程网的更多内容!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯