一.浮点数精度的损失

关于浮点数的比较就不得不提到浮点数在内存中的存储，但这里篇幅太大，故我将其放在另一篇博客里，（如果不了解它的存储看这篇博客也是没问题的）这里我们就直接看现象

浮点数在储存中，并非像我们所想的那样是完整储存的，它会发生精度的丢失，注意这里并不单单指变小，也有可能变大。浮点数在存储时，在计算不尽时会采用四舍五入法

在这里插入图片描述

那么我们不妨试想一下，既然会发生精度的损失，那么它们在相互比较时能不能成立呢？

二.浮点数的比较

在这里插入图片描述

从结果可以看出1.0-0.1不等于0.1，跟我们的常理不符，这是因为发生了精度的丢失。

我们得出结论，浮点数相比较时决对不能用==直接比较

那么我们该怎样比较浮点数呢？

1.方法一

在这里插入图片描述

设定一个范围，只要两浮点数相减的值在一个范围内，那么就可以判断这两浮点数相等

在这里插入图片描述

这里我们自定义了一个精度EPS，只要误差在EPS内，那么判断就成立

其实可以看出这样的判断很麻烦，那么我们是否能直接取绝对值，如果我们判断x-0.9是否等于0.1，这样只需要|x-0.9-0.1|

2.方法二

这个函数就是专门用来取浮点数的绝对值，它的返回值就是这个浮点数的绝对值

这样看起来是不是就简洁许多了啦

3.方法三：系统方案

像上文中的EPS，是我们自己设定的精度，其实系统自己有一个精度DBL_EPSILON

从定义中可以看到，这个精度很小，是一个最小精度，也是系统给出的精度可以直接使用。在使用时别忘了加上头文件float.h哟

结论：如果以后判断两个浮点数相等的话，只需要它们两个数相减的值的绝对值小于DBL_EPSILON就可以啦

插入一个小知识，如果要比较浮点数和0的大小

只需要fabs(x)

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：深度视觉中有关图像projection的代码改写cv2.remap() → F.grid_sample() | Numpy+cv2格式改为PyTorch格式

下一篇：JavaScript进阶教程——包装对象、类型转换、作用域、闭包与模块化

相关内容

热门资讯

保存时出现了1个错误，导致这篇... 当保存文章时出现错误时，可以通过以下步骤解决问题：查看错误信息：查看错误提示信息可以帮助我们了解具体...

汇川伺服电机位置控制模式参数配... 1. 基本控制参数设置 1）设置位置控制模式 2）绝对值位置线性模...

不能访问光猫的的管理页面光猫是现代家庭宽带网络的重要组成部分，它可以提供高速稳定的网络连接。但是，有时候我们会遇到不能访问光...

表格中数据未显示当表格中的数据未显示时，可能是由于以下几个原因导致的：HTML代码问题：检查表格的HTML代码是否正...

本地主机上的图像未显示问题描述：在本地主机上显示图像时，图像未能正常显示。解决方法：以下是一些可能的解决方法，具体取决于问...

表格列调整大小出现问题问题描述：表格列调整大小出现问题，无法正常调整列宽。解决方法：检查表格的布局方式是否正确。确保表格使...

不一致的条件格式要解决不一致的条件格式问题，可以按照以下步骤进行：确定条件格式的规则：首先，需要明确条件格式的规则是...

Android|无法访问或保存... 这个问题可能是由于权限设置不正确导致的。您需要在应用程序清单文件中添加以下代码来请求适当的权限：此外...

【NI Multisim 14... 目录序言一、工具栏 🍊1.“标准”工具栏 🍊 2.视图工具...

银河麒麟V10SP1高级服务器... 银河麒麟高级服务器操作系统简介：银河麒麟高级服务器操作系统V10是针对企业级关键业务...