一.浮点数精度的损失

关于浮点数的比较就不得不提到浮点数在内存中的存储，但这里篇幅太大，故我将其放在另一篇博客里，（如果不了解它的存储看这篇博客也是没问题的）这里我们就直接看现象

浮点数在储存中，并非像我们所想的那样是完整储存的，它会发生精度的丢失，注意这里并不单单指变小，也有可能变大。浮点数在存储时，在计算不尽时会采用四舍五入法

在这里插入图片描述

那么我们不妨试想一下，既然会发生精度的损失，那么它们在相互比较时能不能成立呢？

二.浮点数的比较

在这里插入图片描述

从结果可以看出1.0-0.1不等于0.1，跟我们的常理不符，这是因为发生了精度的丢失。

我们得出结论，浮点数相比较时决对不能用==直接比较

那么我们该怎样比较浮点数呢？

1.方法一

在这里插入图片描述

设定一个范围，只要两浮点数相减的值在一个范围内，那么就可以判断这两浮点数相等

在这里插入图片描述

这里我们自定义了一个精度EPS，只要误差在EPS内，那么判断就成立

其实可以看出这样的判断很麻烦，那么我们是否能直接取绝对值，如果我们判断x-0.9是否等于0.1，这样只需要|x-0.9-0.1|

2.方法二

这个函数就是专门用来取浮点数的绝对值，它的返回值就是这个浮点数的绝对值

这样看起来是不是就简洁许多了啦

3.方法三：系统方案

像上文中的EPS，是我们自己设定的精度，其实系统自己有一个精度DBL_EPSILON

从定义中可以看到，这个精度很小，是一个最小精度，也是系统给出的精度可以直接使用。在使用时别忘了加上头文件float.h哟

结论：如果以后判断两个浮点数相等的话，只需要它们两个数相减的值的绝对值小于DBL_EPSILON就可以啦

插入一个小知识，如果要比较浮点数和0的大小

只需要fabs(x)

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：深度视觉中有关图像projection的代码改写cv2.remap() → F.grid_sample() | Numpy+cv2格式改为PyTorch格式

下一篇：JavaScript进阶教程——包装对象、类型转换、作用域、闭包与模块化

相关内容

热门资讯

前端-session、jwt 目录：（1）session （2&#x...

linux入门---制作进度条了解缓冲区我们首先来看看下面的操作：我们首先创建了一个文件并在这个文件里面添加了...

关于测试，我发现了哪些新大陆关于测试平常也只是听说过一些关于测试的术语，但并没有使用过测试工具。偶然看到编程老师...

前缀和与对数器与二分法 1. 前缀和假设有一个数组，我们想大量频繁的去访问L到R这个区间的和，...

nodejs：本地安装nvm实... 一、背景-使用不同版本node的原因 vue3+ts、nuxt3版本，node...

JAVA集合知识整理 Java集合知识整理 HashMap相关 HashMap的底层数据结构：jdk1.8之...

无刷直流电机介绍及单片机控制实... 无刷直流电机介绍及单片机控制实例前言基本概念优势与劣势使用寿命基本结构使用单片机控制实例电子调速器&...

fwdiary(2) dp2 1.传纸条 AcWing 275. 传纸条 - AcWing 走两条路，走一条最大的...

常用的DOS命令常用的DOS命令 DOS（Disk Operating System，磁...

＜C++＞类和对象(下) 1.const成员函数将const修饰的“成员函数”称之为const成员函数，cons...