一.浮点数精度的损失

关于浮点数的比较就不得不提到浮点数在内存中的存储，但这里篇幅太大，故我将其放在另一篇博客里，（如果不了解它的存储看这篇博客也是没问题的）这里我们就直接看现象

浮点数在储存中，并非像我们所想的那样是完整储存的，它会发生精度的丢失，注意这里并不单单指变小，也有可能变大。浮点数在存储时，在计算不尽时会采用四舍五入法

在这里插入图片描述

那么我们不妨试想一下，既然会发生精度的损失，那么它们在相互比较时能不能成立呢？

二.浮点数的比较

在这里插入图片描述

从结果可以看出1.0-0.1不等于0.1，跟我们的常理不符，这是因为发生了精度的丢失。

我们得出结论，浮点数相比较时决对不能用==直接比较

那么我们该怎样比较浮点数呢？

1.方法一

在这里插入图片描述

设定一个范围，只要两浮点数相减的值在一个范围内，那么就可以判断这两浮点数相等

在这里插入图片描述

这里我们自定义了一个精度EPS，只要误差在EPS内，那么判断就成立

其实可以看出这样的判断很麻烦，那么我们是否能直接取绝对值，如果我们判断x-0.9是否等于0.1，这样只需要|x-0.9-0.1|

2.方法二

这个函数就是专门用来取浮点数的绝对值，它的返回值就是这个浮点数的绝对值

这样看起来是不是就简洁许多了啦

3.方法三：系统方案

像上文中的EPS，是我们自己设定的精度，其实系统自己有一个精度DBL_EPSILON

从定义中可以看到，这个精度很小，是一个最小精度，也是系统给出的精度可以直接使用。在使用时别忘了加上头文件float.h哟

结论：如果以后判断两个浮点数相等的话，只需要它们两个数相减的值的绝对值小于DBL_EPSILON就可以啦

插入一个小知识，如果要比较浮点数和0的大小

只需要fabs(x)

词库加载错误:未能找到文件“E:\highferrum_mysql\Configuration\Dict_Stopwords.txt”。

上一篇：深度视觉中有关图像projection的代码改写cv2.remap() → F.grid_sample() | Numpy+cv2格式改为PyTorch格式

下一篇：JavaScript进阶教程——包装对象、类型转换、作用域、闭包与模块化

相关内容

热门资讯

不能访问光猫的的管理页面光猫是现代家庭宽带网络的重要组成部分，它可以提供高速稳定的网络连接。但是，有时候我们会遇到不能访问光...

Android|无法访问或保存... 这个问题可能是由于权限设置不正确导致的。您需要在应用程序清单文件中添加以下代码来请求适当的权限：此外...

【NI Multisim 14... 目录序言一、工具栏 🍊1.“标准”工具栏 🍊 2.视图工具...

银河麒麟V10SP1高级服务器... 银河麒麟高级服务器操作系统简介：银河麒麟高级服务器操作系统V10是针对企业级关键业务...

北信源内网安全管理卸载北信源内网安全管理是一款网络安全管理软件，主要用于保护内网安全。在日常使用过程中，卸载该软件是一种常...

ToDesk 远程工具安装及... 目录前言 ToDesk 优势 ToDesk 下载安装 ToDesk 功能展示文件传输设备链接 ...

安卓文字转语音tts没有声音安卓文字转语音TTS没有声音的问题在应用中比较常见，通常是由于一些设置或者代码逻辑问题导致的。本文将...

AWSECS：访问外部网络时出... 如果您在AWS ECS中部署了应用程序，并且该应用程序需要访问外部网络，但是无法正常访问，可能是因为...

APK正在安装，但应用程序列表... 这个问题可能是由于以下原因导致的：应用程序安装的APK文件可能存在问题。设备上已经存在同名的应用程序...

报告实验.pdfbase.tt... 这个错误通常是由于找不到字体文件或者文件路径不正确导致的。以下是一些解决方法：确认字体文件是否存在：...