浅谈c语言中浮点数的精度问题

时间:2024-03-17 09:54:55

众所周知,在生活中常常出现因精度而产生的各种问题,如流水线生产出现个别产品量的缺少等,这是无法避免的,因此常常规定,只要保证误差在一定范围内就算合格。在c语言中也会存在类似的问题

如下面这段程序

浅谈c语言中浮点数的精度问题

粗略计算一元二次方程的根(当然在严密的纯数学问题里不存在精度不够的问题,此处小编只是随便找个当例子)

在此采用宏的方式,浅谈c语言中浮点数的精度问题给定一个合理的误差范围,从而解决误差问题

那么为什么会存在误差呢

原来,浮点数存在精度问题,如float(4字节),double(8字节),(精度越来越高,占字节数越多)精度即使再高,也是有限的,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题。