C语言浮点数的精度

Posted 2022-07-30 17岁boy想当攻城狮

精度

精度是指观测值与真实值的接近程度，针对一组数据我们可以规定精度，这是一种观测标准，就拿C语言来说，C语言里有两个浮点数格式：Float、Double两种数据格式，Float小数点到后四位，Double小数点到后八位。

这两个格式就是C语言的精度标准，C语言小数点精度最大到后八位，仅Double类型，那么我们在实际输出时就可以控制精度位数，如：

Double A = 1.12345678; printf("%f",A);

输出结果为：1.12345678

可以把这个结果理解为观测值，精度为0.8，我们调整精度

Double A = 1.12345678; printf("%.2f",A);

输出结果：1.12

我们将精度设置为0.2输出结果就是1.12，后六位被忽略了，这就是精度在数据中的概念，它用于表示观测值与真实值的接近程度，如真实值为：1.89，精度为：0.0.5，观测值为：1.76987，可以看到输出的值就会越接近真实值，精度越高所输出的数越精准，越接近真实值，精度也就是精准度。