qgis双精度怎么弄

Posted 2023-04-24

参考技术A 在工具条里设置。
工具条上单击新建SHP图层按钮，弹出新建图层对话框参数设置界面。输入SHP文件名称，单击最右边的按钮，可以选择存放路径，几何图形类型选择多边形，坐标系选择CGCS2000，属性字段按照上报系统模板要求需要有面积、组成部分2个属性字段，其中面积字段类型为双精度，组成部分字段类型为文本。
双精度有长度length和精度precision，分别表示数值的长度（包括小数）和小数点后的位数。双精度型虽然能够存储20位的数字，但是一旦数字位超过15位，就会强制转换成科学记数法表示。

精度浮点型数据精确到了几位小数呢？

参考技术A

float精确到七位小数。

float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，因为它是不变的，故不能对精度造成影响。

float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字。

简介：

浮点型数据类型，FLOAT 数据类型用于存储单精度浮点数或双精度浮点数。浮点数使用 IEEE（电气和电子工程师协会）格式。

浮点类型的单精度值具有 4 个字节，包括一个符号位、一个 8 位 二进制指数和一个 23 位尾数。由于尾数的高顺序位始终为 1，因此它不是以数字形式存储的。此表示形式为 float 类型提供了一个大约在 -3.4E+38 ~ 3.4E+38 之间的范围。