处理大数字与浮点数

Posted HELLO WORLD

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了处理大数字与浮点数相关的知识,希望对你有一定的参考价值。

处理大数字与浮点数

1.

Java中int类型数值占32位,有符号

Integer.MAX_VALUE=2*e31-1,

Integer.MIN_VALUE=-2*e31,

 

long类型数值占64位

Long.MAX_VALUE=2*e63-1,

Long.MIN_VALUE=-2*e63,

2.报错:

 

计算机用固定的位数保存数值,当数值超过类型范围,计算机将自动截断数值中以二进制表示他的数的多余位数。

 

3.处理无限大的整数

BigInteger类,支持大整数的加减乘除运算

 

4.比较两个浮点数

 

计算机不能精确的表达浮点数(特殊形式除外),所以

比较两个浮点数大小应比较其差的绝对值是否在某个允许的范围额之内即可。

 

 

例子

源代码:

public class Example1 {

 

public static void main(String args[]) {

double i=0.100000000002;

double j=0.100000000003;

if(Math.abs(i-j)<1e-10) {

System.out.println(i+"="+j);

}

}

}

截图:

 

 

 

以上是关于处理大数字与浮点数的主要内容,如果未能解决你的问题,请参考以下文章

将作为varchar存储的数字10与浮点数1.1进行比较,会因算术溢出错误而失败

1定点数与浮点数

与浮点数和双精度相关的概念

两大基本数据类型 - 整数类型 / 浮点数类型

SSE 整数与浮点数练习

JAVA中的BigInteger与BigDecimal类功能强大