java float除法的问题

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了java float除法的问题相关的知识,希望对你有一定的参考价值。

为什么45.56f/152 int型等于
0.29973686
不是说float精度是7位么 还有用计算器得出的结果是0.299736842105,这样的话是由于计算机的二进制导致结果出错了么。。
程序是这样的,如果我用152/45.56f的话,则结果会
变为3.3362598 这样就是7位的精度 但为什么反过来就是8位精度
public class Arith

public static void main(String[] args)

// TODO 自动生成的方法存根

float number1=45.56f;

int number2=152;

System.out.println("和为:"+number1+number2);

System.out.println("差为:"+(number2-number1));

System.out.println("积为:"+number1*number2);

System.out.println("商为:"+number2/number1);



这个不是属于结果出错,只是计算的精度的问题。
这里计算的精度到底是你的计算器精度不够还是你的程序精度不够呢?你要验证一下才知道的。
现实中很少有用到小数点后4位之后的。这个问题我觉得不用太过计较。追问

程序我发出来了,计算机精度应该够啊,我试了好几个计算机。上网查说是float就是7位小数点精度。就是不理解怎么会变成8位。

追答

精确度能到7位,但是显示的结果完全是可以多一位的,但是最后一位的准确度就不保证。
而准确的结果只到7位。

参考技术A 您好,1、整数的除法:
0做除数抛运行时异常;两整数商会做取整运算,Float或Double与一个整数做除法运算,则商位Float或者Double类型,例如:

System.out.println("------------Int相关除法----------");
System.out.println("12/10="+12/10);
System.out.println("12f/10="+12f/10);
System.out.println("12d/10="+12d/10);
System.out.println("12/10f="+12/10d);
System.out.println("12/10d="+12/10f);

------------Int相关除法----------
12/10=1
12f/10=1.2
12d/10=1.2
12/10f=1.2
12/10d=1.2
2、Double(或Float)除法运算:
0可以做除数,得到的是一个分正负的无穷大;当两个数的绝对值均为0.0时候,商等于NaN。当0.0/x,x不等0.0时候,得到的一个带符号位0.0:

package lavasoft.zerotest;

/**
* 浮点型数据的除法运算测试
*
* @author leizhimin 2009-12-21 9:00:37
*/
public class TestZero

public static void main(String[] args)
System.out.println("------------Double型----------");
Double x1 = div(2.3, 0.0);
Double x2 = div(2.3, -0.0);
Double x3 = div(0.0, 0.0);
Double x4 = div(0.0, -0.0);
Double x5 = div(0.0, 0.1);
Double x6 = div(0.0, -0.1);
if (x1.isInfinite()) System.out.println("x1无穷大!");
if (x2.isInfinite()) System.out.println("x2无穷大!");
if (x3.isNaN()) System.out.println("x3非数字!");
if (x4.isNaN()) System.out.println("x4非数字!");
if (x1 == Double.POSITIVE_INFINITY) System.out.println("x1 = Double.POSITIVE_INFINITY");
if (x2 == Double.NEGATIVE_INFINITY) System.out.println("x1 = Double.NEGATIVE_INFINITY");
if (x3 == Double.NaN) System.out.println("x3 = Double.NaN");
if (x4 == Double.NaN) System.out.println("x4 = -Double.NaN");

System.out.println("------------Float型----------");
Float y1 = div(2.3f, 0.0f);
Float y2 = div(2.3f, -0.0f);
Float y3 = div(0.0f, 0.0f);
Float y4 = div(0.0f, -0.0f);
Float y5 = div(0.0f, -0.1f);

System.out.println("------------比较测试----------");
Float a = 99999999999999999999999999999999999999f;
Float b = 0.000000000000000000000000000000000000000000001f;
Float t = a / b;
System.out.println(t);
System.out.println(Float.MAX_VALUE);

if (t >= Float.MAX_VALUE)
System.out.println("a/b的商已经超过了Float的最大值了!");




public static Double div(double a, double b)
double x = a / b;
System.out.println(a + "/" + b + " = " + x);
return x;


public static Float div(float a, float b)
float x = a / b;
System.out.println(a + "/" + b + " = " + x);
return x;




运算输出:
------------Double型----------
2.3/0.0 = Infinity
2.3/-0.0 = -Infinity
0.0/0.0 = NaN
0.0/-0.0 = NaN
0.0/0.1 = 0.0
0.0/-0.1 = -0.0
x1无穷大!
x2无穷大!
x3非数字!
x4非数字!
x1 = Double.POSITIVE_INFINITY
x1 = Double.NEGATIVE_INFINITY
------------Float型----------
2.3/0.0 = Infinity
2.3/-0.0 = -Infinity
0.0/0.0 = NaN
0.0/-0.0 = NaN
0.0/-0.1 = -0.0
------------比较测试----------
Infinity
3.4028235E38
a/b的商已经超过了Float的最大值了!

Process finished with exit code 0
陷阱:
零在整数预算中不可以做除数,否则抛运行时异常。
零在浮点运算中可以做除数,返回值为无穷大。
NaN各不相同,可看做是Java设计上的一个缺陷。
浮点型(Float或Double)的除法运算可以接受任何数值,并且结果总是返回一个浮点型的数值。这个数值可能是不合法的,需要进行判断和验证。
3、求余:和除法差不多。

System.out.println(23%4);
System.out.println(23%-4);
System.out.println(-23%4);
System.out.println(23f%4);
System.out.println(23d%4);
System.out.println(23%4f);
System.out.println(23%4d);
System.out.println(23f%0);
System.out.println(23%0.0);
System.out.println(0.0%0.0);

运行结果:
3
3
-3
3.0
3.0
3.0
3.0
NaN
NaN
NaN

陷阱:
符号位由被除数决定。

对于Double、Float,API都提供了几个有用的判断方法,要注意运用其写出安全的代码:
boolean isInfinite()
如果该 Double 值的大小是无穷大,则返回 true;否则返回 false。
static boolean isInfinite(double v)
如果指定数字的大小是无穷大,则返回 true;否则,返回 false。
boolean isNaN()
如果此 Double 值是非数字(NaN)值,则返回 true;否则,返回 false。
static boolean isNaN(double v)
如果指定的数字是一个非数字 (NaN) 值,则返回 true;否则,返回 false。

Double、Float类中都提供了一些常量,也可用于判断,当然这些常量也很有意思,看看源码就知道了。
public static final double POSITIVE_INFINITY = 1.0 / 0.0;
public static final double NEGATIVE_INFINITY = -1.0 / 0.0;
public static final double NaN = 0.0d / 0.0;

python中的281610进制之间的转换

python除法的坑

众所周知,python除法有两个运算符,一个是/,还有一个是//,那么这两个有什么不同之处呢?

 技术图片

从图片可以得知,使用//返回一个float类型,而使用/返回一个int类型。我们总结一下:

//   是整除,自动转型位float

/  除法

那么如何使用整除运算符返回一个float类型呢?

我们只要让除数和被除数任意一个为float类型进行运算返回就是一个float类型的值。

技术图片

 

10、2、8、16进制

像0,1,2,3,4。。。。。。10这样的数就是10进制,并且满十位进一位,即逢十进一

像0、1、10这样有1和0组成的是二进制数,并且满二进一,即逢二进一

像0,1,2,3,4,5。。。。6、7、10这样的数是八进制数,即逢八进一

像0,1,2,3,4。。。。10,A,B,C,D,E,F这样的数是16进制数,即逢十六进一 

以上都是一些常见的进制,60s=1m也是一种进制

 

各进制之间的表示与转换

二进制表示:

在开头加上0b

0b10

把其他进制转换二进制

技术图片

八进制表示:

在开头加上0o

0o10

把其他进制转换为八进制

技术图片

十六进制表示:

在开头加上0x

0x10

把其他进制转换为十六进制

 

技术图片

 

十进制没有特殊符号

1,11,15,6

 把其他进制转换成十进制

技术图片

 

不知道大家有没有学习数学的app或者网站,推荐个我,谢谢大佬??

含初高中数学的那种。

 

以上是关于java float除法的问题的主要内容,如果未能解决你的问题,请参考以下文章

JAVA 中除法后小数精度问题

Java除法运算的陷阱

如何在javascript中进行整数除法(在int中获取除法答案而不是float)? [复制]

Java中怎么把除法精确到小数点后100位

python中整数除法和float到int转换之间存在差异的原因是啥?

java 除法运算如何保留小数