java整数溢出问题及提升为long型


整数溢出问题

Java 中的 int 用 32 位表示,正数最大值的情况,首位是 0,其他位都可以是 1(就是 2^31-1)。但是如果正数过大了,例如 2^31,计算机不得不把首位变成 1,并且计算机不知道这是溢出情况,把它按照正常的方式输出了,于是就成了负的。

2^31 - 1 = 0111 1111 1111 1111 1111 1111 1111 1111 = 2147483647

2^31      = 2^31 - 1 + 1 = 1000 0000 0000 0000 0000 0000 0000 0000 = -2147483648


演示1

public class Test {
public static void main(String[] args) {
int num = Integer.MAX_VALUE + 1;
System.out.println(num);
long longnum = Integer.MAX_VALUE + 1; //做加法前没有对加数进行转long型
System.out.println(longnum);
}
}

结果输出的两行都是-2147483648

解释

做加法前,没有将加数转为long型,相加结果为 int 型,Integer.MAX_VALUE + 1 = -2147483648,将 -2147483648赋值给long型变量 longnum 后,longnum = -2147483648,这个很好理解,例如,将 int 型的数 -1赋值给 long 型,结果还是 -1;


演示2

public class Test {
public static void main(String[] args) {
int num = Integer.MAX_VALUE + 1;
System.out.println(num);
long longnum = Integer.MAX_VALUE + (long)1;//将一个加数转为long型
System.out.println(longnum);
}
}

结果输出第一行是 -2147483648,第二行是 2147483648

解释

做加法前,将一个加数转为 long 型,再做加法,由于 long 型可表示的最大数大于 2147483648,没有发生溢出,将该值赋值给 long 型变量longnum,结果为 2147483648


应用

递归求 6 的阶乘

public class Factorial {
public static void main(String[] args) {
System.out.println(fac(6));
}

   //使用long作为返回值,递归到最后一次 return 1,返回时,1 被转为 long 型,再依次相乘,结果为 long 型,考虑 int 型溢出
public static long fac(int n){
if(n>1) {
return n * fac(n-1);
}else {
return 1;
}
}
}
上一篇:SpringSecurity实现后台管理员登录(二)


下一篇:『TensorFlow Internals』笔记_系统架构