abs(INT_MAX-(-1))

写一个程序,结果总是不对,check逻辑好几遍也没发现错误,无奈之下debug。发现一个有趣的现象abs(INT_MAX-(-1))返回值是-2147483648。于是看了下abs函数的代码实现。

 int __cdecl abs (
int number
)
{
return( number>= ? number : -number );
}

这个问题设计无符号数、有符号数的范围,同时跟溢出之后的结果有关。abs函数的参数是int,是有符号的, INT_MAX-(-1)大于int的表示范围,其无符号值为2147483648,然后该无符号值转化为有符号int为-2147483648。对于语句number>=0? number:-number 我们得到-(-2147483648),即2147483648。而abs函数的返回值类型是int,是有符号的,2147483648转变为有符号int值为-2147483648。

上一篇:End Routine


下一篇:JSSDK实现微信自定义分享---java 后端获取签名信息