SQL语句中 int 溢出 + Asp语句中 Long 溢出

晚上5点多,同事在QQ告诉我,一个用户向他反应,在他登录的时候显示错误信息,我们在管理平台查看该用户的基本信息时,也显示错误信息。

经过初步分析,原来是在执行 SQL语句的时候发生Int溢出:

sql = "select sum(fileSize) as fsTotal from pic where userID = 1632"

本来这段SQL是用来取得一个用户之前上传的所有文件大小的合计数。

fileSize 字段类型 int

当用户上传的文件累计大小超过 2G(2147483648字节),再执行 sum(fileSize) 就会发生Int溢出。

找到问题的原因后,开始修改 sql语句:

sql = "select sum(cast(fileSize as bigint)) as fsTotal from pic where userID = 1632"

修改后,再测试发现还是有错误,不过这个时候的错误不是因为这段SQL,而是来自 asp 的 long 溢出。

sql = "select sum(cast(fileSize as bigint)) as fsTotal from pic where userID = 1632"
set re=conn.execute(sql)
if not re.eof then
    fsTotal = re.fields("fsTotal ")
    fsTotal = fsTotal / 1024 / 1024 '转换成MB - 发生 long 溢出
end if

修改代码:

fsTotal = re.fields("fsTotal ")
fsTotal = cdbl(fsTotal ) '先转换成 double型,再进行下一步的操作
fsTotal = fsTotal / 1024 / 1024 '转换成MB

-----------------------------------------------------------------------------------------------------------

SQL Server,int类型值最大2147483647(2^31 - 1)
ASP,Long (长整型) 4 个字节 -2,147,483,648 到 2,147,483,647

2010-11-03

上一篇:防止多次引入js文件导致的重复注册点击事件


下一篇:在MVC视图的代码块中,直接输出文本,有几种方式?