一个函数解决SQLServer中bigint 转 int带符号时报错问题

内容简介：这篇文章主要介绍了解决SQLServer中bigint 转 int带符号时报错问题的函数,需要的朋友可以参考下

这篇文章主要介绍了解决SQLServer中bigint 转 int带符号时报错问题的函数,需要的朋友可以参考下

有一个需求是要在一个云监控的状态值中存储多个状态（包括可同时存在的各种异常、警告状态）使用了位运算机制在一个int型中存储。

现在监控日志数据量非常大（亿级别）需要对数据按每小时、每天进行聚合，供在线报表使用。

状态分了3个级别：正常（0）、警告（1）、异常（2），聚合时需要使用max选择最差的状态，就需要对状态值进行处理加上级别和状态位个数，就要借助bigint型来做运算了，

问题是再将bigint 转为 int时获取原始状态值时，SQLServer报错了：

消息 8115，级别 16，状态 2，第 1 行

将 expression 转换为数据类型 int 时出现算术溢出错误。

因为状态码中已经用到了 0x80000000， 出现了符号位的问题。

写了一个转换函数解决了。

CREATE FUNCTION [dbo].[BigintToInt]
(
   @Value bigint  
)
RETURNS int
AS
BEGIN
   -- 是否有int符号位
   IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000
   -- 无符号位
   RETURN @Value & 0xFFFFFFFF
END

以上就是本文的全部内容，希望本文的内容对大家的学习或者工作能带来一定的帮助，也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

• macos – dyld：惰性符号绑定失败：未找到符号：_PQsetErrorContextVisibility
• 嵌入式C语言自我修养 09：链接过程中的强符号和弱符号
• Scala中的符号
• “Bug-O” 符号
• 简单理解符号执行技术
• GCC 符号表小结

本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。