SQLServer中bigint转int带符号时报错问题解决方法
有一个需求是要在一个云监控的状态值中存储多个状态(包括可同时存在的各种异常、警告状态)使用了位运算机制在一个int型中存储。
现在监控日志数据量非常大(亿级别)需要对数据按每小时、每天进行聚合,供在线报表使用。
状态分了3个级别:正常(0)、警告(1)、异常(2),聚合时需要使用max选择最差的状态,就需要对状态值进行处理加上级别和状态位个数,就要借助bigint型来做运算了,
问题是再将bigint 转为 int时获取原始状态值时,SQLServer报错了:
消息 8115,级别 16,状态 2,第 1 行
将 expression 转换为数据类型 int 时出现算术溢出错误。
因为状态码中已经用到了 0x80000000, 出现了符号位的问题。
写了一个转换函数解决了。
CREATE FUNCTION [dbo].[BigintToInt] ( @Value bigint ) RETURNS int AS BEGIN -- 是否有int符号位 IF @Value & 0x80000000 <> 0 RETURN @Value & 0xFFFFFFFF | 0xFFFFFFFF00000000 -- 无符号位 RETURN @Value & 0xFFFFFFFF END
相关文章
sql server编写archive通用模板脚本实现自动分批删除数据
这篇文章主要介绍了sql server编写archive通用模板脚本实现自动分批删除数据,需要的朋友可以参考下2019-10-10
SQL Server中通过扩展存储过程实现数据库的远程备份与恢复
SQL Server中通过扩展存储过程实现数据库的远程备份与恢复实现方法,需要的朋友可以参考下2012-05-05
SQL Server在AlwaysOn中使用内存表的“踩坑”记录
这篇文章主要给大家介绍了关于SQL Server在AlwaysOn中使用内存表的一些"踩坑"记录,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习下吧。2017-09-09
Sql Server2012 使用IP地址登录服务器的配置图文教程
最近在使用NFineBase框架+c#做一个系统的时候,在使用sql server 2012 连接数据库的时候,在使用过程中遇到了几个问题,下面小编给大家分享Sql Server2012 使用IP地址登录服务器的配置图文教程,一起学习吧2017-07-07


最新评论