基础知识:数据类型优先级

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了基础知识:数据类型优先级相关的知识,希望对你有一定的参考价值。

原文:基础知识:数据类型优先级

太忙好久没更新博客了,今天随便写个吧,当做个笔记。

SQL Server在处理数值型的数据中,默认为INT型,以下的问题,可能你会遇到。

--结果为2,可能并非你想要的结果
SELECT  5 / 2;

--结果为2.5,INT向小数型转换
SELECT  1.0 * 5 / 2;

--溢出,INT的范围是-2147483648 ~ 2147483647
SELECT  65536 * 65536;

--溢出,在转换BIGINT前还是INT
SELECT  CAST(65536 * 65536 AS BIGINT);

--INT会向BIGINT转换
DECLARE @b BIGINT = 65536;
SELECT  @b * 65536;

--BIGINT型
DECLARE @a BIGINT = 65536;
SELECT  @a * @a;

--INT向FLOAT转换
DECLARE @c FLOAT = 65536000;
SELECT  @c * 65536000;

--溢出
SELECT  POWER(2, 31);

--正确结果
DECLARE @d BIGINT = 2;
DECLARE @e BIGINT = 31;
SELECT  POWER(@d, @e);

 


数据类型优先级:

https://msdn.microsoft.com/en-us/library/ms190309.aspx

 

以上是关于基础知识:数据类型优先级的主要内容,如果未能解决你的问题,请参考以下文章

JAVA SE基础篇10.运算符优先级与类型转换

JAVA SE基础篇10.运算符优先级与类型转换

Python基础之(基本数据类型及运算)

Java基础 - 05 - 数据类型的转换

java基本知识回顾-2(boolean的短路问题,运算符优先级与引用数据类型)

[Go] 通过 17 个简短代码片段,切底弄懂 channel 基础