matlab数据类型转换是遇到的坑,整型转换居然是向无穷大方向取整,而不是丢弃小数部分
Posted 雾恋过往
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了matlab数据类型转换是遇到的坑,整型转换居然是向无穷大方向取整,而不是丢弃小数部分相关的知识,希望对你有一定的参考价值。
整型:
- int8()有符号,占用1个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
- int16():有符号,占用2个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
- int32():有符号,占用4个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
- int64():有符号,占用8个字节。向无穷大方向取整:正数向正无穷大方向,负数向负无穷大方向取整。
- uint8():无符号,占用1个字节。向0方向取整。
- uint16():无符号,占用2个字节。向0方向取整。
- uint32():无符号,占用4个字节。向0方向取整。
- uint64():无符号,占用8个字节。向0方向取整。
浮点数:
Matlab 取整函数有: fix、 floor、ceil、 round
- fix 朝零方向取整, fix(-1.234)=-1; fix(1.234)=1; 舍弃小数
- floor 朝负无穷方向取整,floor(-1.234)=-2; floor(1.234)=1; 向下取整
- ceil 朝正无穷方向取整, ceil(-1.3)=-1; ceil(1.3)=2; 向上取整
- round 四舍五入到最近的整数, round(-1.234)=-1;round(-1.567)=-2;
以上是关于matlab数据类型转换是遇到的坑,整型转换居然是向无穷大方向取整,而不是丢弃小数部分的主要内容,如果未能解决你的问题,请参考以下文章