underflow overflow 下溢和上溢

Posted the_tops ----

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了underflow overflow 下溢和上溢相关的知识,希望对你有一定的参考价值。

在strtoull函数返回值中,就提到上溢和下溢的问题,现在把这俩个概念拿出来涨涨见识!
上溢  Overflow
是当一个超长的数据进入到缓冲区时,超出部分被写入上级缓冲区,上级缓冲区存放的可能是数据、上一条指令的指针,或者是其他程序的输出内容,这些内容都被覆盖或者破坏掉。可见一小部分数据或者一套指令的溢出就可能导致一个程序或者操作系统崩溃。
 

下溢 underflow

与之对应的就是下溢,下溢是当一个超长的数据进入到缓冲区时,超出部分被写入下级缓冲区,下级缓冲区存放的是下一条指令的指针,或者是其他程序的输出内容。
javascript中,下溢是指当运算结果无限接近于零并比JavaScript能表示的最小值还小的时候发生的一种情形。

以上是关于underflow overflow 下溢和上溢的主要内容,如果未能解决你的问题,请参考以下文章

Java 如何处理整数下溢和上溢以及如何检查它?

Java 如何处理整数下溢和上溢以及如何检查它?

memwatch

如何防止softmax函数overflow和underflow?

假设分母<>0,整数除法是不是会溢出/下溢? [复制]

最优化学习 数值优化的例子:实现最小二乘法