概述
一个算术运算的结果, 不管是有符号或者是无符号的, 如果需要更多的bit位才能正确表示的话, 就说明计算结果是溢出了。 超出的高位的bit位部分将被丢弃。 如果原始的数值是有符号类型, 而且最左边的bit为是1的话, 那么最终结果可能是负的。
例:uint的取值范围为0~255, 255对应的二进制:11111111 , 255+1 = 100000000,256(100000000)是9位溢出,超出的部分被丢弃,即1被舍弃,255+1结果为00000000, 255255 = 65025 =(1111111000000001),超出的被舍弃,即(11111110)被舍弃,255255 = (00000001) ;
package main
import "fmt"
func main() {
var u uint8 = 255
fmt.Printf("u:%v u+1:%v u*u:%vn", u, u+1, u*u)
var i int8 = 127
fmt.Printf("i:%v i+1:%v i*i:%v", i, i+1, i*i)
fmt.Println()
}
运算结果:
最后
以上就是虚心手套为你收集整理的算术运算溢出的全部内容,希望文章能够帮你解决算术运算溢出所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复