我是靠谱客的博主 调皮鸭子,最近开发中收集的这篇文章主要介绍整型转字符串(convert int to char)优化实践——一个意外的BUG,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

convert_int_to_char函数在使用时出现过一个BUG。

当使用值是13200020099时,返回的字符串是"13200020111",结果是错误的。

在gcc编译器里,使用32位整型时对一个数value除于100时会默认优化成先将value乘以0x51eb851f再右移37位;而使用long long类型时就不做任何优化,即便做除于100的value实际是小于32位整型的最大值也是如此。

在函数covert_int_to_char函数里有部份代码有除以100的逻辑,使用了相同的优化方式。在代码中限制value小于0x31fffffff时使用乘以0x51eb851f再右移37位的优化方式。这里使用0x31fffffff这个值是为了避免value乘以0x51eb851f时造成溢出。

乘以0x51eb851f再右移37位的做法,等价于先乘以1374389535再除以137438953472,也等价乘以一个比0.01稍大一点点数。

通过二分法去探测边界,可以找到。

>>> print (4908533999 * 1374389535/ 137438953472)
49085339
>>> print (4908534098 * 1374389535/ 137438953472)
49085340
>>> print (4908534099 * 1374389535/ 137438953472)
49085341  

当value大于4908534098时,尾数为99的数字乘以这个比0.01稍大一点点的数字就会产生进位导致结果错误。在4908534098到0x31fffffff这个区间内直接使用这种优化,尾数是99的整型结果一定是错误。

在value小于4908534098才使用将value乘以0x51eb851f再右移37位的优化能保证结果的正确。

转载于:https://www.cnblogs.com/ohmhong/p/6869846.html

最后

以上就是调皮鸭子为你收集整理的整型转字符串(convert int to char)优化实践——一个意外的BUG的全部内容,希望文章能够帮你解决整型转字符串(convert int to char)优化实践——一个意外的BUG所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(43)

评论列表共有 0 条评论

立即
投稿
返回
顶部