我是靠谱客的博主 负责龙猫,最近开发中收集的这篇文章主要介绍浮点型精度,数组越界,debug和release下运行的区别,release下的调试,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

VS2005 英文版 SP1

XP SP3

 

程序中有个可能有个值被算得无穷大了,导致整个模型都超级变形了。后来猜测是树模型的半径值被算得太大。

而这种情况只有程序在release时直接运行跑起来才会有错,其它时候都不会有错,

这样在release下根本没法调试,变量的值都看不到,只能靠猜,并输出值到文本文件中来查看。

 

涉及到的问题:浮点型精度,数组越界,debug和release下运行的区别,

 

浮点型精度

计算机的精度是有限的,可能某个浮点型的值是0.999998,在计算机中它指的可能就是1,

但如果我们在做判断时把它跟1来做比大小时,得到的条件判断却又是比1小,这样就会存在问题了。

 

在一些精度要求较高的地方,我们可以把这些计算出来的值做一个纠正,

例如: if (fabs(x-1.0f)<1e-6)  x = 1.0

 

数组越界

当时的代码是float TempPoint[1000][2];,申请了一千位,实际只用了50位,而第51位由于没有初始化,

即使当时想初始化,也不知道初始化哪个值比较适合当时的情况,造成后面的代码访问到第51位的值,造成了严重的错误。

这样的错误在release直接运行时才会报错,而在调试时却不会有错,

可能是在调试时编译器给那些没初始化的值默认了一个值吧,这要看下debug和release时的区别。

最好是要用多少位就申请多少位的数组,或者可以这样float TempPoint[][2];,到具体要用时再直接赋值来确实要用多少位。

当时越界的代码:

 for (k = 0; k < m_bz.m_number - 1; k++)
 {
  if ( x >= m_bz.TempPoint[k][0] && x <= m_bz.TempPoint[k+1][0])
   break;
 }
 以上代码要是都没有break,k的值就是等于m_bz.m_number,

而下面的代码访问m_bz.TempPoint[m_bz.m_number][0]时就可能访问到异常的值。

这是申请1000位而只用前50位,在访问第51位时就会有问题,当然要是一开始就只申请50位,

也不会出现release下start without debugging才出现的现象。

 

release下的调试

release时Start without debugging才会出现的错误,我们当时是把它输出到文本文件来查看变量的值。

最后

以上就是负责龙猫为你收集整理的浮点型精度,数组越界,debug和release下运行的区别,release下的调试的全部内容,希望文章能够帮你解决浮点型精度,数组越界,debug和release下运行的区别,release下的调试所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(36)

评论列表共有 0 条评论

立即
投稿
返回
顶部