我是靠谱客的博主 可爱嚓茶,最近开发中收集的这篇文章主要介绍关于浮点数计算时的精度问题,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

那个有问题的缩略图生成的方法发布之后,短短半天就有很多朋友响应,其中指出了不少方法中的不少问题,有些也是我没有意识到的。果然集体的智慧是无穷的,一段代码在许多人的眼皮底下经过,想留有bug也不容易。不过,我在这里只能谈一下我写那篇文章的本意了,我认为那篇文章中最主要的问题是,在计算图片尺寸时没有处理好浮点数计算的精度问题。

为了凸现主要逻辑,我把之前那个方法中计算图片尺寸的代码单独抽取成一个方法:

public static void GetThumbnailSize(
    int originalWidth, int originalHeight,
    int desiredWidth, int desiredHeight,
    out int newWidth, out int newHeight)
{
    // If the image is smaller than a thumbnail just return it
    if (originalWidth <= desiredWidth && originalHeight <= desiredHeight)
    {
        newWidth = originalWidth;
        newHeight = originalHeight;
        return;
    }

    // scale down the smaller dimension
    if ((decimal)desiredWidth / originalWidth < (decimal)desiredHeight / originalHeight)
    {
        decimal desiredRatio = (decimal)desiredWidth / originalWidth;
        newWidth = desiredWidth;
        newHeight = (int)(originalHeight * desiredRatio);
    }
    else
    {
        decimal desiredRatio = (decimal)desiredHeight / originalHeight;
        newHeight = desiredHeight;
        newWidth = (int)(originalWidth * desiredRatio);
    }
}

我们通过简单的代码试验一下:

int newWidth, newHeight;

GetThumbnailSize(200, 200, 100, 100, out newWidth, out newHeight);
Console.WriteLine("{0}, {1}", newWidth, newHeight);

GetThumbnailSize(300, 300, 100, 100, out newWidth, out newHeight);
Console.WriteLine("{0}, {1}", newWidth, newHeight);

得到的结果是:

100, 100
99, 100

第一个结果自然没有问题,但是在第二个结果中为什么是99而不是100?为此,我们再通过以下的代码来观察一番:

ratio: 0.3333333333333333333333333333
new value: 99.99999999999999999999999999
to int: 99

可见,虽然使用了decimal,精度已经非常高的,但是在经过了一除一乘,它还是没有恢复到最精确值。虽然一直说要注意浮点数计算时的精度问题,但是对于这个问题许多朋友往往只是理解到“不能直接两个浮点数相等”,包括我自己的第一印象。但事实上,从上面的结果也可以看出,把一个浮点数直接转换成整形,它便是使用了“去尾”而不是“四舍五入”的方法。因此,虽然newValue的值无比接近100,但是在强制去尾后它还是变成了99。

如果要在原来的方法中改变这个问题,最简单的方法可能是把最后的强制转型替换成Math.Round方法。Math.Round方法使用四舍五入,应该能够解决问题。不过如果只是这样的话收获不大,我们再仔细想想,应该如何做到尽可能的精确。

两个浮点数相除可能会丧失精度,但如果是乘法操作,在一般情况下精度是不会丢失的,除非发生了溢出的话,或者小数位数太多。因此在计算过程中为了保持精度,我们应该尽可能的做乘法,而不是作除法。例如以下的判断:

if ((decimal)desiredWidth / originalWidth < (decimal)desiredHeight / originalHeight)

其实最好改写成“等价”的乘法操作(假设没有溢出):

if (desiredWidth * originalHeight < desiredHeight * originalWidth)

同理,如果可以的话,在作计算的时候,也最好先乘再除:

if (desiredWidth * originalHeight < desiredHeight * originalWidth)
{
    newWidth = desiredWidth;
    newHeight = (int)Math.Round((decimal)originalHeight * desiredWidth / originalWidth);
}
else
{
    newHeight = desiredHeight;
    newWidth = (int)Math.Round((decimal)originalWidth * desiredHeight / originalHeight);
}

这么做,我们就避免了使用scaleRatio这个已经丧失部分精度的值来参与计算,这样1 * 3 / 3便可以等于1,而不像1 / 3 * 3等于0.99…。因此,最终我们CreateThumbnail的代码便修改为:

/// <summary>
/// Creates a thumbnail from an existing image. Sets the biggest dimension of the
/// thumbnail to either desiredWidth or Height and scales the other dimension down
/// to preserve the aspect ratio
/// </summary>
/// <param name="imageStream">stream to create thumbnail for</param>
/// <param name="desiredWidth">maximum desired width of thumbnail</param>
/// <param name="desiredHeight">maximum desired height of thumbnail</param>
/// <returns>Bitmap thumbnail</returns>
public Bitmap CreateThumbnail(Bitmap originalBmp, int desiredWidth, int desiredHeight)
{
    // If the image is smaller than a thumbnail just return it
    if (originalBmp.Width <= desiredWidth && originalBmp.Height <= desiredHeight)
    {
        return originalBmp;
    }

    int newWidth, newHeight;

    // scale down the smaller dimension
    if (desiredWidth * originalBmp.Height < desiredHeight * originalBmp.Width)
    {
        newWidth = desiredWidth;
        newHeight = (int)Math.Round((decimal)originalBmp.Height * desiredWidth / originalBmp.Width);
    }
    else
    {
        newHeight = desiredHeight;
        newWidth = (int)Math.Round((decimal)originalBmp.Width * desiredHeight / originalBmp.Height);
    }

    // This code creates cleaner (though bigger) thumbnails and properly
    // and handles GIF files better by generating a white background for
    // transparent images (as opposed to black)
    // This is preferred to calling Bitmap.GetThumbnailImage()
    Bitmap bmpOut = new Bitmap(newWidth, newHeight);
    
    using (Graphics graphics = Graphics.FromImage(bmpOut))
    {
        graphics.InterpolationMode = InterpolationMode.HighQualityBicubic;
        graphics.FillRectangle(Brushes.White, 0, 0, newWidth, newHeight);
        graphics.DrawImage(originalBmp, 0, 0, newWidth, newHeight);
    }

    return bmpOut;
}

当然,在前文中很多朋友指出的其他一些问题也很有道理,例如:

  • 没有做参数校验。
  • 直接返回源图片的做法让方法的含义不同。
  • 经过计算后newWidth和newHeight可能为0。

例如还有朋友提出对GIF的处理不很妥当等等——如果您有其他想法的话,也可以继续讨论。或者,你也来分享一下代码或工作中发现的问题?

转载于:https://www.cnblogs.com/JeffreyZhao/archive/2009/11/24/precision-of-float-point-calculation.html

最后

以上就是可爱嚓茶为你收集整理的关于浮点数计算时的精度问题的全部内容,希望文章能够帮你解决关于浮点数计算时的精度问题所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(38)

评论列表共有 0 条评论

立即
投稿
返回
顶部