计算范围内的值时出现舍入错误



对于[0, 1]范围内的有限值v0v1和值r,按以下方式计算的值v是否始终属于[v0, v1]范围,还是由于舍入误差而(略微(超出范围?

double v0;  // Finite
double v1;  // Finite
double r;   // In [0, 1]
double v = v0 * r + v1 * (1.0 - r);
if (v0 <= v1)
assert(v0 <= v && v <= v1);
else
assert(v1 <= v && v <= v0);

是的,可以。下面是一个例子:

#include <assert.h>
int main() {
double v0 = 2.670088631008241e-307;
double v1 = 2.6700889402193536e-307;
double  r = 0.9999999999232185;
double v = v0 * r + v1 * (1.0 - r);
if (v0 <= v1)
assert(v0 <= v && v <= v1);
else
assert(v1 <= v && v <= v0);
return 0;
}

这产生:

Assertion failed: (v0 <= v && v <= v1), function main, file b.cpp, line 12.

在这种情况下计算的v的值为:

2.67009e-307

相关内容

  • 没有找到相关文章