我想解决一些关于溢出的问题。我有一些数据使用int来存储,数据不会导致溢出,但计算中间可能会导致溢出。
例如,我需要存储正方形的对角线,边的长度是50000,所以对角线是70710,边和对角线远远小于INT_MAX,但是为了计算,sqrt(a a+b b)中的a+bb会导致溢出。
我想遵循"只使用 int"规则,所以我可能需要每次都强制转换每个变量:
int f=(long)a+(long)b*(long)c/(long)d-(long)e;
但是每次添加(长)影响可读性时,我都会测试哪个操作可能会导致溢出,哪些操作可能具有自动转换:
#include <sstream>
int main(){
int a=rand();
int b=a;
printf("%dn",a);
printf("%dn",INT_MAX);
printf("n");
printf("%dn",INT_MAX+a-b);
printf("%dn",INT_MAX-b+a);
printf("%dn",a+INT_MAX-b);
printf("%dn",a-b+INT_MAX);
printf("%dn",-b+a+INT_MAX);
printf("%dn",-b+INT_MAX+a);
printf("n");
printf("%dn",INT_MAX*a/b);
printf("%dn",INT_MAX/b*a);
printf("%dn",a*INT_MAX/b);
printf("%dn",a/b*INT_MAX);
printf("n");
printf("%ldn",(long)INT_MAX*a/b);
printf("%ldn",INT_MAX*a/(long)b);
return 0;
}
输出为:
16807
2147483647
2147483647
2147483647
2147483647
2147483647
2147483647
2147483647
127772
2147480811
127772
2147483647
2147483647
127772
我使用 rand() 来确保没有编译时计算,我发现 + 和 - 对于 INT_MAX、+a 和 -b 的不同序列,结果是相同的,但对于 *a 和/b 则不是。
我还发现甚至使用铸造,(长)INT_MAXa/b 是正常的,但INT_MAXa/(长)b 不是。
我想对于 + 和 -,如果结果小于 INT_MAX,即使计算中间(例如 INT_MAX+a-b 中的:INT_MAX+a)也可能导致溢出,但不会导致溢出,但对于 * 和/,溢出中间体会影响结果,对吗?
同样对于 * 和/,我的客人操作从左侧开始,因此铸造需要从左侧开始(例如:(long)INT_MAX*a/b),也对吗?
因此,如果我的数据不会导致溢出,但计算可能会导致溢出,则
int f=a+b*c/d-e;
只需要重写为
int f=a+(long)b*c/d-e;
?
数据不会导致溢出,但计算中间值可能会导致溢出。
为了避免int
溢出(这是未定义的行为),最简单的解决方案是使用足够宽的整数类型。
int foo1(int a, int b, int c, int d) {
int f=(long)a+(long)b*(long)c/(long)d-(long)e; // OP's stating point, but see foo2
return f;
}
但每次添加(长)都会影响可读性
为避免不必要的转换及其可读性,请仅在需要时才使用 * one
。一个好的编译器将优化显式乘法,同时保留类型提升。
int foo2(int a, int b, int c, int d) {
int f = a + 1L*b*c/d - e; // Cleaner yet see foo3
return f;
}
为了确保潜在的更宽的类型足够宽(long
可能与int
宽度相同),请执行编译时测试
// Find a type where INT_MAX*INT_MAX <= some_type_MAX
#if LONG_MAX/INT_MAX >= INT_MAX
#define WIDE1 1L
#elif LLONG_MAX/INT_MAX >= INT_MAX
#define WIDE1 1LL
#elif INTMAX_MAX/INT_MAX >= INT_MAX
#define WIDE1 ((intmax_t)1)
#else
#error Out of luck
#endif
int foo3(int a, int b, int c, int d) {
int f = a + WIDE1*b*c/d - e;
return f;
}
只使用数学类型int
是要避免的工作。
但是为了计算,sqrt(aa+bb) 中的 aa+bb 会导致溢出。
对于这种情况
int hypoti1(int a, int b) {
return sqrt(WIDE1*a*a + WIDE1*b*b);
}
// or simply
int hypoti1(int a, int b) {
return hypot(a, b);
}