为什么这个Java代码的性能如此不一致?

Question

我正在运行一个小测试，虽然它是一个微基准测试，但它确实很好地模仿了我们在生产中实际做的事情。

我正在创建一个2D数组，5列和10,000,000行，其中包含0-19之间的随机整数。然后我想把第三列的所有数字加起来，只要第二列的值是偶数。我这样做100次来热身，然后再做100次，然后计算花了多长时间。

在我的机器上，绝大多数情况下需要大约9秒，然而，偶尔需要不到6秒。

它看起来不像垃圾收集，也不像JIT编译。

有人知道为什么它偶尔会这么快吗?

我在Linux上使用JDK7u11运行代码，带有以下参数:-server -XX:+PrintCompilation -Xms500m -Xmx500m -verbose:gc -XX:+PrintGCTimeStamps -XX:+PrintGCDetails然而，使用各种不同的jdk(从6一直到8)并删除所有这些参数似乎并没有显着影响计时。

代码如下:

import java.util.ArrayList;
import java.util.Random;
public class JavaPerformanceTest {
    public static void main(String[] args) {
        int numColumns = 5;
        int numRows = 10000000;
        int[][] data = new int[numColumns][numRows];
        Random rand = new Random(1234);
        for (int j = 0; j < numColumns; j++) {
            for (int i = 0; i < numRows; i++) {
                data[j][i] = rand.nextInt(20);
            }
        }
        int warmUp = 100;
        ArrayList<Integer> sums = new ArrayList<Integer>();
        System.out.println("warm up " + warmUp + " times");
        long warmUpStart = System.nanoTime();
        for (int i = 0; i < warmUp; i++) {
            sums.add(sum(numRows, data));
        }
        long warmUpEnd = System.nanoTime();
        System.out.println("warm up complete " + (warmUpEnd - warmUpStart) / 1000000);
        int numberOfRuns = 100;
        int finalSum = 0;
        long startTime = System.nanoTime();
        for (int i = 0; i < numberOfRuns; i++) {
            finalSum = sum(numRows, data);
        }
        long endTime = System.nanoTime();
        long diff = (endTime - startTime) / 1000000;
        System.out.println("Time taken: " + diff + "    Sum: " + finalSum);
    }

    public static int sum(int numRows, int[][] columnBased) {
        int sum = 0;
        for (int i = 0; i < numRows; i++) {
            if ((columnBased[1][i] % 2) == 0) {
                sum += columnBased[2][i];
            }
        }
        return sum;
    }
}

谢谢你,尼克。

Answer 1

导致性能变慢的可能原因有很多，包括缓存丢失和分支预测失败。我会确保你的代码是最佳的，然后重复它，以确保你的结果是稳定的。

import java.util.ArrayList;
import java.util.Random;
public class JavaPerformanceTest {
    public static void main(String[] args) {
        int numColumns = 5;
        int numRows = 10000000;
        byte[][] data = new byte[numColumns][numRows];
        Random rand = new Random(1234);
        for (int j = 0; j < numColumns; j++) {
            for (int i = 0; i < numRows; i++) {
                data[j][i] = (byte) rand.nextInt(20);
            }
        }
        int warmUp = 10;
        ArrayList<Integer> sums = new ArrayList<Integer>();
        System.out.println("warm up " + warmUp + " times");
        long warmUpStart = System.nanoTime();
        for (int i = 0; i < warmUp; i++) {
            sums.add(sum(numRows, data));
        }
        long warmUpEnd = System.nanoTime();
        System.out.println("warm up complete " + (warmUpEnd - warmUpStart) / 1000000);
        for (int t = 0; t < 3; t++) {
            int numberOfRuns = 100;
            int finalSum = 0;
            long startTime = System.nanoTime();
            for (int i = 0; i < numberOfRuns; i++) {
                finalSum = sum(numRows, data);
            }
            long endTime = System.nanoTime();
            long diff = (endTime - startTime) / 1000000;
            System.out.println("Time taken: " + diff + "    Sum: " + finalSum);
        }
    }

    public static int sum(int numRows, byte[][] columnBased) {
        int sum = 0;
        byte[] col1 = columnBased[1];
        byte[] col2 = columnBased[2];
        for (int i = 0; i < numRows; i++)
            // use multiplication instead of "if" to avoid branch prediction failures
            sum += ((col1[i] + 1) & 1) * col2[i];
        return sum;
    }
}

打印

warm up 10 times
warm up complete 109
Time taken: 1006    Sum: 47505460
Time taken: 1006    Sum: 47505460
Time taken: 1026    Sum: 47505460

总而言之:优化代码将比玩弄命令行参数更能提高性能。