vkCreateComputePipelines花费的时间太长

Question

我在编译Vulkan compute shader时遇到了一个奇怪的问题。我有这个着色器(它甚至不是那么复杂)

#version 450
#extension GL_GOOGLE_include_directive : enable
//#extension GL_EXT_debug_printf : enable
#extension GL_KHR_shader_subgroup_basic : enable
#extension GL_KHR_shader_subgroup_arithmetic : enable
#define IS_AVAILABLE_BUFFER_ANN_ENTITIES
#define IS_AVAILABLE_BUFFER_GLOBAL_MUTABLES
#define IS_AVAILABLE_BUFFER_BONES
#define IS_AVAILABLE_BUFFER_WORLD
//#define IS_AVAILABLE_BUFFER_COLLISION_GRID
#include "descriptors_compute.comp"
layout (local_size_x_id = GROUP_SIZE_CONST_ID) in;
#include "utils.comp"
shared float[ANN_MAX_SIZE] tmp1;
shared float[ANN_MAX_SIZE] tmp2;
shared uint[ANN_TOUCHED_BLOCK_COUNT] touched_block_ids;
mat3 rotation_mat_from_yaw_and_pitch(vec2 yaw_and_pitch){
const vec2 Ss = sin(yaw_and_pitch); // let S denote sin(yaw) and s denote sin(pitch)
const vec2 Cc = cos(yaw_and_pitch); // let C denote cos(yaw) and c denote cos(pitch)
const vec4 Cs_cC_Sc_sS = vec4(Cc,Ss) * vec4(Ss.y,Cc,Ss.x);
return mat3(Cs_cC_Sc_sS.y,-Ss.y,-Cs_cC_Sc_sS.z,Cs_cC_Sc_sS.x,Cc.y,-Cs_cC_Sc_sS.w,Ss.x,0,Cc.x);
}
void main() {
const uint entity_id = gl_WorkGroupID.x;
const uint lID = gl_LocalInvocationID.x;
const uint entities_count = global_mutables.ann_entities;
if (entity_id < entities_count){
const AnnEntity entity = ann_entities[entity_id];
const Bone bone = bones[entity.bone_idx];
const mat3 rotation = rotation_mat_from_yaw_and_pitch(bone.yaw_and_pitch);
const uint BLOCK_TOUCH_SENSE_OFFSET = 0;
const uint LIDAR_LENGTH_SENSE_OFFSET = BLOCK_EXTENDED_SENSORY_FEATURES_LEN*ANN_TOUCHED_BLOCK_COUNT;
for(uint i=lID;i<ANN_LIDAR_COUNT;i+=GROUP_SIZE){
const vec3 rotated_lidar_direction = rotation * entity.lidars[i].direction;
const RayCastResult ray = ray_cast(bone.new_center, rotated_lidar_direction);
tmp1[LIDAR_LENGTH_SENSE_OFFSET+i] = ray.ratio_of_traversed_length;
}
for(uint i = lID;i<ANN_OUTPUT_SIZE;i+=GROUP_SIZE){
const AnnSparseOutputNeuron neuron = entity.ann_output[i];
float sum = neuron.bias;
for(uint j=0;j<neuron.incoming.length();j++){
sum += tmp1[neuron.incoming[j].src_neuron] * neuron.incoming[j].weight;
}
tmp2[i] = max(0,sum);//ReLU activation
}
vec2 rotation_change = vec2(0,0);
for(uint i = lID;i<ANN_OUTPUT_ROTATION_MUSCLES_SIZE;i+=GROUP_SIZE){
rotation_change += tmp2[ANN_OUTPUT_ROTATION_MUSCLES_OFFSET+i] * ANN_IMPULSES_OF_ROTATION_MUSCLES[i];
}
rotation_change = subgroupAdd(rotation_change);
if(lID==0){
bones[entity.bone_idx].yaw_and_pitch += rotation_change;
}
}
}

函数ray_cast可能是这个着色器中最复杂的部分，但我也在许多其他立即编译的着色器中重用了这个完全相同的函数。我想知道GL_KHR_shader_subgroup_arithmetic是否会减慢vkCreateComputePipelines的速度，但如果去除它没有什么区别。Vulkan完成vkCreateComputePipelines需要一分钟多的时间。我也有一堆实用程序函数包括，但我只使用几个常数从那里和ray_cast，所以90%的代码是未使用的，应该由glslc删除。会不会是Vulkan在悄悄执行其他类型的优化，导致了延迟?我认为所有的优化都是由glslc完成的，在SPIR-V上没有太多的后处理。我使用Nvidia和他们的专有驱动程序。

这真的让我很困惑，为什么这个着色器创建得这么慢，即使我有其他着色器十倍长，更复杂，但他们立即加载。

有什么方法概要文件呢?

Answer 1

仔细检查后，我注意到通常为我的着色器生成的所有SPIR-V文件大约需要10-30KB。然而，这一个着色器占用178KB。

在spirv-dis的帮助下，我查看了生成的程序集内部，并注意到绝大多数操作码是OpConstant。这是因为我的结构看起来像

struct AnnSparseOutputNeuron{
AnnSparseConnection[ANN_LATENT_CONNECTIONS_PER_OUTPUT_NEURON] incoming;
float bias;
};

它们包含大数组。结果

const AnnEntity entity = ann_entities[entity_id];

和

const AnnSparseOutputNeuron neuron = entity.ann_output[i];

将被编译成许多操作码，这些操作码为数组的每个元素写入这些常量值。所以不要写像

这样的代码

const A a = buffer_of_As[i];
f(a.some_filed)

最好使用

f(buffer_of_As[i].some_filed)

这似乎已经解决了问题。我以为glslc会足够聪明，可以找出这样的优化，但显然它不是。