OpenSSL:加密/解密例程的输入和输出缓冲区可以相同吗

Question

例如，在：中

int EVP_EncryptUpdate(EVP_CIPHER_CTX *ctx, unsigned char *out,
                int *outl, unsigned char *in, int inl);

…out==in可以吗？

Answer 1

我只是偶然发现了这个问题，因为我自己也很好奇。由于没有人回答，我尝试了一下，它确实有效（至少使用AES CTR 128解密），所以我大胆猜测它也适用于其他类型。这是我的代码示例，以防您感兴趣。

/* Test Vector from http://www.inconteam.com/software-development/41-encryption/55-aes-test-vectors */
const unsigned char key[16] = { 0x2b, 0x7e, 0x15, 0x16,
                                0x28, 0xae, 0xd2, 0xa6,
                                0xab, 0xf7, 0x15, 0x88,
                                0x09, 0xcf, 0x4f, 0x3c };
const unsigned char IV[16] = { 0xf0, 0xf1, 0xf2, 0xf3,
                               0xf4, 0xf5, 0xf6, 0xf7,
                               0xf8, 0xf9, 0xfa, 0xfb,
                               0xfc, 0xfd, 0xfe, 0xff };
unsigned char test[16] = { 0x6b, 0xc1, 0xbe, 0xe2,
                                 0x2e, 0x40, 0x9f, 0x96,
                                 0xe9, 0x3d, 0x7e, 0x11,
                                 0x73, 0x93, 0x17, 0x2a };
EVP_CIPHER_CTX mCtx;
EVP_DecryptInit(&mCtx, EVP_aes_128_ctr(), key, IV);
int out_size;
EVP_DecryptUpdate(&mCtx, test, &out_size, test, 16);

Answer 2

Inbuf和outbuf在某些情况下可以写得相同，但有很多陷阱。

陷阱1：如果inbuf和outbuf写的是同一个，在填充的情况下，你会发现传出outlen比inlen少16个字节，如果按块解析，每个块都会少16个比特，解析结果完全错误！inbuf和outbuf不一样是正确的。

陷阱2：openssl文档明确规定EVP_DecryptUpdate的传出outbuf的长度要求为（inlen+cipher_block_size）。通常，AES的cipher_block_size是16，因此这意味着必须准备绑定缓冲区的长度+准备的字节数是6。否则，它将导致内存写入溢出，并产生不可预测的结果。如果inbuf和outbuf使用同一个，那么缓冲区长度的细节必须处理好。

总之，不要把inbuf和outbuf放在同一个位置，挖坑伤害自己。

---谷歌翻译。