用于临时存储图像的高吞吐量内存数据库



我正在寻找一个高吞吐量的内存数据库,用于存储大小在1.5MB到3MB之间的二进制块(图像(。

用例是实时视频流计算机视觉推理管道,其中我们有多个深度模型以25FPS实时对720p视频进行推理。我们目前的解决方案是带有Lustre的Amazon FSX,它可以处理任务(平均吞吐量为180MB/s(。这些模型在它们自己的K8s吊舱中,并从FSX读取解码的视频帧。问题是,每次运行都需要很长时间进行设置,而且这不是最佳的,因为为了提高吞吐量,您还需要支付额外的空间费用,而我们并不真正需要,因为存储是临时的,大多数情况下一次存储的帧数不到1000帧。理想情况下,我们会在一个实例上有一个内存中的数据库,它可以快速提升,并且可以具有非常高的吞吐量(高达500MB/s(。

我已经测试了Redis和Memcached作为一种替代方案,但两者都未能实现类似的性能,我认为这是由于大块大小(据我所知,两者都适用于许多较小的块,而不适用于较大的块(。

任何关于测试其他内容或朝哪个方向看的建议都将非常有用。

谢谢!

您可以看看eXtremeDB。我为供应商(McObject(工作,所以希望这不会因为你征求意见而被标记为"商业"。eXtremeDB已被用于访问控制系统中的面部和指纹识别。不是完全相同的用例,但可能足够相似,值得一看。

最新更新