从远程服务器复制到s3的文件不会在s3存储桶上显示状态



我正在从远程服务器向s3存储桶上传近7 TB的文件和文件夹,但在s3存储桶上看不到任何文件。我在s3上只能看到几个成功复制的文件。

我有一个ec2服务器,我使用这个链接安装了一个s3 bucket

在远程服务器上,我使用以下脚本。我也测试了这个脚本,它对的小尺寸文件运行良好

rsync -uvPz --recursive -e "ssh -i /tmp/key.pem" /eb_bkup/OMCS_USB/* appadmin@10.118.33.124:/tmp/tmp/s3fs-demo/source/backups/eb/ >> /tmp/log.txt &

我正在生成的日志文件显示文件正在被复制,以及所有相关信息,如传输速度、文件名等。但在s3 bucket上,在复制第一个文件后,我看不到任何文件。

每个文件大小从500MB到25GB不等。

为什么我在S3上看不到这些文件?

AmazonS3是一个对象存储服务,而不是文件系统。我建议您使用AWS命令行界面(CLI(来复制文件,而不是将S3安装为磁盘。

AWS CLI包含一个非常适合您的aws s3 sync命令,它将在两个位置之间同步文件。因此,如果某个操作失败,您可以重新运行它,它不会复制已经复制的文件。

所以我面临的问题是rsync在目标ec2上复制文件,首先创建一个临时文件,然后将其写入S3 bucket。因此,多个rsync作业正在运行,EC2服务器上的本地ebs卷存储已满。这就是为什么rsync无法创建临时文件,并且一直在套接字上复制/写入。

相关内容

最新更新