gsutil -m rm gs://{our_bucket}/{dir}/{subdir}/*
...
Removing gs://our_bucket/dir/subdir/staging-000000000102.json...
Removing gs://our_bucket/dir/subdir/staging-000000000101.json...
CommandException: 103 files/objects could not be removed.
该命令能够找到包含103个.JSON文件的目录,并"尝试"根据Removing gs://...
的输出去除它们。我们收到CommandException: 103 files/objects could not be removed.
的原因是什么?
- 这个在我的本地机器上运行
- 这在我们需要它工作的GCP计算引擎上的docker容器中不起作用。
也许这是一个权限问题与计算引擎没有权限删除文件在我们的GCS?
编辑:我们在气流项目的/config
文件夹中有一个服务帐户JSON,该服务帐户共享给具有Storage Admin
权限的IAM用户。也许在/config文件夹中的JSON不足以为整个GCP计算引擎分配权限?我特别困惑,因为这个服务器是可以从我们的BQ数据库中查询,并写入GCS,但不能从GCS中删除…
这个链接中的解决方案- https://gist.github.com/ryderdamen/926518ddddd46dd4c8c2e4ef5167243d正是我们所需要的:
- 停止实例
- 编辑设置
- 删除gsutil缓存