使用Boto3配置文件覆盖S3端点

Question

概述：

我正在尝试使用配置文件(~/aws/confg(覆盖boto3中的某些变量。在我的用例中，我想使用fakes3服务并向localhost发送S3请求。

示例：

在boto(而不是boto3(中，我可以在~/.boto中创建一个类似于以下的配置：

[s3]
host = localhost
calling_format = boto.s3.connection.OrdinaryCallingFormat
[Boto]
is_secure = False

并且客户端可以成功地获取所需的更改，并且不会将流量发送到真正的S3服务，而是将其发送到localhost。

>>> import boto
>>> boto.connect_s3()
S3Connection:localhost
>>> 

我尝试过的：

我正在尝试使用boto3库来实现类似的结果。通过查看源代码，我发现我可以使用~/aws/config位置。我还在botocore的unittests文件夹中找到了一个示例配置。

我试图修改配置以实现所需的行为。但不幸的是，它不起作用。

这是配置：

[default]
aws_access_key_id = XXXXXXXXX
aws_secret_access_key = YYYYYYYYYYYYYY
region = us-east-1
is_secure = False
s3 =
    host = localhost

问题：

1. 如何使用配置文件覆盖clients变量
2. 在哪里可以找到配置允许变量的完整列表

Answer 1

您不能在配置文件中设置主机，但您可以使用boto3从代码中覆盖它。

import boto3
session = boto3.session.Session()
s3_client = session.client(
    service_name='s3',
    aws_access_key_id='aaa',
    aws_secret_access_key='bbb',
    endpoint_url='http://localhost',
)

然后你就可以像往常一样互动了。

print(s3_client.list_buckets())

Answer 2

boto3仅从该配置文件中读取s3的签名版本。你可能想打开一个功能请求，但现在这里是你如何处理自定义端点：

import boto3
from botocore.utils import fix_s3_host
resource = boto3.resource(service_name='s3', endpoint_url='http://localhost')
resource.meta.client.meta.events.unregister('before-sign.s3', fix_s3_host)

关于元的这一点很重要，因为boto3在认为合适1时会自动将端点更改为your_bucket_name.s3.amazonaws.com。如果您同时使用自己的主机和s3，您可能希望覆盖该功能，而不是完全删除它。

Answer 3

另一种方式：

import boto3
s3client = boto3.client('s3', endpoint_url='http://X.X.x.X:8080/',
        aws_access_key_id = 'XXXXXXX',
        aws_secret_access_key = 'XXXXXXXX')
bucket_name = 'aaaaa'
s3client.create_bucket(Bucket=bucket_name)

Answer 4

使用boto3资源：

import boto3
# use third party object storage
s3 = boto3.resource('s3', endpoint_url='https://URL:443',
  aws_access_key_id = 'AccessKey',
  aws_secret_access_key = 'SecertKey')
# Print out bucket names
for bucket in s3.buckets.all():
 print(bucket.name)

Answer 5

s3_client = boto3.client(
    "s3",
    "us-east-1",
    aws_access_key_id="test_id",
    aws_secret_access_key="test_key",
    endpoint_url="https://localhost:7000",
    use_ssl=True,
    verify=False,
)

Answer 6

我刚刚向boto3提交了一份PR，以添加一个env-var，允许您在需要使用使用boto3的依赖模块时覆盖endpoint_url(在这种情况下，您可能无法直接修改对boto3.client的调用(

https://github.com/boto/boto3/pull/2746

https://github.com/rwillmer/boto3