AWS S3提供了一种生成临时访问凭证的方法,以便授权应用程序或用户对存储桶进行访问。这些临时凭证通常具有较短的过期时间。在某些情况下,可能会发现在上传大型文件时,临时凭证在上传完成之前过期,从而导致上传失败。
解决该问题的一种方法是通过使用AWS SDK的MultipartUpload API,以分块的方式上传文件。这将确保在上传每个块时使用新的临时凭证,并且上传不会超过过期时间。
以下是基于Python的示例代码片段:
import boto3
s3 = boto3.client('s3')
filename = 'path/to/file' bucket_name = 'my-bucket'
response = s3.create_multipart_upload(Bucket=bucket_name, Key=filename) upload_id = response['UploadId']
with open(filename, 'rb') as file: file_size = os.path.getsize(filename) part_size = 1024 * 1024 * 5 # 5MB
# 计算文件需要分成多少块
parts_count = int(math.ceil(file_size / float(part_size)))
# 初始化分块列表
parts = []
# 将文件分块并逐块上传
for i in range(parts_count):
# 计算文件块的偏移量和大小
offset = part_size * i
byte_count = min(part_size, file_size - offset)
# 上传文件块并记录响应
response = s3.upload_part(Bucket=bucket_name,
Key=filename,
PartNumber=i + 1,
UploadId=upload_id,
Body=file.read(byte_count))
# 记录上传的块的信息
parts.append({'Part