AWS MultipartUploadException 对于超过5GB大小的文件。
创始人
2024-11-17 10:00:48
0

在处理超过5GB大小的文件时,可以使用AWS SDK提供的MultipartUpload功能来解决。MultipartUpload可以将大文件分割成多个小部分进行并发上传,并在服务器端进行合并。

下面是一个使用Java SDK的代码示例:

import com.amazonaws.AmazonServiceException;
import com.amazonaws.SdkClientException;
import com.amazonaws.auth.DefaultAWSCredentialsProviderChain;
import com.amazonaws.services.s3.AmazonS3;
import com.amazonaws.services.s3.AmazonS3ClientBuilder;
import com.amazonaws.services.s3.model.InitiateMultipartUploadRequest;
import com.amazonaws.services.s3.model.InitiateMultipartUploadResult;
import com.amazonaws.services.s3.model.PartETag;
import com.amazonaws.services.s3.model.UploadPartRequest;
import com.amazonaws.services.s3.model.UploadPartResult;
import com.amazonaws.services.s3.model.CompleteMultipartUploadRequest;
import com.amazonaws.services.s3.model.CompleteMultipartUploadResult;
import com.amazonaws.services.s3.model.AbortMultipartUploadRequest;

import java.io.File;
import java.util.ArrayList;
import java.util.List;

public class UploadLargeFile {
    public static void main(String[] args) {
        String bucketName = "your-bucket-name";
        String keyName = "your-file-key";
        String filePath = "path-to-your-file";
        int partSize = 5 * 1024 * 1024; // 5MB
        
        AmazonS3 s3Client = AmazonS3ClientBuilder.standard()
                .withCredentials(DefaultAWSCredentialsProviderChain.getInstance())
                .build();

        try {
            // Step 1: Initialize multipart upload
            InitiateMultipartUploadRequest initRequest = new InitiateMultipartUploadRequest(bucketName, keyName);
            InitiateMultipartUploadResult initResponse = s3Client.initiateMultipartUpload(initRequest);
            String uploadId = initResponse.getUploadId();

            // Step 2: Upload parts
            long fileSize = new File(filePath).length();
            long filePosition = 0;
            int partNumber = 1;
            List partETags = new ArrayList<>();

            while (filePosition < fileSize) {
                // Calculate part size
                long partSizeRemaining = fileSize - filePosition;
                int currentPartSize = (int) Math.min(partSize, partSizeRemaining);

                // Upload part
                UploadPartRequest uploadRequest = new UploadPartRequest()
                        .withBucketName(bucketName)
                        .withKey(keyName)
                        .withUploadId(uploadId)
                        .withPartNumber(partNumber)
                        .withFileOffset(filePosition)
                        .withFile(filePath)
                        .withPartSize(currentPartSize);
                UploadPartResult uploadResult = s3Client.uploadPart(uploadRequest);
                partETags.add(uploadResult.getPartETag());

                filePosition += currentPartSize;
                partNumber++;
            }

            // Step 3: Complete multipart upload
            CompleteMultipartUploadRequest completeRequest = new CompleteMultipartUploadRequest(bucketName, keyName, uploadId, partETags);
            CompleteMultipartUploadResult completeResult = s3Client.completeMultipartUpload(completeRequest);
            System.out.println("Upload complete. ETag: " + completeResult.getETag());

        } catch (AmazonServiceException e) {
            // Handle Amazon service errors
            e.printStackTrace();
        } catch (SdkClientException e) {
            // Handle client errors
            e.printStackTrace();
        }

        // Step 4: Abort multipart upload if it fails or is not completed
        s3Client.abortMultipartUpload(new AbortMultipartUploadRequest(bucketName, keyName, uploadId));
    }
}

在上面的示例中,bucketName是S3存储桶的名称,keyName是要上传的文件在存储桶中的键,filePath是要上传的文件路径,partSize是每个上传的部分的大小。可以根据需要调整这些参数。

代码中的注释提供了每个步骤的解释。首先,我们初始化上传,然后根据文件大小将文件分割为多个部分进行上传。最后,我们完成上传并获取ETag。

如果上传失败或没有完成,还提供了一个捕获异常的部分,以便可以中止上传。

请确保您已正确配置AWS SDK的凭据,以便能够访问和上传到S3存储桶中。

相关内容

热门资讯

保存时出现了1个错误,导致这篇... 当保存文章时出现错误时,可以通过以下步骤解决问题:查看错误信息:查看错误提示信息可以帮助我们了解具体...
汇川伺服电机位置控制模式参数配... 1. 基本控制参数设置 1)设置位置控制模式   2)绝对值位置线性模...
不能访问光猫的的管理页面 光猫是现代家庭宽带网络的重要组成部分,它可以提供高速稳定的网络连接。但是,有时候我们会遇到不能访问光...
不一致的条件格式 要解决不一致的条件格式问题,可以按照以下步骤进行:确定条件格式的规则:首先,需要明确条件格式的规则是...
本地主机上的图像未显示 问题描述:在本地主机上显示图像时,图像未能正常显示。解决方法:以下是一些可能的解决方法,具体取决于问...
表格列调整大小出现问题 问题描述:表格列调整大小出现问题,无法正常调整列宽。解决方法:检查表格的布局方式是否正确。确保表格使...
表格中数据未显示 当表格中的数据未显示时,可能是由于以下几个原因导致的:HTML代码问题:检查表格的HTML代码是否正...
Android|无法访问或保存... 这个问题可能是由于权限设置不正确导致的。您需要在应用程序清单文件中添加以下代码来请求适当的权限:此外...
银河麒麟V10SP1高级服务器... 银河麒麟高级服务器操作系统简介: 银河麒麟高级服务器操作系统V10是针对企业级关键业务...
【NI Multisim 14...   目录 序言 一、工具栏 🍊1.“标准”工具栏 🍊 2.视图工具...