AWS 数据管道:将 CSV 文件从 S3 上传到 DynamoDB
创始人
2024-11-18 07:00:42
0

以下是一个使用AWS数据管道将CSV文件从S3上传到DynamoDB的解决方案,包含代码示例:

  1. 创建一个Lambda函数来处理数据管道的转换和加载任务:
import boto3

def lambda_handler(event, context):
    input_bucket = event['inputBucket']
    input_key = event['inputKey']
    output_table = event['outputTable']

    # 从S3下载CSV文件
    s3 = boto3.client('s3')
    s3.download_file(input_bucket, input_key, '/tmp/input.csv')
    
    # 处理CSV文件,转换为DynamoDB条目
    items = []
    with open('/tmp/input.csv', 'r') as file:
        lines = file.readlines()
        headers = lines[0].strip().split(',')
        for line in lines[1:]:
            values = line.strip().split(',')
            item = {}
            for i in range(len(headers)):
                item[headers[i]] = values[i]
            items.append(item)
    
    # 将转换后的条目加载到DynamoDB表中
    dynamodb = boto3.resource('dynamodb')
    table = dynamodb.Table(output_table)
    with table.batch_writer() as batch:
        for item in items:
            batch.put_item(Item=item)
    
    return 'Data pipeline completed successfully.'
  1. 创建一个数据管道定义文件(pipeline-definition.json),指定输入和输出:
{
  "objects": [
    {
      "id": "S3Input",
      "name": "S3Input",
      "schedule": {
        "ref": "DefaultSchedule"
      },
      "type": "S3DataNode",
      "dataFormat": {
        "ref": "CSVDataFormat"
      },
      "scheduleType": "ONDEMAND",
      "directoryPath": "#{myInputS3Path}",
      "errorThreshold": 0,
      "errorHandlingConfig": {
        "failOnError": true
      }
    },
    {
      "id": "DynamoDBOutput",
      "name": "DynamoDBOutput",
      "schedule": {
        "ref": "DefaultSchedule"
      },
      "type": "DynamoDBDataNode",
      "scheduleType": "ONDEMAND",
      "tableName": "#{myOutputDynamoDBTable}",
      "errorThreshold": 0,
      "errorHandlingConfig": {
        "failOnError": true
      }
    }
  ],
  "parameters": [
    {
      "id": "myInputS3Path",
      "description": "S3 input path",
      "type": "String"
    },
    {
      "id": "myOutputDynamoDBTable",
      "description": "DynamoDB output table",
      "type": "String"
    }
  ]
}
  1. 创建一个数据管道任务,指定Lambda函数和数据管道定义文件:
import boto3

def create_data_pipeline(input_bucket, input_key, output_table):
    client = boto3.client('datapipeline')
    
    # 创建数据管道定义
    with open('pipeline-definition.json', 'r') as file:
        pipeline_definition = file.read()
    
    # 创建数据管道
    response = client.create_pipeline(
        name='csv-to-dynamodb-pipeline',
        uniqueId='csv-to-dynamodb-pipeline',
        description='Pipeline to upload CSV file to DynamoDB',
        pipelineTags=[
            {
                'key': 'environment',
                'value': 'development'
            },
        ],
        pipelineObjects=[
            {
                'id': 'S3Input',
                'name': 'S3Input',
                'fields': [
                    {
                        'key': 'myInputS3Path',
                        'stringValue': 's3://' + input_bucket + '/' + input_key
                    }
                ]
            },
            {
                'id': 'DynamoDBOutput',
                'name': 'DynamoDBOutput',
                'fields': [
                    {
                        'key': 'myOutputDynamoDBTable',
                        'stringValue': output_table
                    }
                ]
            }
        ],
        parameterObjects=[
            {
                'id': 'myInputS3Path',
                'attributes': []
            },
            {
                'id': 'myOutputDynamoDBTable',
                'attributes': []
            }
        ],
        parameterValues=[
            {
                'id': 'myInputS3Path',
                'stringValue': 's3://' + input_bucket + '/' + input_key
            },
            {
                'id': 'myOutputDynamoDBTable',
                'stringValue': output_table
            }
        ],
        pipelineDefinition=pipeline_definition
    )
    

相关内容

热门资讯

前端-session、jwt 目录:   (1)session (2&#x...
linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
关于测试,我发现了哪些新大陆 关于测试 平常也只是听说过一些关于测试的术语,但并没有使用过测试工具。偶然看到编程老师...
前缀和与对数器与二分法 1. 前缀和 假设有一个数组,我们想大量频繁的去访问L到R这个区间的和,...
nodejs:本地安装nvm实... 一、背景-使用不同版本node的原因 vue3+ts、nuxt3版本,node...
JAVA集合知识整理 Java集合知识整理 HashMap相关 HashMap的底层数据结构:jdk1.8之...
无刷直流电机介绍及单片机控制实... 无刷直流电机介绍及单片机控制实例前言基本概念优势与劣势使用寿命基本结构使用单片机控制实例电子调速器&...
fwdiary(2) dp2 1.传纸条  AcWing 275. 传纸条 - AcWing 走两条路,走一条最大的...
常用的DOS命令 常用的DOS命令 DOS(Disk Operating System,磁...
<C++> 类和对象(下) 1.const成员函数将const修饰的“成员函数”称之为const成员函数,cons...