AWSKinesisFirehose,TransformationLambdaandOpenSearchlogprocessing
创始人
2024-09-26 01:30:54
0

使用AWS Kinesis Firehose将日志数据发送到S3存储桶中,然后使用AWS Lambda进行转换处理,并将处理好的数据存储到OpenSearch中。具体示例代码如下:

1、创建Firehose Delivery Stream

const AWS = require('aws-sdk'); const firehose = new AWS.Firehose({region: 'us-east-1'});

exports.handler = async (event) => { const params = { DeliveryStreamName: 'firehose_delivery_stream', S3DestinationConfiguration: { BucketARN: 'arn:aws:s3:::my-s3-bucket', RoleARN: 'arn:aws:iam::aws:policy/AmazonS3FullAccess', Prefix: 'logs/year=!{timestamp:yyyy}/month=!{timestamp:MM}/day=!{timestamp:dd}/hour=!{timestamp:HH}/', BufferingHints: { SizeInMBs: 1, IntervalInSeconds: 60 }, CompressionFormat: 'GZIP', CloudWatchLoggingOptions: { Enabled: true, LogGroupName: 'my-firehose-logs', LogStreamName: 'my-firehose-stream' } } };

try {
  const stream = await firehose.createDeliveryStream(params).promise();
  console.log(stream);
  return {
    statusCode: 200,
    body: JSON.stringify('Stream created successfully')
  };
} catch (err) {
  console.log(err);
  return {
    statusCode: 500,
    body: JSON.stringify('Failed to create stream')
  };
}

};

2、创建转换Lambda函数

exports.handler = async (event) => { let records = event.records.map((record) => { const payload = JSON.parse(Buffer.from(record.data, 'base64').toString('utf8'));

let newPayload = {
  // transform the payload here
};

return {
  recordId: record.recordId,
  result: 'Ok',
  data: Buffer.from(JSON.stringify(newPayload)).toString('base64')
};

});

return { records }; };

3、创建OpenSearch索引

const { OpenSearchService } = require("aws-sdk");

const opensearch = new OpenSearchService({ region: "us-east-1" });

const domainName = "my-opensearch-domain";

exports.handler = async function (event) { await opensearch.createIndex({ DomainName: domainName, Body: {}}).promise();

let response = { statusCode: 200, body: JSON.stringify("Index created successfully") }; return response; };

4、使用Lambda将数据发送到OpenSearch

const { OpenSearchService } = require("aws-sdk");

const opensearch = new OpenSearchService({ region: "us-east-1" });

const domainName = "my-opensearch-domain";

exports.handler = async (event) => { let records = event.records.map((record) => { const payload = JSON.parse(Buffer.from(record.data, 'base64').toString('utf8'));

// transform the payload here

return {
  index: {
    _index: 'my-index',
    _type: '_doc',
    _id: 'my-id', // optional
    _source: payload
  }
};

});

await opensearch.bulk({ DomainName: domainName, Body: records }).promise();

return { records }; };

相关内容

热门资讯

保存时出现了1个错误,导致这篇... 当保存文章时出现错误时,可以通过以下步骤解决问题:查看错误信息:查看错误提示信息可以帮助我们了解具体...
汇川伺服电机位置控制模式参数配... 1. 基本控制参数设置 1)设置位置控制模式   2)绝对值位置线性模...
不能访问光猫的的管理页面 光猫是现代家庭宽带网络的重要组成部分,它可以提供高速稳定的网络连接。但是,有时候我们会遇到不能访问光...
本地主机上的图像未显示 问题描述:在本地主机上显示图像时,图像未能正常显示。解决方法:以下是一些可能的解决方法,具体取决于问...
不一致的条件格式 要解决不一致的条件格式问题,可以按照以下步骤进行:确定条件格式的规则:首先,需要明确条件格式的规则是...
表格中数据未显示 当表格中的数据未显示时,可能是由于以下几个原因导致的:HTML代码问题:检查表格的HTML代码是否正...
表格列调整大小出现问题 问题描述:表格列调整大小出现问题,无法正常调整列宽。解决方法:检查表格的布局方式是否正确。确保表格使...
Android|无法访问或保存... 这个问题可能是由于权限设置不正确导致的。您需要在应用程序清单文件中添加以下代码来请求适当的权限:此外...
【NI Multisim 14...   目录 序言 一、工具栏 🍊1.“标准”工具栏 🍊 2.视图工具...
银河麒麟V10SP1高级服务器... 银河麒麟高级服务器操作系统简介: 银河麒麟高级服务器操作系统V10是针对企业级关键业务...