AWSEMR集群-spark-submit,您应该能够同时运行多个作业吗?
创始人
2024-09-25 10:00:48
0

AWS EMR集群中使用spark-submit提交Spark作业时,默认情况下,只能运行一个作业。如果尝试运行多个作业,将会出现资源冲突的问题。

但是,您可以通过配置Spark动态资源调度器(Dynamic Resource Scheduler,DRS)来实现同时运行多个作业。

首先,您需要在EMR集群中配置DRS。具体步骤请参考AWS文档。

然后,在spark-submit命令中添加参数来启用DRS:

spark-submit --master yarn --deploy-mode client \
    --conf spark.scheduler.mode=dynamic \
    --conf spark.dynamicAllocation.enabled=true \
    --conf spark.shuffle.service.enabled=true \
    --num-executors 2 \
    your_spark_job.py

在上面的示例中,我们将Spark调度器模式设置为动态(dynamic),启用动态资源分配(dynamic allocation),启用shuffle服务,并将执行器数量设置为2。您可以根据您的需求修改这些参数。

这样配置后,您可以同时运行多个作业,Spark将自动分配和管理资源。

注意,在使用DRS时,您需要正确配置您的Spark作业,以确保它可以适应这种资源动态变化的环境。例如,可以使用动态资源池(dynamic resource pools)来动态分配资源。

示例代码:

from pyspark.sql import SparkSession

spark = SparkSession.builder \
        .appName("my_app") \
        .config("spark.scheduler.mode", "dynamic") \
        .config("spark.dynamicAllocation.enabled", "true") \
        .config("spark.shuffle.service.enabled", "true") \
        .config("spark.executor.instances", 2) \
        .getOrCreate()

# Your Spark job code here

spark.stop()

在上面的示例中,我们使用了SparkSession对象来创建Spark应用程序,并将相关配置传递给了builder。注意,在这里,我们将执行器(executor)数量设置为2,以便可以同时运行多个作业。

相关内容

热门资讯

前端-session、jwt 目录:   (1)session (2&#x...
linux入门---制作进度条 了解缓冲区 我们首先来看看下面的操作: 我们首先创建了一个文件并在这个文件里面添加了...
关于测试,我发现了哪些新大陆 关于测试 平常也只是听说过一些关于测试的术语,但并没有使用过测试工具。偶然看到编程老师...
前缀和与对数器与二分法 1. 前缀和 假设有一个数组,我们想大量频繁的去访问L到R这个区间的和,...
nodejs:本地安装nvm实... 一、背景-使用不同版本node的原因 vue3+ts、nuxt3版本,node...
JAVA集合知识整理 Java集合知识整理 HashMap相关 HashMap的底层数据结构:jdk1.8之...
无刷直流电机介绍及单片机控制实... 无刷直流电机介绍及单片机控制实例前言基本概念优势与劣势使用寿命基本结构使用单片机控制实例电子调速器&...
fwdiary(2) dp2 1.传纸条  AcWing 275. 传纸条 - AcWing 走两条路,走一条最大的...
常用的DOS命令 常用的DOS命令 DOS(Disk Operating System,磁...
<C++> 类和对象(下) 1.const成员函数将const修饰的“成员函数”称之为const成员函数,cons...