JAVA下运行Spark程序报错:A master URL must be set in your configuration

利用IDEA进行Java环境下的Spark开发时,代码运行报错:

Exception in thread "main" org.apache.spark.SparkException: A master URL must be set in your configuration

这里提示需要配置master url。

master url表示集群管理器的地址,决定了spark应用的运行模式,官方定义是:

Sets the Spark master URL to connect to, such as "local" to run locally, "local[4]" to run locally with 4 cores, or "spark://master:7077" to run on a Spark standalone cluster.

即存在三种定义:

  • local:在本地运行
  • local[n]:本地运行,使用n个核
  • spark://master:7077:在Spark standalone集群中运行

该报错可以通过两种方式解决。

第一种方案

直接在spark会话中添加该配置:

SparkSession spark = SparkSession.builder().appName("demo").master("local").getOrCreate();

上面的配置指明spark应用是本地运行的。

第二种方案

在Run/Debug Configurations中Add VM options,并配置:

-Dspark.master=local

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值