基于Spark的Hive编程中,“Error:(8, 37) java: 程序包org.apache.spark.sql.api.java不存在”的解决办法

本文解决了一个在使用Spark1.2.0版本时出现的依赖问题,主要原因是spark-assembly-1.2.0-hadoop2.4.0.jar存在问题。通过单独引入spark-hive_2.10-1.2.0.jar和spark-sql_2.10-1.2.0.jar两个jar包解决了该问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

依赖Spark 1.2.0中的jar包编程时会出现这个问题,虽然这个Spark版本已较旧,但一些在旧的平台上开发的人,可能还会遇到这个问题,因此将问题的解决办法写在这里。

报的错误如下图所示:


其实问题很简单,原因就在于spark-assembly-1.2.0-hadoop2.4.0.jar这个jar包有问题。这个包实际是由org.apache.spark等许多小的package构成,这些package中至少一部分可以单独下载得到。上面所报错误中的类存在于spark-hive_2.10-1.2.0.jar和spark-sql_2.10-1.2.0.jar中,这两个jar包可分别从下面两个链接下载:

http://mvnrepository.com/artifact/org.apache.spark/spark-hive_2.10/1.2.0

http://mvnrepository.com/artifact/org.apache.spark/spark-sql_2.10/1.2.0

把这两个jar包添加到依赖中,重新编译就没问题了。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值