windosw下安装spark-bin-hadoop环境

本文介绍如何在Windows环境下安装Spark 1.3.1版本,并解决安装过程中可能出现的问题,如spark-shell启动错误等。文章还提供了配置环境变量的方法及依赖Scala环境的要求。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

spark安装-windows安装
下载spark-1.3.1-bin-hadoop2.6.tgz
下载地址:
https://download.csdn.net/download/ardo_pass/11061864 
安装参考:
https://blog.csdn.net/nxw_tsp/article/details/78281533 
配置环境变量,在系统变量path中追加spark的bin目录

依赖scala环境,前提是已安装scala

然后在cmd中启动spark-shell报错assertion failed:null

出现这个问题的原因是2.8版本以上的scala将不再默认使用java的classpath.要解决这个问题,很显然,就是要在配置文件中添加使用java classpath的命令,请参考
http://blog.sina.com.cn/s/blog_59c29ded0102v4an.html 
解决:在spark-class2.cmd中set JAVA_OPTS=%OUR_JAVA_OPTS% -Xms%OUR_JAVA_MEM% -Xmx%OUR_JAVA_MEM%后面加一个空格再增加-Dscala.usejavacp=true
再次启动spark-shell即可

成功后在浏览器输入: 
http://localhost:4040 
即可看到spark页面

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值