SparkSQL访问Hive遇到的问题及解决方法是什么
这篇文章给大家介绍SparkSQL访问Hive遇到的问题及解决方法是什么,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。
创新互联建站是专业的友好网站建设公司,友好接单;提供网站建设、网站制作,网页设计,网站设计,建网站,PHP网站建设等专业做网站服务;采用PHP框架,可快速的进行友好网站开发网页制作和功能扩展;专业做搜索引擎喜爱的网站,专业的做网站团队,希望更多企业前来合作!
需要先将hadoop的core-site.xml,hive的hive-site.xml拷贝到project中
测试代码
报错
查看源码
解决方法
将$HIVE_HOME/lib下的spark-hive_2.11-2.4.2.jar与spark-hive-thriftserver_2.11-2.4.2.jar添加到project中
继续报错
查看源码
进入ConfVars
发现ConfVars中定义的变量并没有METASTORE_CLIENT_SOCKET_LIFETIME,而HiveConf.java来自于hive-exec-1.1.0-cdh6.7.0.jar,即证明hive1.1.0中并没有假如该参数。
解决方法
将hive依赖换为1.2.1
继续报错
解决方法
这是因为远端没有启动hive造成的,启动hive时需要配置metastore。
关于SparkSQL访问Hive遇到的问题及解决方法是什么就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
分享文章:SparkSQL访问Hive遇到的问题及解决方法是什么
分享网址:http://pwwzsj.com/article/joeiop.html