迁移Spark2.4.2/Scala 2.11 工程项目到Spark 3.0.3/Scala 2.12 的过程,运行工程代码报错:
User class threw exception: java.lang.NoSuchMethodError: scala.Predef$.refArrayOps([Ljava/lang/Object;)[Ljava/lang/Object;
乍一看是某一行的引用方式取数组元素报错,但是在Spark-shell中运行没有问题。最后经过分析,是编译和运行的Spark/Scala版本不同导致的。有两种情况都可能导致上述报错;
情况一:低版本scala 2.11的jar包被包含在高版本scala 2.12编译的程序中,这些jar包,可能是 spark-sql_2.11[1]、spark-core_2.11等等
情况二:高版本scala 2.12编译的jar,使用低版本的scala 2.11的spark_submit 命令进行提交;比如使用spark-2.1.0-bin-hadoop2.6/scala 2.11的工具链,提交 spark3.0.3/scala 2.12 版本的任务到集群。
参考链接:[1] https://www.cnblogs.com/itboys/p/6675075.html