原始代码如下:

import com.sun.rowset.internal.Row;
import org.apache.spark.api.java.JavaPairRDD;
import org.apache.spark.api.java.function.*;
import org.slf4j.event.Level;
import scala.Tuple2;
import java.util.*;
import java.util.Random;
import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.SparkContext;
import java.util.Iterator;
import org.apache.spark.SparkConf;
import org.apache.spark.api.java.JavaSparkContext;
import java.lang.*;
//import org.apache.log4j.Level;
import org.apache.log4j.Logger;
//import java.util.logging.Logger;public class sampling_salting
{public static void main(String[]  args){Logger.getLogger("org.apache.hadoop").setLevel(org.apache.log4j.Level.WARN);Logger.getLogger("org.apache.spark").setLevel(org.apache.log4j.Level.WARN);Logger.getLogger("org.project-spark").setLevel(org.apache.log4j.Level.WARN);//-------------------------------------读取rdd1数据-------------------------------------------------------//    SparkConf conf = new SparkConf().setMaster("local").setAppName("wordcount1");
//    JavaSparkContext sc = new JavaSparkContext(conf);
//    sc.setLogLevel("WARN");
//
//    String filename = "/home/appleyuchi/桌面/spark_success/Spark数据倾斜处理/Java/sampling_salting/src/main/java/rdd1.txt";
//    JavaRDD<String> input = sc.textFile(filename);
//    JavaRDD<String> lines = input.flatMap(func0);
//
//    JavaPairRDD<String,Long> rdd1 = lines.mapToPair(new PairFunction<String, String,Long>()
//    {
//        public Tuple2<String, Long> call(String s) throws Exception
//        {
//            return new Tuple2<String, Long>(s,1L);
//        }
//    });SparkConf conf=new SparkConf().setMaster("local").setAppName("join");JavaSparkContext sc=new JavaSparkContext(conf);//  rdd2=sc.textFile("hdfs://Desktop:9000/rdd2.csv").map(line->line.split(",")).map
//List<Tuple2<String, String>>stus=Arrays.asList(new Tuple2<>("w1","1"),new Tuple2<>("w2","2"),new Tuple2<>("w3","3"),new Tuple2<>("w2","22"),new Tuple2<>("w1","11"));List<Tuple2<String, String>>scores=Arrays.asList(new Tuple2<>("w1","a1"),new Tuple2<>("w2","a2"),new Tuple2<>("w2","a22"),new Tuple2<>("w1","a11"),new Tuple2<>("w3","a3"));JavaPairRDD<String, String> stusRdd=sc.parallelizePairs(stus);JavaPairRDD<String, String> scoresRdd=sc.parallelizePairs(scores);JavaPairRDD<String, Tuple2<String, String>>result=stusRdd.join(scoresRdd);System.out.println(result.collect());JavaRDD<String[]> rdd1 = sc.textFile("hdfs://Desktop:9000/rdd1.csv").map(line -> line.split(","));//         System.out.println(Arrays.toString(rdd1.collect().get(0)));System.out.println(rdd1.collect().get(0));}
}

输出结果为:

[(w2,(2,a2)), (w2,(2,a22)), (w2,(22,a2)), (w2,(22,a22)), (w3,(3,a3)), (w1,(1,a1)), (w1,(1,a11)), (w1,(11,a1)), (w1,(11,a11))]
[Ljava.lang.String;@889a8a8

解决方案:

System.out.println(Arrays.toString(rdd1.collect().get(0)));

java写spark碰到输出为[Ljava.lang.String;@889a8a8的情况相关推荐

  1. [Ljava.lang.String

    [Ljava.lang.String: [ 表示一维数组,[[ 二维数组-- L 表示是对象类型 .而java.lang.String 这个就是字符串. System.out.println(&quo ...

  2. java输出的时候出现[Ljava.lang.String是什么意思+解决方法

    例如: public static void main(String[] args) {String a1 = "123.sdggs.1234df";String[] a2 = a ...

  3. Spark读取Hbase报错NoSuchMethodError: org.apache.hadoop.conf.Configuration.getPassword(Ljava/lang/String;

    NoSuchMethodError一般报错都是包冲突导致的. java.lang.NoSuchMethodError: org.apache.hadoop.conf.Configuration.get ...

  4. 在拦截器中获取请求参数,[Ljava.lang.String; cannot be cast to java.lang.String报错

    Map<String,Object> parametersmap=invocation.getInvocationContext().getParameters();//获取请求参数    ...

  5. [Ljava.lang.String和java.lang.String区别

    [Ljava.lang.String和java.lang.String区别 注:[Ljava.lang.String@1b634e7  --     "[" 表示一维数组      ...

  6. java字段描述符_Java 的方法签名与字段类型表示-[Ljava.lang.String;

    我们什么时候会接触到 Java 的方法签名呢?在进行 JNI 调用时,还有在看方法重载时.重载的方法是有不同的方法签名的,而是不区分返回值,而实际方法签名还揉入了返回值类型的,还有就是 javap - ...

  7. java.lang.ClassCastException: [Ljava.lang.Object; cannot be cast to [Ljava.lang.String,toArray向下转型失败

    问题: 将集合通过toArray转为Object[]数组后,再通过向下转型失败 源代码: public void test(){List<String> list = new ArrayL ...

  8. Java中出现[Ljava.lang.String的问题

    当打印一个字符串数组时:System.out.println(Str1),则会出现[Ljava.lang.String 例如: String[] Str1 = new String[10]; Stri ...

  9. 【SendSms】短信服务java.lang.NoSuchMethodError: com.google.gson.JsonParser.parseString(Ljava/lang/String;)

    问题: 项目开发过程中使用到阿里云短信服务,启动模块时报错,抛出 Exception in thread "main" java.lang.NoSuchMethodError: c ...

最新文章

  1. 转载: Python os 模块的功能以及子函数介绍
  2. php ajax 时间戳,获取时间戳 和 备用ajax案例
  3. 学习笔记(3.23)
  4. SQL 2005安装问题解决办法
  5. 文献学习(part52)--基于泛岭估计对岭估计过度压缩的改进方法
  6. 前端学习(3263):js中undefine
  7. signature=2d36ad490c0d9e19a6dc808d43a34033,Matemàtica discreta : problemes resolts
  8. Vsphere auto deploy 简介
  9. thinkphp5 return 返回空_网红饮品大杯约1/3是空的!店员:这是公司设计的中空隔冷层...
  10. UVA10154 Weights and Measures【0-1背包】
  11. Linux学习笔记:CentOS6关闭IPv6
  12. NAACL 2018 | 最佳论文:艾伦人工智能研究所提出新型深度语境化词表征
  13. C# QQ群管理机器人
  14. 电工和电气工程师的区别
  15. UVA10158 - War(并查集)
  16. 流上机器学习,星环科技Sophon Base助力海洋石油富岛工艺监测智能化
  17. 摄像头poe供电原理_poe供电模块原理图
  18. 微软研发类实习生面试
  19. 整理任正非思想:再论反骄破满,在思想上艰苦奋斗-1996
  20. 【Linux操作系统基础】第六章 Linux中的进程管理

热门文章

  1. 转: 用 Eclipse 平台进行 C/C++ 开发
  2. httpclient发起https请求以及获取https返回内容
  3. HDU1054+最小顶点覆盖
  4. 李开复谏言学生转学Android软件开发
  5. 学习响应式BootStrap来写融职教育网站,Bootsrtap第十二天侧边卡片和列表组
  6. yarn、npm、cnpm三者区别
  7. core-js@2 core-js@3报错问题
  8. 使用sftp不用输入密码
  9. [剑指Offer] 数据流中的中位数
  10. Android 本地tomcat服务器接收处理手机上传的数据之案例演示