Spark DataSource API
2019独角兽企业重金招聘Python工程师标准>>>
Spark 1.3 引入了第一版的数据源 API,我们可以使用它将常见的数据格式整合到 Spark SQL 中。但是,随着 Spark 的不断发展,这一 API 也体现出了其局限性,故而 Spark 团队不得不加入越来越多的专有代码来编写数据源,以获得更好的性能。Spark 2.3 中,新一版的数据源 API 初见雏形,它克服了上一版 API 的种种问题,原来的数据源代码也在逐步重写。本文将演示这两版 API 的使用方法,比较它们的不同之处,以及新版 API 的优势在哪里。
DataSource V1 API
V1 API 由一系列的抽象类和接口组成,它们位于 spark/sql/sources/interfaces.scala 文件中。主要的内容有:
1 2 3 4 5 6 7 8 9 10 11 12 |
trait RelationProvider {def createRelation(sqlContext: SQLContext, parameters: Map[String, String]): BaseRelation }abstract class BaseRelation {def sqlContext: SQLContextdef schema: StructType }trait TableScan {def buildScan(): RDD[Row] } |
通过实现 RelationProvider
接口,表明该类是一种新定义的数据源,可以供 Spark SQL 取数所用。传入 createRelation
方法的参数可以用来做初始化,如文件路径、权限信息等。BaseRelation
抽象类则用来定义数据源的表结构,它的来源可以是数据库、Parquet 文件等外部系统,也可以直接由用户指定。该类还必须实现某个 Scan
接口,Spark 会调用 buildScan
方法来获取数据源的 RDD,我们将在下文看到。
JdbcSourceV1
下面我们来使用 V1 API 实现一个通过 JDBC 读取数据库的自定义数据源。为简单起见,表结构信息是直接写死在代码里的,我们先从整表扫描开始。完整的代码可以在 GitHub(链接)中找到,数据源表则可以在这个 链接 中查看。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 |
class JdbcSourceV1 extends RelationProvider {override def createRelation(parameters: Map[String, String]): BaseRelation = {new JdbcRelationV1(parameters("url"))} }class JdbcRelationV1(url: String) extends BaseRelation with TableScan {override def schema: StructType = StructType(Seq(StructField("id", IntegerType),StructField("emp_name", StringType)))override def buildScan(): RDD[Row] = new JdbcRDD(url) }class JdbcRDD(url: String) extends RDD[Row] {override def compute(): Iterator[Row] = {val conn = DriverManager.getConnection(url)val stmt = conn.prepareStatement("SELECT * FROM employee")val rs = stmt.executeQuery()new Iterator[Row] {def hasNext: Boolean = rs.next()def next: Row = Row(rs.getInt("id"), rs.getString("emp_name"))}} } |
JdbcRDD#compute
负责实际的读取操作,它从上游获取到数据库连接信息、选取的字段、以及过滤条件,拼装 SQL 后执行,并返回一个 Row
类型的迭代器对象,每一行数据的结构和请求的字段列表相符。定义好数据源后,我们就可以用 DataFrame
对象来直接操作了:
1 2 3 4 5 6 7 |
val df = spark.read.format("JdbcSourceV2").option("url", "jdbc:mysql://localhost/spark").load()df.printSchema() df.show() |
上述代码输出的内容是:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 |
root|-- id: integer (nullable = true)|-- emp_name: string (nullable = true)|-- dep_name: string (nullable = true)|-- salary: decimal(7,2) (nullable = true)|-- age: decimal(3,0) (nullable = true)+---+--------+----------+-------+---+ | id|emp_name| dep_name| salary|age| +---+--------+----------+-------+---+ | 1| Matthew|Management|4500.00| 55| | 2| Olivia|Management|4400.00| 61| | 3| Grace|Management|4000.00| 42| | 4| Jim|Production|3700.00| 35| | 5| Alice|Production|3500.00| 24| +---+--------+----------+-------+---+ |
V1 API 的局限性
我们可以看到,V1 API 使用起来非常方便,因此能够满足 Spark SQL 初期的需求,但也不免存在很多局限性:
依赖上层 API
createRelation
接收 SQLContext
作为参数;buildScan
方法返回的是 RDD[Row]
类型;而在实现写操作时,insert
方法会直接接收 DataFrame
类型的参数:
1 2 3 |
trait InsertableRelation {def insert(data: DataFrame, overwrite: Boolean): Unit } |
这些类型都属于较为上层的 Spark API,其中某些类已经发生了变化,如 SQLContext
已被 SparkSession
取代,而 DataFrame
也改为了 Dataset[Row]
类型的一个别称。这些改变不应该体现到底层的数据源 API 中。
难以添加新的优化算子
除了上文中的 TableScan
接口,V1 API 还提供了 PrunedScan
接口,用来裁剪不需要的字段;PrunedFilteredScan
接口则可以将过滤条件下推到数据源中。在 JdbcSourceV1
示例中,这类下推优化会体现在 SQL 语句里:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
class JdbcRelationV1 extends BaseRelation with PrunedFilteredScan {def buildScan(requiredColumns: Array[String], filters: Array[Filter]) = {new JdbcRDD(requiredColumns, filters)} }class JdbcRDD(columns: Array[String], filters: Array[Filter]) {def compute() = {val wheres = filters.flatMap {case EqualTo(attribute, value) => Some(s"$attribute = '$value'")case _ => None}val sql = s"SELECT ${columns.mkString(", ")} FROM employee WHERE ${wheres.mkString(" AND ")}"} } |
如果我们想添加新的优化算子(如 LIMIT 子句),就不免要引入一系列的 Scan
接口组合:
1 2 3 4 5 6 7 8 9 10 11 |
trait LimitedScan {def buildScan(limit: Int): RDD[Row] }trait PrunedLimitedScan {def buildScan(requiredColumns: Array[String], limit: Int): RDD[Row] }trait PrunedFilteredLimitedScan {def buildScan(requiredColumns: Array[String], filters: Array[Filter], limit: Int): RDD[Row] } |
难以传递分区信息
对于支持数据分区的数据源,如 HDFS、Kafka 等,V1 API 没有提供原生的支持,因而也不能利用数据局部性(Data Locality)。我们需要自己继承 RDD 来实现,比如下面的代码就对 Kafka 数据源进行了分区,并告知 Spark 可以将数据读取操作放入 Kafka Broker 所在的服务器上执行,以提升效率:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
case class KafkaPartition(partitionId: Int, leaderHost: String) extends Partition {def index: Int = partitionId }class KafkaRDD(sc: SparkContext) extends RDD[Row](sc, Nil) {def getPartitions: Array[Partition] = Array(// populate with Kafka PartitionInfoKafkaPartition(0, "broker_0"),KafkaPartition(1, "broker_1"))override def getPreferredLocations(split: Partition): Seq[String] = Seq(split.asInstanceOf[KafkaPartition].leaderHost) } |
此外,类似 Cassandra 这样的数据库,会按主键对数据进行分片。那么,如果查询语句中包含了按该主键进行分组的子句,Spark 就可以省去一次 Shuffle 操作。这在 V1 API 中也是不支持的,而 V2 API 则提供了 SupportsReportPartitioning
接口来支持。
缺少事务性的写操作
Spark 任务是有可能失败的,使用 V1 API 时就会留下部分写入的数据。当然,对于 HDFS 这样的文件系统来说问题不大,因为可以用 _SUCCESS
来标记该次写操作是否执行成功。但这一逻辑也需要最终用户来实现,而 V2 API 则提供了明确的接口来支持事务性的写操作。
缺少列存储和流式计算支持
Spark SQL 目前已支持列存储和流式计算,但两者都不是用 V1 API 实现的。ParquetFileFormat
和 KafkaSource
等类型都使用了专有代码和内部 API。这些特性也在 V2 API 中得到支持。
DataSource V2 API
V2 API 首先使用了一个标记性的 DataSourceV2
接口,实现了该接口的类还必须实现 ReadSupport
或 WriteSupport
,用来表示自身支持读或写操作。ReadSupport
接口中的方法会被用来创建 DataSourceReader
类,同时接收到初始化参数;该类继而创建 DataReaderFactory
和 DataReader
类,后者负责真正的读操作,接口中定义的方法和迭代器类似。此外,DataSourceReader
还可以实现各类 Support
接口,表明自己支持某些优化下推操作,如裁剪字段、过滤条件等。WriteSupport
API 的层级结构与之类似。这些接口都是用 Java 语言编写,以获得更好的交互支持。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 |
public interface DataSourceV2 {}public interface ReadSupport extends DataSourceV2 {DataSourceReader createReader(DataSourceOptions options); }public interface DataSourceReader {StructType readSchema();List<DataReaderFactory<Row>> createDataReaderFactories(); }public interface SupportsPushDownRequiredColumns extends DataSourceReader {void pruneColumns(StructType requiredSchema); }public interface DataReaderFactory<T> {DataReader<T> createDataReader(); }public interface DataReader<T> extends Closeable {boolean next();T get(); } |
可能你会注意到,DataSourceReader#createDataReaderFactories
仍然捆绑了 Row
类型,这是因为目前 V2 API 只支持 Row
类型的返回值,且这套 API 仍处于进化状态(Evolving)。
JdbcSourceV2
让我们使用 V2 API 来重写 JDBC 数据源。下面是一个整表扫描的示例,完整代码可以在 GitHub(链接)上查看。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 |
class JdbcDataSourceReader extends DataSourceReader {def readSchema = StructType(Seq(StructField("id", IntegerType),StructField("emp_name", StringType)))def createDataReaderFactories() = {Seq(new JdbcDataReaderFactory(url)).asJava} }class JdbcDataReader(url: String) extends DataReader[Row] {private var conn: Connection = nullprivate var rs: ResultSet = nulldef next() = {if (rs == null) {conn = DriverManager.getConnection(url)val stmt = conn.prepareStatement("SELECT * FROM employee")rs = stmt.executeQuery()}rs.next()}def get() = Row(rs.getInt("id"), rs.getString("emp_name")) } |
裁剪字段
通过实现 SupportsPushDownRequiredColumns
接口,Spark 会调用其 pruneColumns
方法,传入用户所指定的字段列表(StructType
),DataSourceReader
可以将该信息传给 DataReader
使用。
1 2 3 4 5 6 7 8 9 10 11 |
class JdbcDataSourceReader with SupportsPushDownRequiredColumns {var requiredSchema = JdbcSourceV2.schemadef pruneColumns(requiredSchema: StructType) = {this.requiredSchema = requiredSchema}def createDataReaderFactories() = {val columns = requiredSchema.fields.map(_.name)Seq(new JdbcDataReaderFactory(columns)).asJava} } |
我们可以用 df.explain(true)
来验证执行计划。例如,SELECT emp_name, age FROM employee
语句的执行计划在优化前后是这样的:
1 2 3 4 5 6 7 8 9 |
== Analyzed Logical Plan == emp_name: string, age: decimal(3,0) Project [emp_name#1, age#4] +- SubqueryAlias employee+- DataSourceV2Relation [id#0, emp_name#1, dep_name#2, salary#3, age#4], datasource.JdbcDataSourceReader@15ceeb42== Optimized Logical Plan == Project [emp_name#1, age#4] +- DataSourceV2Relation [emp_name#1, age#4], datasource.JdbcDataSourceReader@15ceeb42 |
可以看到,字段裁剪被反映到了数据源中。如果我们将实际执行的 SQL 语句打印出来,也能看到字段裁剪下推的结果。
过滤条件
类似的,实现 SupportsPushDownFilters
接口可以将过滤条件下推到数据源中:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 |
class JdbcDataSourceReader with SupportsPushDownFilters {var filters = Array.empty[Filter]var wheres = Array.empty[String]def pushFilters(filters: Array[Filter]) = {val supported = ListBuffer.empty[Filter]val unsupported = ListBuffer.empty[Filter]val wheres = ListBuffer.empty[String]filters.foreach {case filter: EqualTo => {supported += filterwheres += s"${filter.attribute} = '${filter.value}'"}case filter => unsupported += filter}this.filters = supported.toArraythis.wheres = wheres.toArrayunsupported.toArray}def pushedFilters = filtersdef createDataReaderFactories() = {Seq(new JdbcDataReaderFactory(wheres)).asJava} } |
多分区支持
createDataReaderFactories
返回的是列表类型,每个读取器都会产生一个 RDD 分区。如果我们想开启多个读取任务,就可以生成多个读取器工厂,并为每个读取器限定主键范围:
1 2 3 4 5 6 |
def createDataReaderFactories() = {Seq((1, 6), (7, 11)).map { case (minId, maxId) =>val partition = s"id BETWEEN $minId AND $maxId"new JdbcDataReaderFactory(partition)}.asJava } |
事务性的写操作
V2 API 提供了两组 commit
/ abort
方法,用来实现事务性的写操作:
1 2 3 4 5 6 7 8 9 10 |
public interface DataSourceWriter {void commit(WriterCommitMessage[] messages);void abort(WriterCommitMessage[] messages); }public interface DataWriter<T> {void write(T record) throws IOException;WriterCommitMessage commit() throws IOException;void abort() throws IOException; } |
DataSourceWriter
在 Spark Driver 中执行,DataWriter
则运行在其他节点的 Spark Executor 上。当 DataWriter
成功执行了写操作,就会将提交信息传递给 Driver;当 DataSourceWriter
收集到了所有写任务的提交信息,就会执行最终的提交操作。如果某个写任务失败了,它的 abort
方法会得到执行;如果经过多轮重试后仍然失败,则所有写任务的 abort
方法都会被调用,进行数据清理操作。
列存储与流式计算支持
这两个特性仍处于实验性阶段,在 Spark 中还没有得到使用。简单来说,DataSourceReader
类可以实现 SupportsScanColumnarBatch
接口来声明自己会返回 ColumnarBatch
对象,这个对象是 Spark 内部用来存放列式数据的。对于流式数据,则有 MicroBatchReader
和 ContinuousReader
这两个接口,感兴趣的读者可以到 Spark 单元测试 代码中查看。
参考资料
- http://blog.madhukaraphatak.com/spark-datasource-v2-part-1/
- https://databricks.com/session/apache-spark-data-source-v2
- http://shzhangji.com/cnblogs/2018/12/09/spark-datasource-api-v2/?tdsourcetag=s_pctim_aiomsg]
- https://databricks.com/blog/2015/01/09/spark-sql-data-sources-api-unified-data-access-for-the-spark-platform.html
- https://developer.ibm.com/code/2018/04/16/introducing-apache-spark-data-sources-api-v2/
转载于:https://my.oschina.net/gordonnemo/blog/3019250
Spark DataSource API相关推荐
- java spark 环境_在 IntelliJ IDEA 中配置 Spark(Java API) 运行环境
1. 新建Maven项目 初始Maven项目完成后,初始的配置(pom.xml)如下: 2. 配置Maven 向项目里新建Spark Core库 xmlns:xsi="http://www. ...
- Spark RDD API:Map和Reduce
参考文章: http://blog.csdn.net/jewes/article/details/39896301 http://homepage.cs.latrobe.edu.au/zhe/Zhen ...
- spark (java API) 在Intellij IDEA中开发并运行
Spark 程序开发,调试和运行,intellij idea开发Spark java程序. 分两部分,第一部分基于intellij idea开发Spark实例程序并在intellij IDEA中运行 ...
- spark java api通过run as java application运行的方法
先上代码: [python] view plain copy /* * Licensed to the Apache Software Foundation (ASF) under one or ...
- Spark RDD API详解
1. RDD简单介绍 RDD是Spark中的抽象数据结构类型,任何数据在Spark中都被表示为RDD.从编程的角度来看,RDD可以简单看成是一个数组.和普通数组的区别是,RDD中的数据是分区存储的,这 ...
- Spark RDD API详解(一) Map和Reduce
来源:http://blog.csdn.net/jewes/article/details/39896301 本文由cmd markdown编辑,原始链接:https://www.zybuluo.co ...
- Spark Java API:Transformation
mapPartitions 官方文档描述: Return a new RDD by applying a function to each partition of this RDD. mapPart ...
- Spark Java API:broadcast、accumulator
broadcast 官方文档描述: Broadcast a read-only variable to the cluster, returning a [[org.apache.spark.broa ...
- Spark 常用 API
文章目录 一. `map`: 二. `mapPartitions` 三. `mapPartitionsWithIndex` 四.`flatMap(func)` 五.`glom()` 六.`groupB ...
最新文章
- surface pro linux服务器,【如何在surface pro 4上安装linux系统?】-看准网
- 年终凡尔赛,都是别人家的公司...
- 在eclipse中使用Lombok
- Git与GitHub的使用
- 用[bx+idata]的方式进行数组的处理
- MySQL的四种事务隔离级别实践
- php对接腾讯云直播
- 按哪个键锁定计算机,台式电脑键盘锁住了,按哪个键解锁
- FFmpeg 视频处理
- 解决ffmpeg合并视频后播放条拖不动,画面出错的问题
- 【苏宁消费金融对接苏宁联盟链 打造金融区块链应用案例】
- 学大伟业Day1解题报告
- KeilC51_v960版201905((含汉字补丁,STC15说明书,stc-isp-15xx-v6.86S).7z
- 为什么用virtualbox 安装ghost 系统总是出现错误而导致无法安装?怎么解决?
- 用浏览器下载一个文件,当点击该文件(原理)
- [Phonegap+Sencha Touch] 移动开发71 Sencha项目开发、调试方法建议
- 集思录REITs基金数据python爬取写入EXCEL表
- python系列之---python的起源
- Oracle clob怎么存储超过4000长度的数据,你了解吗
- 名悦集团:冬季汽车保养怎么做才到位
热门文章
- wdatepicker ajax传参,DatePicker在Ajax加载的页面中不起作用
- php检查函数是否存在,php判断类是否存在函数class_exists用法分析
- java content-length_为什么Content-Length HTTP头字段使用的值不是Java代码中给出的值?...
- Java流程控制02 选择结构 if结构 switch结构
- automapper自动创建映射_ASP.NET Core教程:ASP.NET Core使用AutoMapper
- c# list集合根据某个字段去重_java8 List 根据对象某个字段或多个字段去重、筛选、List转Map、排序、分组、统计计数等等...
- mysql 柱状图统计_js/jquery 进行动态统计 各种柱状图 饼状图 线条图 等
- 中内连和外联的去区别_喜欢和爱的区别是什么?“爱”的繁体字会告诉你答案...
- 安卓学习笔记19:常用控件 - 单选按钮和复选框
- Java讲课笔记28:Path接口和Files工具类