Spark + Iceberg 本地存储 (一):开篇学习

目标:从 iceberg 从找到 spark 相关类就算成功

取得 plan:ReplaceData、MergeInto、DynamicFileFilterExec、ExtendedBatchScan

版本:spark 3.0.1,iceberg 0.11.0

数据源路径:file:///Users/bjhl/tmp/icebergData

创建一个 maven 项目,pom.xml 文件如下

  4.0.0
  org.example
  spark-3.x-worker
  1.0-SNAPSHOT
  2008
  
    2.12.8
  

  
    
      scala-tools.org
      Scala-Tools Maven2 Repository
      http://scala-tools.org/repo-releases
    
  

  
    
      scala-tools.org
      Scala-Tools Maven2 Repository
      http://scala-tools.org/repo-releases
    
  

  
    
      org.scala-lang
      scala-library
      ${scala.version}
    
    
      junit
      junit
      4.4
      test
    
    
      org.specs
      specs
      1.2.5
      test
    

    
    
      org.apache.spark
      spark-core_2.12
      3.0.1
      provided
    
    
      org.apache.spark
      spark-sql_2.12
      3.0.1
      provided
    

    
    
      org.apache.iceberg
      iceberg-spark3-runtime
      0.11.0
    

    
      org.apache.avro
      avro
      1.9.2
    
  

  
    src/main/scala
    src/test/scala
    
      
        org.scala-tools
        maven-scala-plugin
        
          
            
              compile
              testCompile
            
          
        
        
          ${scala.version}
          
            -target:jvm-1.5
          
        
      
      
        org.apache.maven.plugins
        maven-eclipse-plugin
        
          true
          
            ch.epfl.lamp.sdt.core.scalabuilder
          
          
            ch.epfl.lamp.sdt.core.scalanature
          
          
            org.eclipse.jdt.launching.JRE_CONTAINER
            ch.epfl.lamp.sdt.launching.SCALA_CONTAINER
          
        
      
      
        org.apache.maven.plugins
        maven-compiler-plugin
        
          6
          6
        
      
    
  
  
    
      
        org.scala-tools
        maven-scala-plugin
        
          ${scala.version}
        
      
    
  

SparkSession 配置
    val spark = SparkSession
      .builder()
      .config("spark.sql.catalog.hadoop_prod.type", "hadoop") // 设置数据源类别为hadoop
      .config("spark.sql.catalog.hadoop_prod", "org.apache.iceberg.spark.SparkSessionCatalog")
      .config("spark.sql.catalog.hadoop_prod.warehouse", "file:///Users/bjhl/tmp/icebergData") // 设置数据源位置(本地)
      .config("spark.sql.extensions", "org.apache.iceberg.spark.extensions.IcebergSparkSessionExtensions") // 设置扩展,支持 merge into 等功能
      .appName(this.getClass.getSimpleName)
      .master("local[*]")
      .getOrCreate()
创建一张表
    // 获取 catalog
    val hdpCatalog = spark.sessionState.catalogManager.catalog("hadoop_prod").asInstanceOf[SparkCatalog]
    val namespaces = Array("test")
    // 自定义 Identifier
    val identifier = new SimpleLocalIdentifierImpl("/Users/bjhl/tmp/icebergData/test/table_a", namespaces)
    val options = new util.HashMap[String, String]()
    // 用 spark StructType 创建 schema
    val schema = new StructType()
      .add("c1", IntegerType, true)
      .add("c2", StringType, true)
      .add("c3", StringType, true)
        // 创建一张表
    hdpCatalog.createTable(identifier, schema, null, options)
    // 插入一条数据
    spark.sql("insert into hadoop_prod.test.table_a VALUES (1, \"wlq\",\"zyc\")")
生成的结构如下
包含元数据信息和数据信息,test 类似库名,table_a 是表名

Spark + Iceberg 本地存储 (一):开篇学习_第1张图片

读取并更新,打印执行计划
    // 获取 表结构信息
    val df = spark.table("hadoop_prod.test.table_a")
    df.printSchema()

    df.show()
//    val dfTableA = spark.read.format("iceberg").load("/Users/bjhl/tmp/icebergData/default/table_a")
//    dfTableA.show()

    spark.sql("merge into hadoop_prod.test.table_a t " +
      "using (select 1 as c1, \"zyc\" as c2, \"wlq\" as c3) s " +
      "on t.c1 = s.c1 " +
      "when matched " +
      "then update set t.c3 = s.c3").explain()

    df.show()

    println("读写取 iceberg 数据结束")
注意:这里直接 read.format 方式一直使用的是 HiveCatalog 去获取信息,老是报错,目前还没定位出问题

效果如下:

​ 更新数据后,存储路径目录变化如下

Spark + Iceberg 本地存储 (一):开篇学习_第2张图片

元数据和数据都有新增相应的版本,猜测是以快照的方式实现?

​ 表结构

Spark + Iceberg 本地存储 (一):开篇学习_第3张图片

​ 更新前数据

Spark + Iceberg 本地存储 (一):开篇学习_第4张图片

​ 更新后数据

Spark + Iceberg 本地存储 (一):开篇学习_第5张图片

​ 重点:物理执行计划,如下

Spark + Iceberg 本地存储 (一):开篇学习_第6张图片

结合 iceberg
clone iceberg 代码构建下,上面的类来自 iceberg-spark3-extensions

Spark + Iceberg 本地存储 (一):开篇学习_第7张图片

后面就是根据代码验证猜想的过程
结束语

注意:"spark.sql.extensions", "org.apache.iceberg.spark.extensions.IcebergSparkSessionExtensions" 要设置,才能支持 merge into 等功能

疑问:

iceberg 是以什么方式做的更新?

对于 iceberg 的存储方式,spark 任务的运行过程哪个阶段性能有所提升或者有所下降?

对于 iceberg 的实现方式,spark 基于其做了哪些优化?

你可能感兴趣的