Hudi Spark SQL总结

前言

总结Hudi Spark SQL的使用，本人仍然以Hudi0.9.0版本为例，也会稍微提及最新版的一些改动。Hudi 从0.9.0版本开始支持Spark SQL，是由阿里的pengzhiwei同学贡献的，pengzhiwei目前已不负责Hudi,改由同事YannByron负责，现在又有ForwardXu贡献了很多功能特性。
三位都是大佬，都是Apache Committer(YannByron马上)，膜拜大佬，向大佬学习！！！大佬的github:

当然还有很多其他大佬，如Apache member/Hudi PMC xushiyan/Raymond Xu https://github.com/xushiyan,负责整个Spark模块

配置参数

核心参数：

  • –conf ‘spark.serializer=org.apache.spark.serializer.KryoSerializer’
  • –conf ‘spark.sql.extensions=org.apache.spark.sql.hudi.HoodieSparkSessionExtension’

使用

三种方式使用Hudi Spark SQL

more >>

展开全文 >>

Apache Hudi 入门学习总结

前言

学习和使用Hudi近一年了，由于之前忙于工作和学习，没时间总结，现在从头开始总结一下，先从入门开始

Hudi 概念

Apache Hudi 是一个支持插入、更新、删除的增量数据湖处理框架，有两种表类型：COW和MOR，可以自动合并小文件，Hudi自己管理元数据，元数据目录为.hoodie,
具体的概念可以查看官网https://hudi.apache.org/cn/docs/0.9.0/overview

Hudi 学习

more >>

展开全文 >>

Hudi Clean Policy 清理策略实现分析

前言

总结Hudi Clean Policy清理策略,从源码层面分析如何实现，上一篇文章Hudi Clean 清理文件实现分析从源码层面分析总结了Hudi Clean的整体流程，但是对于和策略有关的获取要删除的文件列表部分没有深入分析，这一篇详细分析KEEP_LATEST_COMMITS策略是如何实现的。

getEarliestCommitToRetain

获取最早需要保留的commit
KEEP_LATEST_FILE_VERSIONS: 返回空
KEEP_LATEST_COMMITS：如果目前完成状态的commit数小于等于hoodie.cleaner.commits.retained，则返回空，否则，返回倒数第hoodie.cleaner.commits.retained(默认10)个.commit

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
/**
 * Returns earliest commit to retain based on cleaning policy.
 * 根据清理策略返回最早的需要保留的commit
 */
public Option<HoodieInstant> getEarliestCommitToRetain() {
  Option<HoodieInstant> earliestCommitToRetain = Option.empty();
  // 获取最大保留commit次数，默认值10，配置参数为`hoodie.cleaner.commits.retained`
  int commitsRetained = config.getCleanerCommitsRetained();
  if (config.getCleanerPolicy() == HoodieCleaningPolicy.KEEP_LATEST_COMMITS
      && commitTimeline.countInstants() > commitsRetained) {
    // 如果清理策略为KEEP_LATEST_COMMITS,且commit的总数大于commitsRetained
    // 那么最早需要保留的commit为最新的第10个commit,也就倒数第10个
    // commitTimeline.instants是按照时间从小到大排序的，具体实现在`HoodieTableMetaClient.scanHoodieInstantsFromFileSystem`
    // 假如commit为1、2、3...11,那么`commitTimeline.countInstants() - commitsRetained`等于1，
    // 也就是返回commitTimeline.instants.get(1),返回`commit 2`(下标从0开始)，也就是倒数第10个
    // 当策略为KEEP_LATEST_FILE_VERSIONS，直接返回空
    earliestCommitToRetain = commitTimeline.nthInstant(commitTimeline.countInstants() - commitsRetained);
  }
  return earliestCommitToRetain;
}
more >>

展开全文 >>

Hudi Clean 清理文件实现分析

前言

源码层面总结分析Hudi Clean是如何实现的，不了解Hudi Clean的可以先看这篇 https://mp.weixin.qq.com/s/jIm0P6GnYXMdG6kyg_8bjA。
Hudi Clean主要是清理删除不需要的历史文件，可以根据实际业务需要配置参数，不能影响查询，比如某个查询语句正在用某个文件，Clean如果删除了这个文件，查询就会报错。
这里只是删除历史文件，Hudi的文件是有多个版本的，不管配置什么参数，使用什么策略，都不会删除当前最新版本的文件。
Hudi 0.9.0版本有两种清理策略KEEP_LATEST_COMMITS和KEEP_LATEST_FILE_VERSIONS,默认为KEEP_LATEST_COMMITS
KEEP_LATEST_COMMITS：简单讲就是根据commit的次数，默认保留最新的10个commit的所有文件，对于10个之前的文件只保留最新版本的文件，历史文件全部删除
KEEP_LATEST_FILE_VERSIONS：简单讲就是保留文件的版本数，默认保留三个版本
具体的可以看上面的那篇公众号文章

目前最新版本0.11.0 添加了一个新的策略KEEP_LATEST_BY_HOURS:根据小时数清理，默认保留最近24小时的文件，具体实现请查看PR：[HUDI-349] Added new cleaning policy based on number of hours

本文以Hudi 0.9.0 Java Client COW表 进行分析

more >>

展开全文 >>

Kyuubi 安装配置总结

前言

前段时间研究了一下Kyuubi，主要是安装配置，适配Spark版本，验证Spark Server HA 的功能，基本都验证通过，但是后续没有实际使用，现在回忆总结一下，避免遗忘。
主要适配Spark2.4.5 以及 Spark3.1.2版本，同时验证是否支持Hudi。

版本说明

目前Kyuubi最新版本为1.4，Kyuubi 1.x 默认不支持Spark2，1.4版本默认Spark版本3.1.2,并且默认支持Hudi,但是因hudi0.9版本不支持Spark3.1.2，所以需要hudi0.10.1
hudi0.10.1 已经发布，可以通过 Mvn 下载：https://repo1.maven.org/maven2/org/apache/hudi/hudi-spark3.1.2-bundle_2.12/0.10.1/hudi-spark3.1.2-bundle_2.12-0.10.1.jar
也可以自己打包
要想支持Spark2可以选择Kyuubi0.7，两个Kyuubi 版本都支持HA，但是0.7版本默认不支持hudi

0.7版本打包: git 切换到branch-0.7
修改pom,添加

1
2
3
4
5
6
7
<profile>
    <id>spark-2.4.5</id>
    <properties>
        <spark.version>2.4.5</spark.version>
        <scalatest.version>3.0.3</scalatest.version>
    </properties>
</profile>

然后执行打包命令

1
./build/dist --tgz  -P spark-2.4.5

打包完成后，生成kyuubi-0.7.0-SNAPSHOT-bin-spark-2.4.5.tar.gz

more >>

展开全文 >>

tag:

    缺失模块。
    1、请确保node版本大于6.2
    2、在博客根目录（注意不是yilia根目录）执行以下命令：
    npm i hexo-generator-json-content --save

    3、在根目录_config.yml里添加配置： 

      jsonContent:
    meta: false
    pages: false
    posts:
      title: true
      date: true
      path: true
      text: false
      raw: false
      content: false
      slug: false
      updated: false
      comments: false
      link: false
      permalink: false
      excerpt: false
      categories: false
      tags: true

2016年本科毕业于合肥工业大学<br><br>信息与计算科学专业<br><br>目前在济南一家公司从事大数据、前端的工作~~