Apache Hudi 入门学习总结

2022-05-12

前言

学习和使用Hudi近一年了，由于之前忙于工作和学习，没时间总结，现在从头开始总结一下，先从入门开始

Hudi 概念

Apache Hudi 是一个支持插入、更新、删除的增量数据湖处理框架，有两种表类型：COW和MOR，可以自动合并小文件，Hudi自己管理元数据，元数据目录为.hoodie,
具体的概念可以查看官网https://hudi.apache.org/cn/docs/0.9.0/overview

Hudi 学习

Hudi 官网 https://hudi.apache.org/cn/docs/0.9.0/overview/(因本人最开始学习时Hudi的版本为0.9.0版本，所以这里列的也是0.9.0的连接)
Hudi 官方公众号号：ApacheHudi （Hudi PMC leesf 运营的）,自己搜索即可，这里不贴二维码了
Github https://github.com/leesf/hudi-resources 这个是Hudi PMC leesf整理的公众号上的文章，PC 浏览器上看比较方便
GitHub 源码 https://github.com/apache/hudi 想要深入学习，还是得看源码并多和社区交流

more >>

展开全文 >>

Hudi Clean Policy 清理策略实现分析

2022-04-19

前言

总结Hudi Clean Policy清理策略,从源码层面分析如何实现，上一篇文章Hudi Clean 清理文件实现分析从源码层面分析总结了Hudi Clean的整体流程，但是对于和策略有关的获取要删除的文件列表部分没有深入分析，这一篇详细分析KEEP_LATEST_COMMITS策略是如何实现的。

getEarliestCommitToRetain

获取最早需要保留的commit
KEEP_LATEST_FILE_VERSIONS: 返回空
KEEP_LATEST_COMMITS：如果目前完成状态的commit数小于等于hoodie.cleaner.commits.retained，则返回空，否则，返回倒数第hoodie.cleaner.commits.retained(默认10)个.commit

/**
 * Returns earliest commit to retain based on cleaning policy.
 * 根据清理策略返回最早的需要保留的commit
 */
public Option<HoodieInstant> getEarliestCommitToRetain() {
  Option<HoodieInstant> earliestCommitToRetain = Option.empty();
  // 获取最大保留commit次数，默认值10，配置参数为`hoodie.cleaner.commits.retained`
  int commitsRetained = config.getCleanerCommitsRetained();
  if (config.getCleanerPolicy() == HoodieCleaningPolicy.KEEP_LATEST_COMMITS
      && commitTimeline.countInstants() > commitsRetained) {
    // 如果清理策略为KEEP_LATEST_COMMITS,且commit的总数大于commitsRetained
    // 那么最早需要保留的commit为最新的第10个commit,也就倒数第10个
    // commitTimeline.instants是按照时间从小到大排序的，具体实现在`HoodieTableMetaClient.scanHoodieInstantsFromFileSystem`
    // 假如commit为1、2、3...11,那么`commitTimeline.countInstants() - commitsRetained`等于1，
    // 也就是返回commitTimeline.instants.get(1),返回`commit 2`(下标从0开始)，也就是倒数第10个
    // 当策略为KEEP_LATEST_FILE_VERSIONS，直接返回空
    earliestCommitToRetain = commitTimeline.nthInstant(commitTimeline.countInstants() - commitsRetained);
  }
  return earliestCommitToRetain;
}

more >>

展开全文 >>

Hudi Clean 清理文件实现分析

2022-04-18

前言

源码层面总结分析Hudi Clean是如何实现的，不了解Hudi Clean的可以先看这篇：一文彻底理解Apache Hudi的清理服务。
Hudi Clean主要是清理删除不需要的历史文件，可以根据实际业务需要配置参数，不能影响查询，比如某个查询语句正在用某个文件，Clean如果删除了这个文件，查询就会报错。
这里只是删除历史文件，Hudi的文件是有多个版本的，不管配置什么参数，使用什么策略，都不会删除当前最新版本的文件。
Hudi 0.9.0版本有两种清理策略KEEP_LATEST_COMMITS和KEEP_LATEST_FILE_VERSIONS,默认为KEEP_LATEST_COMMITS
KEEP_LATEST_COMMITS：简单讲就是根据commit的次数，默认保留最新的10个commit的所有文件，对于10个之前的文件只保留最新版本的文件，历史文件全部删除
KEEP_LATEST_FILE_VERSIONS：简单讲就是保留文件的版本数，默认保留三个版本
具体的可以看上面的那篇公众号文章

目前最新版本0.11.0 添加了一个新的策略KEEP_LATEST_BY_HOURS:根据小时数清理，默认保留最近24小时的文件，具体实现请查看PR：[HUDI-349] Added new cleaning policy based on number of hours

本文以Hudi 0.9.0 Java Client COW表进行分析

more >>

展开全文 >>

Kyuubi 安装配置总结

2022-03-25

前言

前段时间研究了一下Kyuubi，主要是安装配置，适配Spark版本，验证Spark Server HA 的功能，基本都验证通过，但是后续没有实际使用，现在回忆总结一下，避免遗忘。
主要适配Spark2.4.5 以及 Spark3.1.2版本，同时验证是否支持Hudi。

版本说明

目前Kyuubi最新版本为1.4，Kyuubi 1.x 默认不支持Spark2，1.4版本默认Spark版本3.1.2,并且默认支持Hudi,但是因hudi0.9版本不支持Spark3.1.2，所以需要hudi0.10.1
hudi0.10.1 已经发布，可以通过 Mvn 下载：https://repo1.maven.org/maven2/org/apache/hudi/hudi-spark3.1.2-bundle_2.12/0.10.1/hudi-spark3.1.2-bundle_2.12-0.10.1.jar
也可以自己打包
要想支持Spark2可以选择Kyuubi0.7，两个Kyuubi 版本都支持HA，但是0.7版本默认不支持hudi

0.7版本打包: git 切换到branch-0.7
修改pom,添加

<profile>
    <id>spark-2.4.5</id>
    <properties>
        <spark.version>2.4.5</spark.version>
        <scalatest.version>3.0.3</scalatest.version>
    </properties>
</profile>

然后执行打包命令

1	./build/dist --tgz -P spark-2.4.5

打包完成后，生成kyuubi-0.7.0-SNAPSHOT-bin-spark-2.4.5.tar.gz

more >>

展开全文 >>

SparkSQL JDBC 查询Oracle、MySQL 转化为Hudi表

2022-02-15

前言

本文总结如何只用SQL迁移关系型数据库中的表转化为Hudi表，这样的意义在于方便项目上对Spark、Hudi等不熟悉的人员运维。

Spark Thrift Server

首先将Orace的驱动拷贝至Spark jars目录下

启动Spark Thrift Server 扩展支持Hudi

/usr/hdp/3.1.0.0-78/spark2/bin/spark-submit --master yarn --deploy-mode client --executor-memory 2G --num-executors 6 --executor-cores 2 --driver-memory 4G --driver-cores 2 --class org.apache.spark.sql.hive.thriftserver.HiveThriftServer2 --name Thrift-20003 --conf 'spark.serializer=org.apache.spark.serializer.KryoSerializer'  --conf 'spark.sql.extensions=org.apache.spark.sql.hudi.HoodieSparkSessionExtension' --principal spark/indata-192-168-44-128.indata.com@INDATA.COM --keytab /etc/security/keytabs/spark.service.keytab --hiveconf hive.server2.thrift.http.port=20003 >~/server.log 2>&1 &

Beeline连接

/usr/hdp/3.1.0.0-78/spark2/bin/beeline -u "jdbc:hive2://192.168.44.128:20003/hudi;principal=HTTP/indata-192-168-44-128.indata.com@INDATA.COM?hive.server2.transport.mode=http;hive.server2.thrift.http.path=cliservice"

more >>

展开全文 >>