轻松入门大数据玩转Flink,打造湖仓一体架构

资源站助手 1年前 ⋅ 1215 阅读
此处网盘内容已隐藏,请付费后查看,永久会员188元,付费添加助手微信:chnl_chen
永久会员权限:网站所有资源可免费下载,永久有效。
如需单独购买该课程,请联系助手微信:chnl_chen

  • 第1章 大厂技术首选高薪必备:揭开Flink的神秘面纱 试看11 节 | 53分钟

    要论当前业界最火的大数据实时处理引擎,Flink要说第二,无人敢称第一。本章节为大家揭开Flink的神秘面纱:Flink是什么、它的发展史、特性;对比Spark它的优势;以及Flink在大厂中是如何被广泛实践的。

    收起列表

    • 视频:1-1 高薪大数据工程师必备技能,你掌握了么? (08:16)试看
    • 视频:1-2 本章概览 (02:01)
    • 视频:1-3 认识Flink (08:24)
    • 视频:1-4 部署应用到任意地方&运行任意规模应用 (05:04)
    • 视频:1-5 Flink的起源及发展史 (05:29)
    • 视频:1-6 Flink中的API (09:33)
    • 视频:1-7 Flink核心特性 (05:44)
    • 视频:1-8 Flink对比Spark (07:32)
    • 图文:1-9 【科普小贴士】Flink发展史&特点&行业应用
    • 图文:1-10 【面试官来啦】面试讨论题
    • 作业:1-11 【练练练】阶段作业题
  • 第2章 批流一体丝滑开发体验:快速上手使用Flink进行编程 试看11 节 | 79分钟

    批流一体是当前以及未来的发展方向,如何使用Flink快速开发出批流一体的应用程序,是我们本章节的重点。同时,也会带领大家,总结出基于Flink进行开发的编程套路,助力轻松实践。

    收起列表

    • 视频:2-1 本章概览 (02:42)
    • 视频:2-2 基于Flink官方提供的命令构建Flink应用程序 (13:37)
    • 视频:2-3 基于IDEA+Maven构建Flink应用程序的本地开发环境 (11:25)
    • 视频:2-4 词频统计案例需求分析 (07:41)
    • 视频:2-5 Flink以批处理的方式实现功能开发 (11:57)
    • 视频:2-6 开发重构之自定义Function的方式 (04:20)
    • 视频:2-7 开发重构之Lambda表达式写法 (11:26)
    • 视频:2-8 Flink以流处理的方式实现功能开发 (07:44)
    • 视频:2-9 通过参数控制Flink以何种模式运行作业 (03:48)试看
    • 视频:2-10 Flink对接socket数据并进行统计分析 (03:25)
    • 作业:2-11 【练练练】阶段作业题
  • 第3章 工欲善其事必先利其器:Flink部署及作业运行16 节 | 94分钟

    Flink应用程序开发完之后,在生产上都是运行在服务器上的。在知晓Flink的架构之后,我们将一起进行Flink环境的部署,并实践如何将Flink作业运行在服务器上。本章中,将涉及Flink的不用运行模式以及Flink UI的详细讲解,为后续要进行Flink应用的调优打下坚实的基础。...

    收起列表

    • 视频:3-1 本章概览 (03:39)
    • 图文:3-2 【环境配置】云主机开通及配置
    • 视频:3-3 从宏观角度认识Flink架构 (11:23)
    • 视频:3-4 再次认识JobManager和TaskManager (09:42)
    • 视频:3-5 Flink Standalone模式部署及Flink UI介绍 (10:38)
    • 视频:3-6 flink run运行官方自带案例 (03:24)
    • 视频:3-7 【补充】如何在本地运行环境中设定Flink WebUI (07:14)
    • 视频:3-8 动态传递参数给Flink应用程序改造 (04:02)
    • 视频:3-9 使用Flink WebUI提交自己开发的Flink应用程序 (03:33)
    • 视频:3-10 取消作业的两种方式 (03:39)
    • 视频:3-11 【重要】如何使用命令行的方式提交Flink应用程序 (08:11)
    • 视频:3-12 初探Flink集群部署模式 (13:20)
    • 视频:3-13 Flink Standalone之Application Mode方式运行 (05:37)
    • 视频:3-14 Flink on YARN之Application Mode方式运行 (08:46)
    • 图文:3-15 【面试官来啦】面试讨论题
    • 作业:3-16 【练练练】阶段作业题
  • 第4章 快速便捷接入各种数据:Flink Data Source API编程 试看12 节 | 81分钟

    大数据处理经典的三段论:接入数据、处理数据、输出结果。本章节详解第一段论即Flink如何接入数据。本章中,将通过案例实战,带领大家在掌握Flink为我们内置的数据源API的基础上,深入源码,轻松掌握自定义数据源接入的二次开发实践思路及开发套路。 ...

    收起列表

    • 视频:4-1 本章概览 (03:14)
    • 视频:4-2 DataStream API编程规范以及DataStream是什么 (10:02)
    • 视频:4-3 Flink多种执行环境的获取方式 (08:15)
    • 视频:4-4 结合源码分析Data Source (11:17)
    • 视频:4-5 单并行度Source测试用例 (09:54)
    • 视频:4-6 多并行度Source测试用例 (07:55)
    • 视频:4-7 结合源码分析SourceFunction (04:48)试看
    • 视频:4-8 自定义实现单并行度数据源 (07:20)
    • 视频:4-9 自定义实现多并行度数据源 (01:03)
    • 视频:4-10 自定义数据源实现MySQL数据的读取 (16:36)
    • 图文:4-11 【面试官来啦】面试讨论题
    • 作业:4-12 【练练练】阶段作业题
  • 第5章 高效简洁数据处理方式:Flink Transformation API编程12 节 | 69分钟

    大数据处理的核心部分就是接入数据之后,如何快速高效的对数据按照需求进行处理。本章节详解大数据处理经典的三段论的第二段论,即Flink如何处理数据。在课程中,将通过案例实战,带领大家彻底掌握Flink为我们内置的Transformation API。...

    收起列表

    • 视频:5-1 本章概览 (01:52)
    • 视频:5-2 认识Flink中有哪些Transformation算子 (02:29)
    • 视频:5-3 Tranformation算子实操之map算子 (09:15)
    • 视频:5-4 Tranformation算子实操之filter算子 (04:38)
    • 视频:5-5 Tranformation算子实操之flatMap算子 (05:54)
    • 视频:5-6 Tranformation算子实操之keyBy算子 (08:15)
    • 视频:5-7 Tranformation算子实操之union算子 (04:14)
    • 视频:5-8 Tranformation算子实操之connect算子 (06:22)
    • 视频:5-9 Tranformation算子实操之自定义分区器 (16:01)
    • 视频:5-10 DataStream分流 (09:52)
    • 图文:5-11 【面试官来啦】面试讨论题
    • 作业:5-12 【练练练】阶段作业题
  • 第6章 处理结果吐出外部系统:Flink Sink API编程10 节 | 59分钟

    大数据处理经典的三段论:接入数据、处理数据、输出结果。本章节详解第三段论即Flink输出结果。基于Flink我们将数据处理之后,得将处理结果吐出到目的地,为下游的处理或者展示提供数据来源。在课程中,我们将通过案例实战,在掌握Flink为我们内置的Sink API的基础上深入源码,轻松掌握自定义Sink的二次开发思路及实现套路...

    收起列表

    • 视频:6-1 本章概览 (02:17)
    • 视频:6-2 认识Flink中的Sink (05:25)
    • 视频:6-3 Sink算子实操之print (07:35)
    • 视频:6-4 Sink算子实操之自定义Sink到终端 (03:36)
    • 视频:6-5 Sink算子实操之自定义Sink到文件系统 (10:45)
    • 视频:6-6 Flink处理结果输出到Redis中 (12:04)
    • 视频:6-7 Flink处理结果输出到MySQL中 (11:24)
    • 视频:6-8 Sink算子实操之输出到socket (04:55)
    • 图文:6-9 【面试官来啦】面试讨论题
    • 作业:6-10 【练练练】阶段作业题
  • 第7章 玩转Flink项目实战之一:实时统计之商品分析14 节 | 66分钟

    如何使用Flink进行各种不同维度的统计分析并入库?如何在生产环境中,进行Flink应用开发的同时进行调优的思考?这将是我们本次实战场景将与大家一同探讨的问题。

    收起列表

    • 视频:7-1 本章概览 (01:36)
    • 视频:7-2 企业中基于Flink实时处理的架构分析 (11:37)
    • 视频:7-3 需求分析 (07:39)
    • 视频:7-4 本地开发环境搭建 (03:38)
    • 视频:7-5 项目日志字段说明及生产数据注意事项 (04:43)
    • 视频:7-6 对接数据及清洗 (07:25)
    • 视频:7-7 日期格式清洗 (03:23)
    • 视频:7-8 统计结果 (01:58)
    • 视频:7-9 统计结果入Redis库 (03:53)
    • 视频:7-10 自定义RedisSink (04:49)
    • 视频:7-11 实现改造并进行统计结果的diff (09:45)
    • 视频:7-12 拓展 (04:46)
    • 图文:7-13 【面试官来啦】面试讨论题
    • 作业:7-14 【练练练】阶段作业题
  • 第8章 一起揭开Kafka神秘面纱:Kafka架构&核心术语7 节 | 48分钟

    在实时流处理框架中,Kafka和Flink是一对绝对且经典的CP,在生产上基本都是这2者的搭配使用。本章中,将通过对Kafka架构的图解引出核心概念,揭开Kafka的神秘面纱。

    收起列表

    • 视频:8-1 本章概览 (01:53)
    • 视频:8-2 认识JMS (06:21)
    • 视频:8-3 通过官网的介绍知晓Kafka是什么 (10:03)
    • 视频:8-4 自我语言总结Kafka是什么 (05:34)
    • 视频:8-5 Kafka在大数据中的典型使用场景screenflow (06:53)
    • 视频:8-6 图解Kafka架构 (16:31)
    • 图文:8-7 【面试官来啦】面试讨论题
  • 第9章 工欲善其事必先利其器:Kafka部署及监控11 节 | 72分钟

    监控是运维的眼睛,是稳定性建设中最重要的一环,监控不仅是开发工程师也是运维工程师必须要会的。掌握Kafka的多种不同部署方式,以及如何使用命令行对Kafka进行操作,并对Kafka进行相关指标的监控,是这章中,大家需要学习的重点内容。...

    收起列表

    • 视频:9-1 本章概览 (02:56)
    • 视频:9-2 动起我们的小手进行单节点单Kafka的部署(上) (02:27)
    • 视频:9-3 动起我们的小手进行单节点单Kafka的部署(下) (18:22)
    • 视频:9-4 kafka-topics命令行核心参数讲解 (08:07)
    • 视频:9-5 Kafka Topic命令行操作 (10:11)
    • 视频:9-6 Kafka生产者消费者命令行操作 (08:40)
    • 视频:9-7 动起我们的小手进行单节点多Kafka的部署 (09:04)
    • 视频:9-8 单节点多Kafka脚本命令测试 (03:41)
    • 视频:9-9 Kafka监控部署及使用 (07:56)
    • 图文:9-10 【面试官来啦】面试讨论题
    • 作业:9-11 【练练练】阶段作业题
  • 第10章 深度剖析Kafka生产者:消息发送流程&API编程&调优21 节 | 164分钟

    思考:Kafka生产者是如何高可靠的进行数据发送的呢?针对Kafka三大核心组件:Producer、Broker、Consumer,本章详解的是核心组件之Producer。课程中,将通过图解及经典面试题解析的方式,带领大家彻底掌握Kafka Producer整个执行流程,以及各个数据流转环节的调优,能够熟练实践基于Java API对Kafka进行高效访问。...

    收起列表

    • 视频:10-1 本章概览 (03:12)
    • 视频:10-2 【经典面试题--必掌握】生产者消息发送流程 (21:39)
    • 视频:10-3 生产者消息发送流程核心参数详解 (11:38)
    • 视频:10-4 生产者API开发之普通异步发送 (14:34)
    • 视频:10-5 生产者API开发之普通异步发送代码重构 (06:23)
    • 视频:10-6 生产者API开发之带回调的异步发送 (04:59)
    • 视频:10-7 生产者API开发之同步发送 (02:41)
    • 视频:10-8 Kafka的分区机制能为我们带来什么 (10:29)
    • 视频:10-9 Kafka分区策略结合源码分析 (06:53)
    • 视频:10-10 Kafka分区策略结合源码分析进行功能验证 (10:56)
    • 视频:10-11 Kafka自定义分区器功能开发及测试 (05:48)
    • 视频:10-12 Kafka性能调优参数在代码中的使用 (08:06)
    • 视频:10-13 【经典面试题--必掌握】谈谈你对Kafka中的副本以及同步副本的看法 (11:29)
    • 视频:10-14 【经典面试题--必掌握】谈谈你对Kafka中的acks的看法 (17:20)
    • 视频:10-15 【经典面试题--必掌握】谈谈你对Kafka中的消费语义的看法 (03:45)
    • 视频:10-16 精准一次消费实现之幂等性 (10:56)
    • 视频:10-17 精准一次消费实现之事务 (05:09)
    • 视频:10-18 精准一次消费实现之事务功能开发及测试 (05:31)
    • 视频:10-19 Kafka中Topic内的Partition中数据的有序性 (02:14)
    • 图文:10-20 【面试官来啦】面试讨论题
    • 作业:10-21 【练练练】阶段作业题
  • 第11章 深入剖析Kafka Broker:Kafka消息高效存储机制8 节 | 81分钟

    思考:Kafka数据是如何做到读写效率是如此之高,并被大数据以及Java后端所大量采用的?关于Kafka三大核心组件:Producer、Broker、Consumer,本章详解的是核心组件之Broker。课程中,会通过图解及经典面试题解析的方式,带领大家掌握Kafka Broker整个执行流程,并剖析Kafka的消息是如何进行读写以及高可用的。...

    收起列表

    • 视频:11-1 本章概览 (01:32)
    • 视频:11-2 Kafka相关信息在ZK上的存储机制 (14:45)
    • 视频:11-3 Leader选择与ZK的关系 (10:48)
    • 视频:11-4 Kafka副本机制 (11:28)
    • 视频:11-5 Kafka数据存储机制 (08:18)
    • 视频:11-6 Kafka数据存储机制更深入讲解 (26:03)
    • 视频:11-7 Kafka核心参数讲解 (07:49)
    • 图文:11-8 【面试官来啦】面试讨论题
  • 第12章 深入剖析Kafka消费者:消息消费流程&API编程&调优20 节 | 150分钟

    思考:Kafka消费者如何提升消费效率,使得不至于有大量的消息被滞留?关于Kafka三大核心组件:Producer、Broker、Consumer,本章详解的是核心组件之Consumer。课程中,将通过图解及经典面试题解析的方式,带领大家深度理解Kafka Consumer整个执行流程,剖析消费者组能为我们打来什么,消息的分配策略以及offset的管理。...

    收起列表

    • 视频:12-1 本章概览 (02:10)
    • 视频:12-2 Kafka为什么使用的是pull的消费方式 (10:12)
    • 视频:12-3 有了消费者之后为什么还需要消费者组 (07:11)
    • 视频:12-4 消费者组和Topic的关系 (08:45)
    • 视频:12-5 Kafka消费流程 (12:12)
    • 视频:12-6 结合源码了解GroupCoordinator初始化过程 (20:30)
    • 视频:12-7 消费者API编程之单消费者消费所有分区数据(上) (11:25)
    • 视频:12-8 消费者API编程之单消费者消费所有分区数据(下) (10:57)
    • 视频:12-9 消费者API编程之消费指定分区数据 (05:44)
    • 视频:12-10 消费者API编程之多消费者消费各自分区数据 (03:55)
    • 视频:12-11 Kafka分区策略之Range (10:32)
    • 视频:12-12 Kafka的Rebalance机制 (05:18)
    • 视频:12-13 根据源码描述测试Range的分区策略及Rebalance (11:36)
    • 视频:12-14 统一思想完成其他策略的验证 (03:12)
    • 视频:12-15 认识__consumer_offsets (07:53)
    • 视频:12-16 Kafka offset管理之自动提交 (09:38)
    • 视频:12-17 Kafka offset管理之手动提交 (03:17)
    • 视频:12-18 offset管理不当带来的隐患 (05:10)
    • 图文:12-19 【面试官来啦】面试讨论题
    • 作业:12-20 【练练练】阶段作业题
  • 第13章 经典Kafka CP整合使用:Kafka整合外部系统9 节 | 61分钟

    Flink和Kafka是一对完美的CP,那这对CP是如何配对使用呢?本章中,将带领大家一起实践,Kafka分别作为Producer和Consumer如何整合Flume、Flink的综合使用技巧。

    收起列表

    • 视频:13-1 本章概览 (01:10)
    • 视频:13-2 认识Kafka在离线&实时处理处理架构中的位置 (13:13)
    • 视频:13-3 Flume Sink到Kafka方案理解 (06:34)
    • 视频:13-4 Flume Sink到Kafka功能开发及测试 (09:53)
    • 视频:13-5 Flume KafkaSource对接到终端功能开发及测试 (07:25)
    • 视频:13-6 Flink KafkaSource解读 (10:40)
    • 视频:13-7 Flink KafkaSource功能开发及测试 (05:48)
    • 视频:13-8 Flink KafkaSink功能开发及测试 (06:09)
    • 作业:13-9 【练练练】阶段作业题
  • 第14章 玩转Flink项目实战之二:实时统计之商品分析(对接Kafka)9 节 | 61分钟

    在掌握Flink和Kafka这对CP在生产上的使用之后,本章中,将带领大家,再次理解Kafka和Flink这组CP在生产上的搭配使用。如何使用Flink对接Kafka数据完成各项指标的统计分析?Flink对接Kafka在生产上使用时要注意如何优雅避坑?这些都将在课程中一一讲解。...

    收起列表

    • 视频:14-1 本章概览 (01:19)
    • 视频:14-2 架构及内容介绍 (04:24)
    • 视频:14-3 Flink接入Kafka数据 (10:27)
    • 视频:14-4 重构代码 (04:15)
    • 视频:14-5 Flink Stream关联MySQL数据操作 (13:15)
    • 视频:14-6 Flink Asynchronous IO (11:23)
    • 视频:14-7 Flink异步IO读取MySQL的数据 (15:26)
    • 图文:14-8 【面试官来啦】面试讨论题
    • 作业:14-9 【练练练】阶段作业题
  • 第15章 时间对实时处理的影响:Flink时间语义及Window API篇21 节 | 157分钟

    如何对窗口进行选型并结合Flink在生产上的使用?Flink中的窗口能为我们带来将无穷无尽的流切分成小批次的处理,本章中,我们将一起,结合案例实战,彻底掌握Flink中非常多的不同语义的窗口定义,并对划分后的窗口进行数据处理。...

    收起列表

    • 视频:15-1 本章概览 (02:51)
    • 视频:15-2 揭开Flink时间语义的面纱 (17:30)
    • 视频:15-3 时间语义如何选择呢 (10:27)
    • 视频:15-4 Window在实时计算中的地位 (05:39)
    • 视频:15-5 Window的分类 (09:40)
    • 视频:15-6 Window Assigners的职责及对应Window的分类 (07:32)
    • 视频:15-7 Tumbling Window (04:37)
    • 视频:15-8 Sliding Windows (07:53)
    • 视频:15-9 Session Windows (04:51)

全部评论: 0

    我有话说: