目录

Flink术语

目录

Flink术语

Flink Application:

一个完整的Flink程序代码叫做一个Flink Application,其始于一个或多个Source,终于一个或多个Sink,中间由一个或者多个Operator(算子)组合对数据进行转换形成Transformation。

编写Flink代码要符合一定的流程,首先我们需要创建Flink的执行环境(Execution Environment),

然后再加载数据源Source,对加载的数据进行Transformation转换,进而对结果Sink输出,最后还

要执行env.execute()来触发整个Flink程序的执行,编写代码时将以上完整流程放在main方法中形成 一个完整的Application。

Flink Job:

一个Flink Application中可以有多个Flink Job,每次调用execute()或者executeAsyc()方法可以触 发一个Flink Job

execute() :该方法为阻塞方法,当一个Flink Application中执行多次execute()方法触发多个 job时,下一个job的执行会被推迟到该job执行完成后再执行。

executeAsyc() :该方法为非阻塞方法,一旦调用该方法触发job后,后续还有job也会立即提交执行。

Flink Application 并行度:

一个 Flink Application

的并行度

通常认为是所有Operator中最大的那个并行度 。

算子链:

Flink中算子之间的数据流向是one-to-one,算子的并行度也一样。那么这些算子可以合并成一个算子链。

Task & SubTask:

Flink中一个Task对应的是一个算子或者多个算子逻辑(算子链)。

Task会按照并行度划分成多个Subtask,每个Subtask由一个Thread线程 执行。

Flink任务调度的基本单元:Subtask

StreamGraph & JobGraph & ExecutionGraph:

Flink Application 提交后在

客户端

转换成 StreamGraph(任务流图)

StreamGraph是没有经过任何优化的流图,展示的是程序整体执行的流程。StreamGraph进而会按照默认的Operator Chains算子链合规则转换成 JobGraph(作业图) ,在JobGraph中会将并行度相同且数据流转关系为One-to-one关系的算子合并在一起由一个Task进行处理。

JobGraph会被提交给

JobManager

,最终由JobManager中JobMaster转换成 ExecutionGraph(执行图) ,ExecutionGraph中会按照每个算子并行度来划分对应的 Subtask ,每个Subtask最终再次被转换成其他可以部署的对象发送到TaskManager上执行。

https://i-blog.csdnimg.cn/direct/a95c7d6d9c2b46a8816a06fa3684cf69.png

Task Slot:

Flink集群中每个TaskManager是一个JVM进程,可以在TaskManagr中执行一个或者多个线程(Subtask),为了能控制一个TaskManager中接收多少个SubTask,TaskManager节点上提供了 TaskSlot(任务槽)。

每个TaskSlot可以运行一个或者多个S

ubtask。每个JobManager上至少有一个TaskSlot。

每个taskSlot都有固定的资源,会均分TaskMananger中的内存,共享和竞争TaskManger进程的CPU。由于T

askslot只会对内存进行隔离不会对CPU进行隔离,一台TaskManager Taskslot越多

意味着越多的taskslot争夺CPU资源,所以 T

askslot的值设置建议和该TaskManager节点CPU

core的数量保持一致

SlotSharingGroup共享组(SSG):

Flink允许同一JOB的SubTask共享同一个TaskSlot,即一个TaskSlot可以持有整个流程的SubTask。

https://i-blog.csdnimg.cn/direct/57ed27dd48e64608aee14d4f795a9e13.png

我们在提交Flink Application 时

不再需要衡量

Flink集群中的TaskSlot个数是否满足

Flink Application总的

subtask数。而是关注Flink集群所需的TaskSlot个数与Flink Application的并行度一样

引入了SSG,Flink集群会合理分配 CPU密集型SubTask 和 非CPU密集型SubTask (source / sink)运行时占用的CPU资源

如果一个Flink 任务有多个共享组,那么该Flink任务所需的总slot个

数就是每个共享组最大并行度的总和

TaskSlot与并行度关系:

TaskSl

ot是静态概念,指的是 Flink TaskManager 能够并发执行的 task 数。

并行度是动态概念,指的是

每个Flink Application实际的并发能力