Task Slot
Flink中每个真正执行任务的TaskManager都是一个JVM进程,其在多线程环境中执行一个或者多个子任务。为了控制一个JVM同时能运行的任务数量,flink引入了task slot
的概念。每一个task solt
代表了TaskManager资源的一个子集,比如,一个拥有3个solt
的TaskManager,每一个solt
可以使用1/3TM所管理的内存。进行资源分割意味着为子任务保留足够的内存,从而避免与其他子任务进行竞争。注意:当前solt
还不能分割cpu资源,仅仅对内存进行了分割。
通过调整TMsolt
的数量,用户可以确定子任务的隔离程度,比如,每个TM只设置一个solt
,那么就意味着没一个任务组都在单独的JVM中执行。共用JVM的任务可以共享TCP链接,心跳消息,甚至可能共享数据集。
默认情况下,flink允许子任务共享slot
只要这些子任务属于同一job。允许solt
共享主要有以下两方面的好处:
- flink计算一个job所需
solt
数量时,只需要确定所其最大并行度(parallelism),而不用计算每一个任务的并行度的总和。 - 能更好的利用资源,如果没有
solt
共享,那些资源需求不大的map
子任务将和资源需求更大的window
占用相同的资源。
当然Flink也提供了资源分组机制相关API,允许用户避免非预期的资源共享。
-
startNewChain
从此operator
开始新的资源共享链 -
disableChaining
禁止把此operator
加入到资源共享链中 -
slotSharingGroup
把此operator
加入到指定的资源共享组中
资源分配逻辑
下图是fip6对架构改进过后JobManager
与TaskManager
主要交互图,可见job在执行中通过SlotProvider
(即Scheduler)向ResourceManager
申请资源,RM
协调TaskManager
满足JobManager
资源请求。
下图是资源申请详细调用流程图:
可见Execution
在执行过程中,会根据是否设置资源共享组,考虑是否为多个Execution
分配同一个Slot,其代码逻辑在SlotSharingManager
中。资源分配的时候优先考虑SlotPool
中是否有已分配资源能满足需求,如果不能再向ResourceManager
申请。
Scheduler
- 通过
allocateSlot
向SlotPool
申请资源 - 通过
returnLogicSlot
释放资源到SlotPool
SlotPool
与其他组件之间的交互:
- Scheduler -> SlotPool: 调度器向SlotPool申请资源
- SlotPool -> ResourceManager: SlotPool如果无法满足资源请求,向RM发起申请
- JobMaster -> SlotPool: 从TaskManager获取的资源通过JobMaster分配给SlotPool
LogicalSlot
-
SingleLogicSlot
包含一个SlotContext
接口对象,PhysicalSlot
接口继承了SlotContext
-
实现了
PhysicalSlot.Payload
接口,可以通过PhysicalSlot.tryAssignPayload
把PhysicalSlot
分配给LogicalSlot
PhysicalSlot
AllocatedSlot
代表从TaskExecutor
分配的资源一个资源槽,代表TaskExecutor
上的一段资源。
如下代码把PhysicalSlot
分配给LogicalSlot
:
Slot资源共享
Flink实现了资源共享机制,相同资源组里的多个Execution
可以共享一个Slot
资源槽。具体共享机制又分两种:
-
CoLocationGroup
: 保证把JobVertices
的第n个运行实例和其他相同组内的JobVertices
第n个实例运作在相同的slot中。 -
SlotSharingGroup
: 允许不同的JobVertices
的部署在相同的Slot中,但这是一种宽约束,只是尽量做到不能完全保证。
SlotSharingManager
每一个sharingGroup组用一个SlotSharingManager
对象管理资源共享与分配。普通的slotsharing根据组内的JobVertices
id 查找是否已有可以共享的Slot,如果有则直接使用,否则申请新的Slot。colocal类型根据组内每个ExecutionVertex
关联的CoLocationConstraint
查找是否有相同CoLocationConstraint
约束已分配Slot可用(注:满足CoLocationConstraint
约束的同一个资源共享组内的各节点相同序号n的并行实例,共享相同的CoLocationConstraint
对象)
其他相关类
- CoLocationConstraint
- SingleLogicalSlot
- MultiTaskSlot