弹性扩缩容定时任务使用场景
通常,用户业务繁忙的场景是有周期性的,在某个周期内,用户需要更多的计算资源 来处理业务,过了这个周期,则不需要那么多资源。如果用户购买的队列规格比较 小,在业务繁忙时会存在资源不足的情况;而如果购买的队列规格比较大,又可能会 存在资源浪费的情况。
基于以上场景,DLI提供了队列弹性扩缩容定时任务功能。用户可以根据自己的业务周 期或者使用情况,基于现有队列规格,在不同的时间或者周期内设置不同的队列大 小,以满足自己的业务需求,节约成本。
使用弹性扩缩容定时任务注意事项
● 新创建的队列需要运行作业后才可进行扩缩容。
● 目前只支持规格为64CUs以上的队列进行定时弹性扩缩容任务,即队列最小规格 为64CUs。
● 对于每个队列,最多支持创建12个定时任务。
● 每个定时任务开始时,弹性扩缩容的实际开始的时间有5分钟误差。建议扩容时间 定时至少比实际使用队列的时间提前20分钟。
● 每个定时任务之间需要至少有2小时的间隔。
● 队列的定时弹性扩缩容属于耗时操作,变更所消耗的时间取决于扩缩容目标规格 与当前规格的差值大小,用户在“队列管理”页面中可以查看当前队列的规格。
● 如果当前队列有作业正在运行时,可能无法缩容到目标CU值,而是缩容到当前队 列规格和目标规格中间的某个值,系统将在1小时后继续尝试进行缩容,直至下一 个定时任务开始。
● 当一个定时任务没有扩容或者缩容到目标CU值时,系统会在约15分钟后再次触发 扩缩计划,直到下一个定时任务开始。
● 定时任务的“任务名称”、“最终CUs”和“执行时间”是创建和修改定时任务时 的必选项,用户可根据业务需要进行填写。
● 定时任务的“重复规律”支持按周为周期进行调度。
– 默认不选,表示“不重复”,即只在“执行时间”执行一次;
– 如果全选,表示该计划每天都会执行;
– 如果选择部分,则选择规律的计划在对应的时间每周都会被执行一次。
创建弹性扩缩容定时任务
● 如果只设定扩容或者缩容,只需创建一个弹性扩缩容定时任务。设定“任务名 称”、“最终CUs”和“执行时间”即可,具体请参考表8-5。
● 如果需要同时设定扩容和缩容,则需要创建两个弹性扩缩容定时任务,分别设定 扩容和缩容的“任务名称”、“最终CUs”和“执行时间”,具体请参考表8-5。
操作步骤如下:
1. 在DLI管理控制台左侧,选择“队列管理”。
2. 选择需要设置弹性扩缩容定时任务的队列,单击“操作”列“更多”中的“弹性 扩缩容定时任务”。
3. 在“弹性扩缩容定时任务”页面,单击右上角的“创建定时任务”。
4. 在“创建定时任务”页面,设置参数。单击“确定”。
图8-11 创建定时任务
表8-5 参数说明
● 系统默认队列最大规格为512CUs。
● 进行定时扩缩容操作的队列最小规格为64CUs,即当“实际CUs”小于 64CUs时,不能进行定时扩缩容。
● 最终规格只能为16的倍数。
或者在“作业管理”页面,查看“SCALE_QUEUE”类型作业的状态,如果作业状 态为“规格变更中”,表示队列正在扩缩容中。
修改弹性扩缩容定时任务
如果设定的定时任务不再满足业务需求,可以在“弹性扩缩容定时任务”页面,单击 对应定时任务“操作”列中的“修改”,进入“创建定时任务”页面进行修改。
删除弹性扩缩容定时任务
如果不再需要定时修改队列规格,可以在“弹性扩缩容定时任务”页面,单击对应定 时任务“操作”列中的“删除”,进入“删除定时任务”页面,单击“是”,进行删 除。