DataWorks使用Shell节点调用自定义资源组执行脚本
背景描述：
本文主要介绍DataWorks使用Shell节点调度自定义资源组执行Shell脚本，且使用该功能需要用户的DataWorks版本为企业版。文中主要内容包括配置自定义资源组，以及设置ECS的amdin用户权限，脚本模式使用MaxCompute客户端，并配置手动业务流程执行对应的Shell脚本在开发环境运行，检测其脚本执行的命令是否正确。该功能对于用户调度用户ECS上的的程序提供了便利，使其他的任务能和DataWorks的调度结合起来。

一、设置自定义资源组并配置权限ECS权限

1.1根据文档添加对应空间下的自定义资源组
https://help.aliyun.com/document_detail/169950.html
1.2查看添加的自定义资源组

1.3登陆添加为自定义资源组的ECS，建立对应目录，并给admin用户设置权限

目录下的odps_haudong为MaxCompute的客户端

upfile.txt内容为

chown -R amdin:admin /home

二、DataWorks新建Shell节点，并进行编辑脚本

2.1创建临时节点，并执行以下语句

create table shell_test(key string);
insert overwrite table shell_test values('hadoop'),('kafka'),('habse');
select * from shell_test;

查看当前数据展示

2.2建立手动业务流程，并配置Shell脚本，以及添加调度资源组为自定义资源组

/home/export/odps_huadong/bin/odpscmd  -e "tunnel upload -overwrite true /home/export/upfile.txt  shell_test"

三、提交shell节点到生产环境，并进行执行

3.1提交业务流程

3.2发布任务到生产环境,并在手动任务执行

显示执行命令成功

四、检测命令是否执行

4.1返回数据开发界面执行语句，确认数据是否被覆盖写入

select * from shell_test;

可以看到数据写入成功

欢迎加入“MaxCompute开发者社区2群”,点击链接申请加入或扫描二维码
https://h5.dingtalk.com/invite-page/index.html?bizSource=____source____&corpId=dingb682fb31ec15e09f35c2f4657eb6378f&inviterUid=E3F28CD2308408A8&encodeDeptId=0054DC2B53AFE745
image