PowerJob的AbstractScriptProcessor实现类工作流程源码解读

 更新时间:2024年01月04日 09:39:51   作者:codecraft  
这篇文章主要为大家介绍了PowerJob的AbstractScriptProcessor源码流程解读,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪

本文主要研究一下PowerJob的AbstractScriptProcessor

AbstractScriptProcessor

tech/powerjob/official/processors/impl/script/AbstractScriptProcessor.java

@Slf4j
public abstract class AbstractScriptProcessor extends CommonBasicProcessor {
    private static final ForkJoinPool POOL = new ForkJoinPool(4 * Runtime.getRuntime().availableProcessors());
    private static final Set<String> DOWNLOAD_PROTOCOL = Sets.newHashSet("http", "https", "ftp");
    protected static final String SH_SHELL = "/bin/sh";
    protected static final String CMD_SHELL = "cmd.exe";
    private static final String WORKER_DIR = PowerFileUtils.workspace() + "/official_script_processor/";
    @Override
    protected ProcessResult process0(TaskContext context) throws Exception {
        OmsLogger omsLogger = context.getOmsLogger();
        String scriptParams = CommonUtils.parseParams(context);
        omsLogger.info("[SYSTEM] ScriptProcessor start to process, params: {}", scriptParams);
        if (scriptParams == null) {
            String message = "[SYSTEM] ScriptParams is null, please check jobParam configuration.";
            omsLogger.warn(message);
            return new ProcessResult(false, message);
        }
        String scriptPath = prepareScriptFile(context.getInstanceId(), scriptParams);
        omsLogger.info("[SYSTEM] Generate executable file successfully, path: {}", scriptPath);
        if (SystemUtils.IS_OS_WINDOWS) {
            if (StringUtils.equals(getRunCommand(), SH_SHELL)) {
                String message = String.format("[SYSTEM] Current OS is %s where shell scripts cannot run.", SystemUtils.OS_NAME);
                omsLogger.warn(message);
                return new ProcessResult(false, message);
            }
        }
        // 授权
        if  ( !SystemUtils.IS_OS_WINDOWS) {
            ProcessBuilder chmodPb = new ProcessBuilder("/bin/chmod", "755", scriptPath);
            // 等待返回,这里不可能导致死锁(shell产生大量数据可能导致死锁)
            chmodPb.start().waitFor();
            omsLogger.info("[SYSTEM] chmod 755 authorization complete, ready to start execution~");
        }
        // 2. 执行目标脚本
        ProcessBuilder pb = StringUtils.equals(getRunCommand(), CMD_SHELL) ?
                new ProcessBuilder(getRunCommand(), "/c", scriptPath)
                : new ProcessBuilder(getRunCommand(), scriptPath);
        Process process = pb.start();
        StringBuilder inputBuilder = new StringBuilder();
        StringBuilder errorBuilder = new StringBuilder();
        boolean success = true;
        String result;
        final Charset charset = getCharset();
        try (InputStream is = process.getInputStream(); InputStream es = process.getErrorStream()) {
            POOL.execute(() -> copyStream(is, inputBuilder, omsLogger, charset));
            POOL.execute(() -> copyStream(es, errorBuilder, omsLogger, charset));
            success = process.waitFor() == 0;
        } catch (InterruptedException ie) {
            omsLogger.info("[SYSTEM] ScriptProcessor has been interrupted");
        } finally {
            result = String.format("[INPUT]: %s;[ERROR]: %s", inputBuilder.toString(), errorBuilder.toString());
        }
        return new ProcessResult(success, result);
    }
    /**
     * 生成脚本名称
     * @param instanceId id of instance
     * @return 文件名称
     */
    protected abstract String getScriptName(Long instanceId);
    /**
     * 获取运行命令(eg,shell返回 /bin/sh)
     * @return 执行脚本的命令
     */
    protected abstract String getRunCommand();
    //......
}
AbstractScriptProcessor继承了CommonBasicProcessor,它定义了一个parallelism为4*Runtime.getRuntime().availableProcessors()的ForkJoinPool;其process0方法先读取scriptParams,然后执行prepareScriptFile获取scriptPath,接着使用chmod变更script权限为755,然后通过getRunCommand获取命令,接着往pool提交copyStream,等待process返回

prepareScriptFile

private String prepareScriptFile(Long instanceId, String processorInfo) throws IOException {
        String scriptPath = WORKER_DIR + getScriptName(instanceId);
        File script = new File(scriptPath);
        if (script.exists()) {
            return scriptPath;
        }
        File dir = new File(script.getParent());
        boolean success = dir.mkdirs();
        success = script.createNewFile();
        if (!success) {
            throw new RuntimeException("create script file failed");
        }

        // 如果是下载链接,则从网络获取
        for (String protocol : DOWNLOAD_PROTOCOL) {
            if (processorInfo.startsWith(protocol)) {
                FileUtils.copyURLToFile(new URL(processorInfo), script, 5000, 300000);
                return scriptPath;
            }
        }

        final Charset charset = getCharset();

        if(charset != null)
        {
            try (Writer fstream = new OutputStreamWriter(Files.newOutputStream(script.toPath()), charset); BufferedWriter out = new BufferedWriter(fstream)) {
                out.write(processorInfo);
                out.flush();
            }
        }
        else {
            try (FileWriter fw = new FileWriter(script); BufferedWriter bw = new BufferedWriter(fw)) {
                bw.write(processorInfo);
                bw.flush();
            }
        }
        return scriptPath;
    }
prepareScriptFile先通过getScriptName获取scriptPath,如果是http、https、ftp链接则通过FileUtils.copyURLToFile下载,否则把scriptParams写入到scriptPath

copyStream

private static void copyStream(InputStream is, StringBuilder sb, OmsLogger omsLogger, Charset charset) {
        String line;
        try (BufferedReader br = new BufferedReader(new InputStreamReader(is, charset))) {
            while ((line = br.readLine()) != null) {
                sb.append(line);
                // 同步到在线日志
                omsLogger.info(line);
            }
        } catch (Exception e) {
            log.warn("[ScriptProcessor] copyStream failed.", e);
            omsLogger.warn("[SYSTEM] copyStream failed.", e);

            sb.append("Exception: ").append(e);
        }
    }
copyStream会读取InputStream到StringBuilder,同时打印到omsLogger

ShellProcessor

tech/powerjob/official/processors/impl/script/ShellProcessor.java

public class ShellProcessor extends AbstractScriptProcessor {
    @Override
    protected String getScriptName(Long instanceId) {
        return String.format("shell_%d.sh", instanceId);
    }
    @Override
    protected String getRunCommand() {
        return SH_SHELL;
    }
}
ShellProcessor的getScriptName是基于shell_%d.sh和instanceId生成的;其getRunCommand为/bin/sh

CMDProcessor

tech/powerjob/official/processors/impl/script/CMDProcessor.java

public class CMDProcessor extends AbstractScriptProcessor {
    @Override
    protected String getScriptName(Long instanceId) {
        return String.format("cmd_%d.bat", instanceId);
    }
    @Override
    protected String getRunCommand() {
        return "cmd.exe";
    }
    @Override
    protected Charset getCharset() {
        return Charset.defaultCharset();
    }
}
CMDProcessor的getScriptName是基于cmd_%d.bat和instanceId生成,其getRunCommand为`cmd.exe

PowerShellProcessor

tech/powerjob/official/processors/impl/script/PowerShellProcessor.java

public class PowerShellProcessor extends AbstractScriptProcessor {

    @Override
    protected String getScriptName(Long instanceId) {
        return String.format("powershell_%d.ps1", instanceId);
    }

    @Override
    protected String getRunCommand() {
        return "powershell.exe";
    }

    @Override
    protected Charset getCharset() {
        return Charset.defaultCharset();
    }
}
PowerShellProcessor的getScriptName是基于powershell_%d.ps1"和instanceId生成,其getRunCommand为powershell.exe

PythonProcessor

tech/powerjob/official/processors/impl/script/PythonProcessor.java

public class PythonProcessor extends AbstractScriptProcessor {

    @Override
    protected String getScriptName(Long instanceId) {
        return String.format("python_%d.py", instanceId);
    }

    @Override
    protected String getRunCommand() {
        return "python";
    }
}
PythonProcessor的getScriptName是基于python_%d.py和instanceId生成,其getRunCommand为python

小结

AbstractScriptProcessor继承了CommonBasicProcessor,它有四个实现类分别是ShellProcessor、CMDProcessor、PowerShellProcessor、PythonProcessor;它定义了getScriptName、getRunCommand抽象方法;其process0方法主要是把scriptParams写入到本地文件(scriptParams是http、https、ftp的则根据url进行下载),然后修改权限为755,然后执行pb.start(),再将input及errorStream收集到StringBuilder并打印到omsLogger,最后process.waitFor()等待处理完成。

以上就是PowerJob的AbstractScriptProcessor方法工作流程源码解读的详细内容,更多关于PowerJob AbstractScriptProcessor的资料请关注脚本之家其它相关文章!

相关文章

  • Java8如何构建一个Stream示例详解

    Java8如何构建一个Stream示例详解

    Java 8 是迄今为止在语义上改动上最大的一个平台。下面这篇文章主要给大家介绍了关于Java8如何构建一个Stream的相关资料,文中通过示例代码介绍的非常详细,需要的朋友可以参考借鉴,下面随着小编来一起学习学习吧。
    2018-04-04
  • Java基础之String类使用与字符串比较

    Java基础之String类使用与字符串比较

    String类代表字符串,java程序中的所有字符串文字(例如"abc")都被实现为此类的实例。本文将详解String类的使用,以及如何进行字符串比较
    2022-08-08
  • Java如何实现图片裁剪预览功能

    Java如何实现图片裁剪预览功能

    通常注册账户上传用户图像时需要进行预览,这篇文章就是教我们如何用 Java 实现图片裁剪预览功能,需要的朋友可以参考下
    2015-07-07
  • java 依赖包引入本地maven库的实现示例

    java 依赖包引入本地maven库的实现示例

    本文主要介绍了java 依赖包引入本地maven库的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2025-12-12
  • Java使用PDFBox提取PDF文本并统计关键词出现的次数

    Java使用PDFBox提取PDF文本并统计关键词出现的次数

    这篇文章主要介绍了Apache PDFBox库的基本知识,包括如何使用PDDocument加载PDF文件、PDFTextStripper提取文本以及如何进行词频统计,还提供了在线URL的处理方法,需要的朋友可以参考下
    2025-05-05
  • Java TreeSet实现学生按年龄大小和姓名排序的方法示例

    Java TreeSet实现学生按年龄大小和姓名排序的方法示例

    这篇文章主要介绍了Java TreeSet实现学生按年龄大小和姓名排序的方法,涉及java类型转换、遍历、比较等相关操作技巧,需要的朋友可以参考下
    2017-09-09
  • Java如何为 PPT 中的图形添加阴影效果

    Java如何为 PPT 中的图形添加阴影效果

    这篇文章主要介绍了Java如何为 PPT 中的图形添加阴影效果,帮助大家更好的利用java处理图像,感兴趣的朋友可以了解下
    2020-09-09
  • Java完全二叉树的创建与四种遍历方法分析

    Java完全二叉树的创建与四种遍历方法分析

    这篇文章主要介绍了Java完全二叉树的创建与四种遍历方法,结合实例形式分析了完全二叉树的概念、定义及遍历操作相关实现技巧,并对比分析了满二叉树与完全二叉树的区别,需要的朋友可以参考下
    2017-11-11
  • java使用RSA与AES加密解密的实例代码详解

    java使用RSA与AES加密解密的实例代码详解

    这篇文章主要介绍了java使用RSA与AES加密解密的实例代码,代码简单易懂,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-06-06
  • Java内存模型JMM详解

    Java内存模型JMM详解

    这篇文章主要介绍了Java内存模型JMM详解,涉及volatile和监视器锁,final字段,内存屏障等相关内容,具有一定参考价值,需要的朋友可以了解下。
    2017-11-11

最新评论