java调用python的契机来自于一个项目需要用到算法,但是算法工程师们写的python,于是就有了java后端调用python脚本的需求,中间遇到了许多问题,特此记录整理了一次。

1、java调用python的方式有哪几种

1.1  方法一:jpython

专门为java调用python2开发出来的类库,但由于不支持python3版本,python2和3之间的语法又不兼容导致jpython库并非特别通用。github有人问到过什么时候出python3版本的库,官方答复说是可行的但很困难(截止2022年8月份 jpython官方目前没有开发出支持python3的类库)

jpython的语法特别简单,使用PythonIntercepter即可简单的操作python文件。

1.1.1 导入jar包

<dependency><groupId>org.python</groupId><artifactId>jython-standalone</artifactId><version>2.7.0</version>
</dependency>

1.1.2 调用python脚本中的method1()方法

PythonInterpreter interpreter = new PythonInterpreter();
interpreter.execfile("C:\\Users\\Dick\\Desktop\\demo.py");
// 调用demo.py中的method1方法
PyFunction func = interpreter.get("method1",PyFunction.class);
Integer a = 10;
Integer b = 10;
PyObject pyobj = func.__call__(new PyInteger(a), new PyInteger(b));
System.out.println("获得方法的返回值 = " + pyobj.toString());

注:如无返回值 仅执行interpreter.execfile()方法即可

1.2   方法二:ProcessBuilder

ProcessBuilder是jdk提供的脚本执行工具类,无论是python文件还是shell脚本还是其他的指令,都可以通过此类来执行,我们来看看它是如何调用python脚本的

1.2.1 首先我们把python文件放入resource下

1.2.2 接下来就是执行脚本了

/*** 执行python脚本* @param fileName 脚本文件名称* @param params 脚本参数* @throws IOException*/
public static void execPythonFile(String fileName, String params) throws IOException {// 获取python文件所在目录地址String windowsPath = ClassUtils.getDefaultClassLoader().getResource("").getPath().substring(1) + "py/"; // windows执行脚本需要使用 cmd.exe /c 才能正确执行脚本Process process = new ProcessBuilder("cmd.exe", "/c", "python", windowsPath + fileName, params).start();logger.info("读取python文件 开始 fileName={}", fileName);BufferedReader errorReader = null;// 脚本执行异常时的输出信息errorReader = new BufferedReader(new InputStreamReader(process.getErrorStream()));List<String> errorString = read(fileName, errorReader);logger.info("读取python文件 异常 fileName={}&errorString={}", fileName, errorString);// 脚本执行正常时的输出信息BufferedReader inputReader = null;inputReader = new BufferedReader(new InputStreamReader(process.getInputStream()));List<String> returnString = read(fileName, inputReader);logger.info("读取python文件 fileName={}&returnString={}", fileName, returnString);try {logger.info("读取python文件 wait fileName={}", fileName);process.waitFor();} catch (InterruptedException e) {logger.error("读取python文件 fileName="+fileName+" 等待结果返回异常", e);}logger.info("读取python文件 fileName={} == 结束 ==", fileName);
}
private static List<String> read(String fileName, BufferedReader reader) {List<String> resultList =  Lists.newArrayList();String res = "";while (true) {try {if (!((res = reader.readLine()) != null)) break;} catch (IOException e) {logger.error("读取python文件 fileName=" + fileName + " 读取结果异常", e);}resultList.add(res);}return resultList;
}

上述代码仅考虑了windows,而在Linux中情况会比较复杂一点。

1.2.3 Linux中执行python存在的问题

我们知道常规的项目部署是将项目打成jar包,然后直接放入Linux 或者通过docker等容器进行部署,这个时候resources下的py文件就在jar包里了,但我们执行python脚本时使用的是:

python3 脚本文件所在地

此时python脚本在jar包里面,不能通过 jar路径/BOOT-INF/classes/py/xxx.py进行访问【我测试过一段时间 发现python3 (python指令也不行) 指令无法调用在jar里面的脚本】,所以我能想到的方案是将python脚本文件直接放入服务器的某个文件夹中,方便后续访问。如果是docker部署,只需要在dockerfile中加入一个COPY指令  将py文件放到指定目录下:

1.2.4 Linux中执行python文件

下面代码将兼容windows和linux调用py文件【Linux执行py文件是使用python还是python3根据实际py环境变量配置来选择就好】

/**
* 执行python文件
* @param fileName python文件地址
* @param params 参数 其实可以改成传入多个参数 一个个放入ProcessBuilder中的
* @throws IOException
*/
public static void execPythonFile(String fileName, String params) throws IOException {// ① 当前系统类型String os = System.getProperty("os.name");// ② 获取python文件所在目录地址String windowsPath = ClassUtils.getDefaultClassLoader().getResource("").getPath().substring(1) + "py/";  String linuxPath = "/ai/egcc/";logger.info("读取python文件 init fileName={}&path={}", fileName);Process process;if (os.startsWith("Windows")){// windows执行脚本需要使用 cmd.exe /c 才能正确执行脚本process = new ProcessBuilder("cmd.exe", "/c", "python", windowsPath + fileName, params).start();}else {// linux执行脚本一般是使用python3 + 文件所在路径process = new ProcessBuilder("python3", linuxPath + fileName, params).start();}logger.info("读取python文件 开始 fileName={}", fileName);BufferedReader errorReader = null;// 脚本执行异常时的输出信息errorReader = new BufferedReader(new InputStreamReader(process.getErrorStream()));List<String> errorString = read(fileName, errorReader);logger.info("读取python文件 异常 fileName={}&errorString={}", fileName, errorString);// 脚本执行正常时的输出信息BufferedReader inputReader = null;inputReader = new BufferedReader(new InputStreamReader(process.getInputStream()));List<String> returnString = read(fileName, inputReader);logger.info("读取python文件 fileName={}&returnString={}", fileName, returnString);try {logger.info("读取python文件 wait fileName={}", fileName);process.waitFor();} catch (InterruptedException e) {logger.error("读取python文件 fileName="+fileName+" 等待结果返回异常", e);}logger.info("读取python文件 fileName={} == 结束 ==", fileName);
}
private static List<String> read(String fileName, BufferedReader reader) {List<String> resultList =  Lists.newArrayList();String res = "";while (true) {try {if (!((res = reader.readLine()) != null)) break;} catch (IOException e) {logger.error("读取python文件 fileName=" + fileName + " 读取结果异常", e);}resultList.add(res);}return resultList;
}

以为这就完了吗,其实还没有呢,process.waitFor()方法其实存在一些问题,如果上线后可能会造成事故,具体参考:java调用exe程序  使用process.waitFor()死锁

那我们就尝试用线程池来解决死锁的问题吧

1.2.5 解决java调用脚本文件存在的隐式问题解决

以下为终极版代码:

private static ExecutorService taskPool = new ThreadPoolExecutor(8, 32,200L,TimeUnit.MILLISECONDS, new LinkedBlockingQueue<Runnable>(600),new ThreadFactoryBuilder().setNameFormat("thread-自定义线程名-runner-%d").build());
/**
* 执行python文件
* @param fileName python文件地址
* @param params 参数 多个直接逗号隔开
* @throws IOException
*/
public static void execPythonFile(String fileName, String params) throws IOException {// ① 当前系统类型String os = System.getProperty("os.name");// ② 获取python文件所在目录地址String windowsPath = ClassUtils.getDefaultClassLoader().getResource("").getPath().substring(1) + "py/";  String linuxPath = "/ai/egcc/";logger.info("读取python文件 init fileName={}&path={}", fileName);Process process;if (os.startsWith("Windows")){// windows执行脚本需要使用 cmd.exe /c 才能正确执行脚本process = new ProcessBuilder("cmd.exe", "/c", "python", windowsPath + fileName, params).start();}else {// linux执行脚本一般是使用python3 + 文件所在路径process = new ProcessBuilder("python3", linuxPath + fileName, params).start();}taskPool.submit(() -> {logger.info("读取python文件 开始 fileName={}", fileName);BufferedReader errorReader = null;// 脚本执行异常时的输出信息errorReader = new BufferedReader(new InputStreamReader(process.getErrorStream()));List<String> errorString = read(fileName, errorReader);logger.info("读取python文件 异常 fileName={}&errorString={}", fileName, errorString);});taskPool.submit(() -> {// 脚本执行正常时的输出信息BufferedReader inputReader = null;inputReader = new BufferedReader(new InputStreamReader(process.getInputStream()));List<String> returnString = read(fileName, inputReader);logger.info("读取python文件 fileName={}&returnString={}", fileName, returnString);});try {logger.info("读取python文件 wait fileName={}", fileName);process.waitFor();} catch (InterruptedException e) {logger.error("读取python文件 fileName="+fileName+" 等待结果返回异常", e);}logger.info("读取python文件 fileName={} == 结束 ==", fileName);
}
private static List<String> read(String fileName, BufferedReader reader) {List<String> resultList =  Lists.newArrayList();String res = "";while (true) {try {if (!((res = reader.readLine()) != null)) break;} catch (IOException e) {logger.error("读取python文件 fileName=" + fileName + " 读取结果异常", e);}resultList.add(res);}return resultList;
}

好了 上述代码已经可以正确的调用python脚本了,但博主目前仍然有些问题还没解决:比如如何调用java的jar包内部的py文件?在windows上的jar包内的py文件是可以调用成功的【我在windows本地启动jar包做过测试】,但是docker容器里面的jar却无法调用成功的原因是什么?

如果有朋友遇到问题欢迎在评论区留言和讨论

1.2.6 终极版python执行工具类【建议使用】

import com.google.common.collect.Lists;
import com.google.common.util.concurrent.ThreadFactoryBuilder;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Component;
import org.springframework.util.ClassUtils;
import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.util.List;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.LinkedBlockingQueue;
import java.util.concurrent.ThreadPoolExecutor;
import java.util.concurrent.TimeUnit;/*** java调用python的执行器*/
@Component
public class PythonExecutor {private static final Logger logger = LoggerFactory.getLogger(PythonExecutor.class);private static final String OS = System.getProperty("os.name");private static final String WINDOWS_PATH = ClassUtils.getDefaultClassLoader().getResource("").getPath().substring(1) + "py/automl/";  // windows为获取项目根路径即可private static final String LINUX_PATH = "/ai/xx";// linux为python文件所在目录private static ExecutorService taskPool = new ThreadPoolExecutor(8, 16, 200L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue<Runnable>(600), new ThreadFactoryBuilder().setNameFormat("thread-自定义线程名-runner-%d").build());/*** 执行python文件【异步 无需等待py文件执行完毕】** @param fileName python文件地址* @param params   参数* @throws IOException*/public static void execPythonFile(String fileName, String params) {taskPool.submit(() -> {try {exec(fileName, params);} catch (IOException e) {logger.error("读取python文件 fileName=" + fileName + " 异常", e);}});}/*** 执行python文件 【同步 会等待py执行完毕】** @param fileName python文件地址* @param params   参数* @throws IOException*/public static void execPythonFileSync(String fileName, String params) {try {execSync(fileName, params);} catch (IOException e) {logger.error("读取python文件 fileName=" + fileName + " 异常", e);}}private static void exec(String fileName, String params) throws IOException {logger.info("读取python文件 init fileName={}&path={}", fileName, WINDOWS_PATH);Process process;if (OS.startsWith("Windows")) {// windows执行脚本需要使用 cmd.exe /c 才能正确执行脚本process = new ProcessBuilder("cmd.exe", "/c", "python", WINDOWS_PATH + fileName, params).start();} else {// linux执行脚本一般是使用python3 + 文件所在路径process = new ProcessBuilder("python3", LINUX_PATH + fileName, params).start();}new Thread(() -> {logger.info("读取python文件 开始 fileName={}", fileName);BufferedReader errorReader = null;// 脚本执行异常时的输出信息errorReader = new BufferedReader(new InputStreamReader(process.getErrorStream()));List<String> errorString = read(fileName, errorReader);logger.info("读取python文件 异常 fileName={}&errorString={}", fileName, errorString);}).start();new Thread(() -> {// 脚本执行正常时的输出信息BufferedReader inputReader = null;inputReader = new BufferedReader(new InputStreamReader(process.getInputStream()));List<String> returnString = read(fileName, inputReader);logger.info("读取python文件 fileName={}&returnString={}", fileName, returnString);}).start();try {logger.info("读取python文件 wait fileName={}", fileName);process.waitFor();} catch (InterruptedException e) {logger.error("读取python文件 fileName=" + fileName + " 等待结果返回异常", e);}logger.info("读取python文件 fileName={} == 结束 ==", fileName);}private static void execSync(String fileName, String params) throws IOException {logger.info("同步读取python文件 init fileName={}&path={}", fileName, WINDOWS_PATH);Process process;if (OS.startsWith("Windows")) {// windows执行脚本需要使用 cmd.exe /c 才能正确执行脚本process = new ProcessBuilder("cmd.exe", "/c", "python", WINDOWS_PATH + fileName, params).start();} else {// linux执行脚本一般是使用python3 + 文件所在路径process = new ProcessBuilder("python3", LINUX_PATH + fileName, params).start();}taskPool.submit(() -> {logger.info("读取python文件 开始 fileName={}", fileName);BufferedReader errorReader = null;// 脚本执行异常时的输出信息errorReader = new BufferedReader(new InputStreamReader(process.getErrorStream()));List<String> errorString = read(fileName, errorReader);logger.info("读取python文件 异常 fileName={}&errorString={}", fileName, errorString);});taskPool.submit(() -> {// 脚本执行正常时的输出信息BufferedReader inputReader = null;inputReader = new BufferedReader(new InputStreamReader(process.getInputStream()));List<String> returnString = read(fileName, inputReader);logger.info("读取python文件 fileName={}&returnString={}", fileName, returnString);});try {logger.info("同步读取python文件 wait fileName={}", fileName);process.waitFor();} catch (InterruptedException e) {logger.error("同步读取python文件 fileName=" + fileName + " 等待结果返回异常", e);}logger.info("同步读取python文件 fileName={} == 结束 ==", fileName);}private static List<String> read(String fileName, BufferedReader reader) {List<String> resultList = Lists.newArrayList();String res = "";while (true) {try {if (!((res = reader.readLine()) != null)) break;} catch (IOException e) {logger.error("读取python文件 fileName=" + fileName + " 读取结果异常", e);}resultList.add(res);}return resultList;}}

===== 补充 =====

有小伙伴可能在别的博文上找到下面的java调用脚本方式

Runtime.getRuntime().exec()

其实上面的脚本底层用的也是ProcessBuilder对象,所以是一样的。

java调用python文件的几种方式【超细讲解!】相关推荐

  1. 【转】java调用http接口的几种方式总结

    java调用http接口的几种方式总结 本文参考: https://blog.csdn.net/fightingXia/article/details/71775516 https://www.cnb ...

  2. java读取XML文件的四种方式

    java读取XML文件的四种方式 Xml代码 <?xml version="1.0" encoding="GB2312"?> <RESULT& ...

  3. java读取csv文件的两种方式

    java读取csv文件的两种方式 1.CsvReader读取 import com.csvreader.CsvReader; /*** CsvReader 读取* @param filePath* @ ...

  4. java解析xml文件的几种方式(DOM解析)

    好久不用的东西,今天居然被面试官问到了.那既然这样,我们就一起回顾下java解析xml文件的几种方式吧. DOM解析 dom解析所需依赖是我们jdk自带的,所以只需要使用jdk为我们提供的接口即可上手 ...

  5. android java调用_关于Android中Java调用外部命令的三种方式

    此所谓三种方式,只是个人认为.本人还是菜鸟初涉,所以有所错误,请指正. 个人认为,Java调用外部命令.无非三种情况: 一.是只执行命令,不考虑返回值. 二.是执行命令的同时,还需要得到返回值. 三. ...

  6. java下载网络文件的N种方式

    通过java api下载网络文件的方法有很多,在这里我做个汇总,主要方式有以下几种: 1.使用 common-io库下载文件,需要引入commons-io-2.6.jar public static ...

  7. JAVA中xml文件解析几种方式

    1. DOM解析xml /*** DOM解析xml* @param xmlPath xml文件路径*/public static void getInfoByDom(String xmlPath){D ...

  8. java 调用python脚本过程_通过Java调用Python脚本

    在进行开发的过程中,偶尔会遇到需要使用Java调用Python脚本的时候,毕竟Python在诸如爬虫,以及科学计算等方面具有天然的优势.最近在工作中遇到需要在Java程序中调用已经写好的Python程 ...

  9. java执行python脚本_通过Java调用Python脚本

    在进行开发的过程中,偶尔会遇到需要使用Java调用Python脚本的时候,毕竟Python在诸如爬虫,以及科学计算等方面具有天然的优势.最近在工作中遇到需要在Java程序中调用已经写好的Python程 ...

最新文章

  1. python单位根检验看结果_Python ADF 单位根检验 如何查看结果的实现
  2. java登录界面命令_Java命令行界面(第13部分):JArgs
  3. Python 并发编程:PoolExecutor 篇
  4. 再看lambda/sorted/filter/map
  5. 使用BroadcastReceiver的Android IntentService
  6. 软件测试职业比赛,我院首届软件测试职业技能大赛圆满落幕
  7. matlab生成16进制正弦波表
  8. 将.pem转换为.crt和.key
  9. Merlin——零知识证明(1)理论篇
  10. H3CNE中静态路由实验
  11. android studio 页面布局
  12. NBA篮球运动员大数据分析决策支持系统
  13. 50道mysql笔试题目及答案_2020年MySQL数据库面试题总结(50道题含答案解析)
  14. linux篇【12】:网络套接字<前序>—网络基础+udp套接字
  15. 合规性对区块链项目的重要性
  16. python后端脚手架_flask-adminlte-scaffold是一个Python环境下的WEB后台管理系统脚手架...
  17. android lottie字体json,从json文件到炫酷动画-Lottie实现思路和源码分析
  18. Android的图片缓存处理
  19. 大连究竟有多少“软件园”
  20. Scheme 语言开发工具DrRacket下载,安装

热门文章

  1. 保密相册计算机,‎加密相册(新版) - 密码计算机照片保险箱 v App Storu
  2. 后台数据管理——firebase和野狗
  3. 「自控原理」7 非线性系统分析
  4. 金融学专业考计算机二级,考计算机二级选哪个科目好 哪个科目简单
  5. 【CS224W】(task2)传统图机器学习和特征工程
  6. springboot基于javaweb校园防疫管理系统毕业设计源码021043
  7. ERP :金蝶软件财务快捷键
  8. 什么叫取反_取反位什么意思_c语言按位取反什么意思
  9. 如何调用通达信l2行情接口?
  10. 基于51单片机小板的led灯全亮全灭