• 为了保证你在浏览本网站时有着更好的体验,建议使用类似Chrome、Firefox之类的浏览器~~
    • 如果你喜欢本站的内容何不Ctrl+D收藏一下呢,与大家一起分享各种编程知识~
    • 本网站研究机器学习、计算机视觉、模式识别~当然不局限于此,生命在于折腾,何不年轻时多折腾一下

关于subprocess执行脚本输出定向问题

Python admin 3周前 (07-31) 73次浏览 0个评论 扫描二维码

博主使用这个模块,主要想利用这个去循环执行 hive 脚本,调用 shell 去执行,同时也要适当的时候将结果输出到指定的位置。

一、subprocess
运行 python 的时候,我们都是在创建并运行一个进程。

subprocess.call()
父进程等待子进程完成
返回退出信息(returncode,相当于 Linux exit code)

subprocess.check_call()
父进程等待子进程完成
返回 0
检查退出信息,如果 returncode 不为 0,则举出错误 subprocess.CalledProcessError,该对象包含有 returncode 属性,可用 try…except…来检查

subprocess.check_output()
父进程等待子进程完成
返回子进程向标准输出的输出结果
检查退出信息,如果 returncode 不为 0,则举出错误 subprocess.CalledProcessError,该对象包含有 returncode 属性和 output 属性,output 属性为标准输出的输出结果,可用 try…except…来检查。

这三个函数的使用方法相类似,下面来以 subprocess.call()举例说明:

代码如下:
>>> import subprocess
>>> retcode = subprocess.call([“ls”, “-l”])
#和 shell 中命令 ls -a 显示结果一样
>>> print retcode
0
将程序名(ls)和所带的参数(-l)一起放在一个表中传递给 subprocess.call()

shell 默认为 False,在 Linux 下,shell=False 时, Popen 调用 os.execvp()执行 args 指定的程序;shell=True 时,如果 args 是字符串,Popen 直接调用系统的 Shell 来执行 args 指定的程序,如果 args 是一个序列,则 args 的第一项是定义程序命令字符串,其它项是调用系统 Shell 时的附加参数。

上面例子也可以写成如下:

代码如下:
>>> retcode = subprocess.call(“ls -l”,shell=True)

在 Windows 下,不论 shell 的值如何,Popen 调用 CreateProcess()执行 args 指定的外部程序。如果 args 是一个序列,则先用 list2cmdline()转化为字符串,但需要注意的是,并不是 MS Windows 下所有的程序都可以用 list2cmdline 来转化为命令行字符串。

使用 popen 才是这篇文章的重点,这个函数提供了输入输出流的处理,并且调用 shell 去执行,将输出的结果重定向到指定的文件,然后程序再去解析。

subprocess.Popen()

代码如下:
class Popen(args, bufsize=0, executable=None, stdin=None, stdout=None, stderr=None, preexec_fn=None, close_fds=False, shell=False, cwd=None, env=None, universal_newlines=False, startupinfo=None, creationflags=0)

实际上,上面的几个函数都是基于 Popen()的封装(wrapper)。这些封装的目的在于让我们容易使用子进程。当我们想要更个性化我们的需求的时候,就要转向 Popen 类,该类生成的对象用来代表子进程。

 

与上面的封装不同,Popen 对象创建后,主程序不会自动等待子进程完成。我们必须调用对象的 wait()方法,父进程才会等待 (也就是阻塞 block),举例:

这里的 wait 是重点,在正常情况下你是通过 fork 一个新的子进程来实现你的需求,那么父进程如果你没有告诉它要等待子进程那么父进程直接运行结束了,你想要的结果也无法处理。

代码如下:
>>> import subprocess
>>> child = subprocess.Popen([‘ls’,’-al’])
>>> print ‘parent process’

从运行结果中看到,父进程在开启子进程之后并没有等待 child 的完成,而是直接运行 print。

 

对比等待的情况:

代码如下:
>>> import subprocess
>>> child = subprocess.Popen(‘ls -al’,shell=True)
>>> child.wait()
>>> print ‘parent process’

从运行结果中看到,父进程在开启子进程之后并等待 child 的完成后,再运行 print。
此外,你还可以在父进程中对子进程进行其它操作,比如我们上面例子中的 child 对象:代码如下:

child.poll() # 检查子进程状态
child.kill() # 终止子进程
child.send_signal() # 向子进程发送信号
child.terminate() # 终止子进程

子进程的 PID 存储在 child.pid
二、子进程的文本流控制
子进程的标准输入、标准输出和标准错误如下属性分别表示:

代码如下:
child.stdin
child.stdout
child.stderr

常见的可以定义一个文件流,然后赋值到 stdout,那么子进程的输出将会写到指定的文件当中去。也可以在 Popen()建立子进程的时候改变标准输入、标准输出和标准错误,并可以利用 subprocess.PIPE 将多个子进程的输入和输出连接在一起,构成管道(pipe),如下 2 个例子:

代码如下:
>>> import subprocess
>>> child1 = subprocess.Popen([“ls”,”-l”], stdout=subprocess.PIPE)
>>> print child1.stdout.read(),
#或者 child1.communicate()
>>> import subprocess
>>> child1 = subprocess.Popen([“cat”,”/etc/passwd”], stdout=subprocess.PIPE)
>>> child2 = subprocess.Popen([“grep”,”0:0″],stdin=child1.stdout, stdout=subprocess.PIPE)
>>> out = child2.communicate()

Deeplearn, 版权所有丨如未注明 , 均为原创丨本网站采用BY-NC-SA协议进行授权 , 转载请注明关于 subprocess 执行脚本输出定向问题
喜欢 (0)
admin
关于作者:
互联网行业码农一枚/业余铲屎官/数码影音爱好者/二次元

您必须 登录 才能发表评论!