从文件或 STDIN 读取

Posted

技术标签:

【中文标题】从文件或 STDIN 读取【英文标题】:Read from File, or STDIN 【发布时间】:2010-12-17 05:30:52 【问题描述】:

我编写了一个命令行实用程序,它使用 getopt 来解析命令行上给出的参数。我还希望文件名是一个可选参数,例如它在其他实用程序中,如 grep、cut 等。所以,我希望它具有以下用法

tool -d character -f integer [filename]

如何实现以下功能?

如果给出了文件名,则从文件中读取。 如果没有给出文件名,则从 STDIN 读取。

【问题讨论】:

另见unix.stackexchange.com/questions/47098/… 【参考方案1】:

fileinput 模块可以做你想做的事——假设非选项参数在args 中,那么:

import fileinput
for line in fileinput.input(args):
    print line

如果args 为空,则fileinput.input() 将从标准输入读取;否则它会依次从每个文件中读取,类似于 Perl 的while(<>)

【讨论】:

这也是一个很好的答案,但不是很普遍。如果合适的话,我会记得下次使用 fileinput。 对,但是如果您使用的是getargs(就像 OP 一样),那么您可能只想传递剩余的参数而不是 sys.argv[1:](这是默认值)。 fileinput 是一个奇怪而烦人的 API,它迫使你在命令行上使用标记参数。 @ctpenrose 这不是文件输入设计错误:将作为输入文件名称的参数与其他参数区分开来是问题域固有的问题。 Fileinput(尤其是 argparse)简化了执行此操作的通用模式的使用,您可以选择使用或不使用,但如果有其他方式进行区分,您可以发送 sys.argv 的片段(或不同的名称数组)到 fileinput.input() - 当你显式传递一个数组时,你不必输入一个假的 sys.argv[0]。【参考方案2】:

用最简单的话来说:

import sys
# parse command line
if file_name_given:
    inf = open(file_name_given)
else:
    inf = sys.stdin

此时您将使用inf 从文件中读取。根据是否给出了文件名,这将从给定文件或标准输入中读取。

当你需要关闭文件时,你可以这样做:

if inf is not sys.stdin:
    inf.close()

但是,在大多数情况下,如果您完成了关闭 sys.stdin,它是无害的。

【讨论】:

@thefourtheye:是的,这两个函数都将从文件或sys.stdin中读取。 我找到了解决这个问题的另一种方法,我在这里写了博客 dfourtheye.blogspot.in/2013/05/… 并添加了这个问题的答案。 @thefourtheye 已删除他们的答案;您可能无需点击博客即可发现 sys.stdin = open(file_name)【参考方案3】:

我喜欢使用上下文管理器的一般习惯用法,但是当您退出 with 语句时,(太)琐碎的解决方案最终会关闭 sys.stdin,我想避免这种情况。

借鉴this answer,这里有一个解决方法:

import sys
import contextlib

@contextlib.contextmanager
def _smart_open(filename, mode='Ur'):
    if filename == '-':
        if mode is None or mode == '' or 'r' in mode:
            fh = sys.stdin
        else:
            fh = sys.stdout
    else:
        fh = open(filename, mode)
    try:
        yield fh
    finally:
        if filename != '-':
            fh.close()
    
if __name__ == '__main__':
    args = sys.argv[1:]
    if args == []:
        args = ['-']
    for filearg in args:
        with _smart_open(filearg) as handle:
            do_stuff(handle)

我想你可以实现something similar with os.dup(),但我编写的代码变得更加复杂和神奇,而上面的代码有些笨拙但非常简单。

【讨论】:

非常感谢!这正是我想要的。非常清晰和直接的解决方案。 argparse.FileType 太烦人(这对我来说经常发生)时,这也是一个有用的代码。【参考方案4】:

我更喜欢使用“-”作为你应该从标准输入读取的指示符,它更明确:

import sys
with open(sys.argv[1], 'r') if sys.argv[1] is not "-" else sys.stdin as f:
    pass # do something here

【讨论】:

您的解决方案将关闭sys.stdin,因此inputwith 语句之后的函数调用将引发ValueError @TimofeyBondarev 这可能是真的.. 但大多数情况下,输入只在脚本中使用一次。这是一个有用的结构。 小事:应该是sys.argv[1] != "-" 而不是sys.argv[1] is not "-"【参考方案5】:

要利用python的with语句,可以使用以下代码:

import sys
with open(sys.argv[1], 'r') if len(sys.argv) > 1 else sys.stdin as f:
    # read data using f
    # ......

【讨论】:

您的解决方案将关闭sys.stdin,因此在with 语句之后的input 函数调用将引发ValueError【参考方案6】:

不是直接的答案,而是相关的。

通常,当您编写 python 脚本时,您可以使用 argparse 包。 如果是这种情况,您可以使用:

parser = argparse.ArgumentParser()
parser.add_argument('infile', nargs='?', type=argparse.FileType('r'), default=sys.stdin)

'?'。如果可能,将从命令行使用一个参数, 并作为单个项目生产。如果不存在命令行参数, 将产生默认值。

这里我们将默认设置为sys.stdin;

所以如果有文件,它将读取它,如果没有,它将从标准输入获取输入“注意:我们在上面的示例中使用了位置参数”

更多访问:https://docs.python.org/2/library/argparse.html#nargs

【讨论】:

【参考方案7】:

切换到argparse(它也是标准库的一部分)并使用 argparse.FileType,默认值为标准输入:

import  argparse, sys

p = argparse.ArgumentParser()
p.add_argument('input', nargs='?',
  type=argparse.FileType(), default=sys.stdin)
args = p.parse_args()

print(args.input.readlines())

这不会让你为标准输入指定编码和其他参数, 然而;如果你想这样做,你需要使参数非可选 并让FileType- 作为 论据:

p.add_argument('input', type=FileType(encoding='UTF-8'))

注意后一种情况不会支持二进制模式 ('b') I/O。如果 你只需要,你可以使用上面的默认参数技术,但是 提取二进制 I/O 对象,例如,default=sys.stdout.buffer for 标准输出。但是,如果用户无论如何指定-,这仍然会中断。 (- stdin/stdout 总是包裹在 TextIOWrapper 中。)

如果您希望它与 - 一起使用,或者您需要任何其他参数 在打开文件时提供,如果它被包装,您可以修复参数 错误:

p.add_argument('output', type=argparse.FileType('wb'))
args = p.parse_args()
if hasattr(args.output, 'buffer'):
    #   If the argument was '-', FileType('wb') ignores the 'b' when
    #   wrapping stdout. Fix that by grabbing the underlying binary writer.
    args.output = args.output.buffer

(帽子提示medhat 提到add_argument()type参数。)

【讨论】:

【参考方案8】:

类似:

if input_from_file:
    f = open(file_name, "rt")
else:
    f = sys.stdin
inL = f.readline()
while inL:
    print inL.rstrip()
    inL = f.readline()

【讨论】:

以上是关于从文件或 STDIN 读取的主要内容,如果未能解决你的问题,请参考以下文章

python 读取文件或从stdin

从STDIN读取文件并打印随机行。

将stdin设置为C中的文件时如何从键盘读取

从文件或标准输入读取

C++ 以缓冲速率从 STDIN 读取输入

你怎么从没有结束的管道读取python中的stdin