如何快速汇总文件中的所有数字？
Posted
技术标签:
【中文标题】如何快速汇总文件中的所有数字？【英文标题】：How can I quickly sum all numbers in a file? 【发布时间】：2011-02-11 18:04:44 【问题描述】：我有一个文件，其中包含数千个数字，每个数字都在自己的行中：
34
42
11
6
2
99
...
我正在寻找一个脚本来打印文件中所有数字的总和。我有一个解决方案，但它不是很有效。 （运行需要几分钟。）我正在寻找更有效的解决方案。有什么建议吗？
【问题讨论】：
你的慢速解决方案是什么？也许我们可以帮助您找出它的缓慢之处。 :) @brian d foy，我不好意思发帖。我知道为什么它很慢。这是因为我调用“cat filename | head -n 1”来获取顶部数字，将其添加到运行总数中，并调用“cat filename | tail...”来删除下一次迭代的顶行......我有很多东西要学编程！！！ 那是……非常系统。非常清晰和直截了当，我喜欢它，因为它是一个可怕的可憎之物。我想，是用你刚开始时就知道的工具构建的，对吧？ 完整副本：***.com/questions/450799/… @MarkRoberts 您一定要花很长时间才能解决这个问题。这是一种非常巧妙的问题解决技术，哦，大错特错了。这看起来像是一个过度思考的经典案例。几个Glen Jackman's 解决方案shell 脚本解决方案（其中两个是纯shell，不使用awk 和bc 之类的东西）。这些都在不到 10 秒的时间内完成了添加一百万个数字。看看这些，看看它是如何在纯 shell 中完成的。
【参考方案1】：
你可以使用awk：
awk ' sum += $1 END print sum ' file
【讨论】：
程序超出：最大字段大小数：32767 如果您的字段包含空格并由制表符分隔，则使用-F '\t' 选项。
请将此标记为最佳答案。如果您想在 TSV（制表符分隔值）文件中对每行中的第一个值求和，它也可以工作。【参考方案2】：
到目前为止，没有一个解决方案使用paste。这是一个：
paste -sd+ filename | bc
例如，计算 Σn，其中 1
$ seq 100000 | paste -sd+ | bc -l
5000050000
（对于好奇的人，seq n 将打印一个从1 到n 的数字序列，给定一个正数n。）
【讨论】：
非常好！并且容易记住seq 100000 | paste -sd+ - | bc -l 在 Mac OS X Bash shell 上。这是迄今为止最甜蜜和最统一的解决方案！
@SimoA。我投票赞成我们使用术语 unixiest 来代替 unixest，因为对于最性感的解决方案来说总是最简单的 ;)
这是迄今为止相同的解决方案：简单、优雅、高效。【参考方案3】：
对于 Perl 单行，它与 Ayman Hourieh's answer 中的 awk 解决方案基本相同：
% perl -nle '$sum += $_ END print $sum'
如果您对 Perl 单行代码的作用感到好奇，可以对它们进行解析：
% perl -MO=Deparse -nle '$sum += $_ END print $sum'
结果是程序的一个更冗长的版本，其形式是任何人都不会自己编写的：
BEGIN $/ = "\n"; $\ = "\n";
LINE: while (defined($_ = <ARGV>))
chomp $_;
$sum += $_;
sub END
print $sum;
-e syntax OK
只是为了咯咯笑，我尝试了一个包含 1,000,000 个数字（范围 0 - 9,999）的文件。在我的 Mac Pro 上，它几乎会立即返回。太糟糕了，因为我希望使用mmap 会非常快，但它只是在同一时间：
use 5.010;
use File::Map qw(map_file);
map_file my $map, $ARGV[0];
$sum += $1 while $map =~ m/(\d+)/g;
say $sum;
【讨论】：
哇，这显示了对 -nle 实际环绕您提供的字符串的代码的深度理解。我最初的想法是你不应该在陶醉的时候发帖，但后来我注意到你是谁，并记得你的一些其他 Perl 答案:-) -n 和 -p 只是将字符放在 -e 的参数周围，因此您可以根据需要使用这些字符。在Effective Perl Programming（即将上架）中，我们有很多单行代码用它做有趣的事情。 很好，这些不匹配的花括号是关于什么的？ -n 在你的程序周围添加while 循环。如果你把 ... 放在里面，那么你就有while ... 。邪恶？有点。
突出显示-MO=Deparse 选项的巨大奖励！即使在一个单独的主题上。【参考方案4】：
只是为了好玩，让我们对其进行基准测试：
$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers
$ time perl -nle '$sum += $_ END print $sum' random_numbers
16379866392
real 0m0.226s
user 0m0.219s
sys 0m0.002s
$ time awk ' sum += $1 END print sum ' random_numbers
16379866392
real 0m0.311s
user 0m0.304s
sys 0m0.005s
$ time tr "\n" + < random_numbers ; echo 0; | bc;
16379866392
real 0m0.445s
user 0m0.438s
sys 0m0.024s
$ time s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s;
16379866392
real 0m9.309s
user 0m8.404s
sys 0m0.887s
$ time s=0;while read l; do ((s+=l));done<random_numbers;echo $s;
16379866392
real 0m7.191s
user 0m6.402s
sys 0m0.776s
$ time sed ':a;N;s/\n/+/;ta' random_numbers|bc;
^C
real 4m53.413s
user 4m52.584s
sys 0m0.052s
我在 5 分钟后中止了 sed 运行
我一直潜到lua，速度很快：
$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
16388542582.0
real 0m0.362s
user 0m0.313s
sys 0m0.063s
当我更新这个时，红宝石：
$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) |line| sum+=line.to_i; puts sum' random_numbers
16388542582
real 0m0.378s
user 0m0.297s
sys 0m0.078s
听取 Ed Morton 的建议：使用 $1
$ time awk ' sum += $1 END print sum ' random_numbers
16388542582
real 0m0.421s
user 0m0.359s
sys 0m0.063s
vs 使用$0
$ time awk ' sum += $0 END print sum ' random_numbers
16388542582
real 0m0.302s
user 0m0.234s
sys 0m0.063s
【讨论】：
+1：用于提出一系列解决方案并对其进行基准测试。 time cat random_numbers|paste -sd+|bc -l real 0m0.317s user 0m0.310s sys 0m0.013s 这应该与tr 解决方案几乎相同。
如果您使用 $0 而不是 $1，您的 awk 脚本应该执行得更快一些，因为如果脚本中特别提到了任何字段但没有，则 awk 会进行字段拆分（这显然需要时间）否则。【参考方案5】：
另一种选择是使用jq：
$ seq 10|jq -s add
55
-s (--slurp) 将输入行读入一个数组。
【讨论】：
这是一个非常棒的工具，可以快速完成类似的任务，差点忘了它。谢谢 绝妙的解决方案。我有一个制表符分隔文件，我想对第 6 列求和。使用以下命令做到这一点：awk ' print $6 ' myfile.log | jq -s add【参考方案6】：
这是直接的 Bash：
sum=0
while read -r line
do
(( sum += line ))
done < file
echo $sum
【讨论】：
它可能是最慢的解决方案之一，因此不太适合大量数字。【参考方案7】：这是另一条线
( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc
这假设数字是整数。如果您需要小数，请尝试
( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc
将 2 调整为所需的小数位数。
【讨论】：
【参考方案8】：我更喜欢为此使用 R：
$ R -e 'sum(scan("filename"))'
【讨论】：
我是其他应用程序的 R 粉丝，但这种方式对性能不利。文件 I/O 是一个主要问题。我已经测试了将 args 传递给可以使用 vroom 包加速的脚本。当我在同一台服务器上对其他一些脚本进行基准测试时，我会发布更多详细信息。【参考方案9】：$ perl -MList::Util=sum -le 'print sum <>' nums.txt
【讨论】：
【参考方案10】：我更喜欢将 GNU datamash 用于此类任务，因为它比 perl 或 awk 更简洁易读。例如
datamash sum 1 < myfile
其中 1 表示第一列数据。
【讨论】：
这似乎不是一个标准组件，因为我在我的 Ubuntu 安装中没有看到它。不过，希望看到它进行基准测试。【参考方案11】：Perl 6
say sum lines
~$ perl6 -e '.say for 0..1000000' > test.in
~$ perl6 -e 'say sum lines' < test.in
500000500000
【讨论】：
【参考方案12】：cat nums | perl -ne '$sum += $_ print $sum'
（与 brian d foy 的回答相同，没有 'END'）
【讨论】：
我喜欢这个，但你能解释一下大括号吗？看到没有 的 很奇怪，反之亦然。 @drumfire 请参阅上面的@brian d foy 和perl -MO=Deparse 的答案，以了解 perl 如何解析程序。或 perlrun 的文档：perldoc.perl.org/perlrun.html（搜索 -n）。如果你使用 -n，perl 会用 包装你的代码，这样它就会成为一个完整的程序。【参考方案13】：
更简洁：
# Ruby
ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)'
# Python
python -c 'print(sum(int(l) for l in open("random_numbers")))'
【讨论】：
在我的系统上转换为浮点数的速度似乎快了两倍（320 对 640 毫秒）。time python -c "print(sum([float(s) for s in open('random_numbers','r')]))"【参考方案14】：
我不能只是路过...这是我的 Haskell 单线。它实际上非常可读：
sum <$> (read <$>) <$> lines <$> getContents
很遗憾没有ghci -e可以直接运行，所以需要main函数，打印和编译。
main = (sum <$> (read <$>) <$> lines <$> getContents) >>= print
为了澄清，我们读取了整个输入 (getContents)，将其拆分为 lines、read 作为数字和 sum。 <$> 是 fmap 运算符 - 我们使用它而不是通常的函数应用程序，因为确保这一切都发生在 IO 中。 read 需要一个额外的fmap，因为它也在列表中。
$ ghc sum.hs
[1 of 1] Compiling Main ( sum.hs, sum.o )
Linking sum ...
$ ./sum
1
2
4
^D
7
这是一个奇怪的升级，使它可以与浮点数一起使用：
main = ((0.0 + ) <$> sum <$> (read <$>) <$> lines <$> getContents) >>= print
$ ./sum
1.3
2.1
4.2
^D
7.6000000000000005
【讨论】：
【参考方案15】：只是为了好玩，让我们用 Perl 的数组数学引擎 PDL 来做吧！
perl -MPDL -E 'say rcols(shift)->sum' datafile
rcols 将列读入矩阵（在本例中为一维），sum（惊喜）将矩阵的所有元素相加。
【讨论】：
如何修复Can't locate PDL.pm in @INC（你可能需要安装 PDL 模块）（@INC 包含：/etc/perl /usr/local/lib/x86_64-linux- gnu/perl/5.22.1 ?)) 当然是为了好玩=) 你必须先安装 PDL，它不是 Perl 原生模块。【参考方案16】：这是一个使用带有生成器表达式的 python 的解决方案。在我破旧的旧笔记本电脑上用一百万个数字进行了测试。
time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file
real 0m0.619s
user 0m0.512s
sys 0m0.028s
【讨论】：
带有命名函数的简单列表理解是map() 的一个很好的用例：map(float, sys.stdin)【参考方案17】：
C++“单线”：
#include <iostream>
#include <iterator>
#include <numeric>
using namespace std;
int main()
cout << accumulate(istream_iterator<int>(cin), istream_iterator<int>(), 0) << endl;
【讨论】：
【参考方案18】：sed ':a;N;s/\n/+/;ta' file|bc
【讨论】：
【参考方案19】：运行 R 脚本
我编写了一个 R 脚本来获取文件名的参数并对行求和。
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(as.numeric(readLines(file)))
这可以通过“data.table”或“vroom”包加速，如下所示：
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(data.table::fread(file))
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(vroom::vroom(file))
基准测试
与@glenn jackman 相同的基准测试数据。
for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers
与上面的 R 调用相比，将 R 3.5.0 作为脚本运行与其他方法相当（在同一 Linux Debian 服务器上）。
$ time R -e 'sum(scan("random_numbers"))'
0.37s user
0.04s system
86% cpu
0.478 total
带有 readLines 的 R 脚本
$ time Rscript sum.R random_numbers
0.53s user
0.04s system
84% cpu
0.679 total
带有 data.table 的 R 脚本
$ time Rscript sum.R random_numbers
0.30s user
0.05s system
77% cpu
0.453 total
带有 vroom 的 R 脚本
$ time Rscript sum.R random_numbers
0.54s user
0.11s system
93% cpu
0.696 total
与其他语言的比较
在此作为在同一硬件上建议的其他一些方法的参考
Python 2 (2.7.13)
$ time python2 -c "import sys; print sum((float(l) for l in sys.stdin))" < random_numbers
0.27s user 0.00s system 89% cpu 0.298 total
Python 3 (3.6.8)
$ time python3 -c "import sys; print(sum((float(l) for l in sys.stdin)))" < random_number
0.37s user 0.02s system 98% cpu 0.393 total
红宝石 (2.3.3)
$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) |line| sum+=line.to_i; puts sum' random_numbers
0.42s user
0.03s system
72% cpu
0.625 total
Perl (5.24.1)
$ time perl -nle '$sum += $_ END print $sum' random_numbers
0.24s user
0.01s system
99% cpu
0.249 total
Awk (4.1.4)
$ time awk ' sum += $0 END print sum ' random_numbers
0.26s user
0.01s system
99% cpu
0.265 total
$ time awk ' sum += $1 END print sum ' random_numbers
0.34s user
0.01s system
99% cpu
0.354 total
C（clang 版本 3.3；gcc (Debian 6.3.0-18) 6.3.0）
$ gcc sum.c -o sum && time ./sum < random_numbers
0.10s user
0.00s system
96% cpu
0.108 total
更新其他语言
Lua (5.3.5)
$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
0.30s user
0.01s system
98% cpu
0.312 total
tr (8.26) 必须在bash中定时，与zsh不兼容
$time tr "\n" + < random_numbers ; echo 0; | bc;
real 0m0.494s
user 0m0.488s
sys 0m0.044s
sed (4.4) 必须在bash中定时，与zsh不兼容
$ time head -n 10000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc;
real 0m0.631s
user 0m0.628s
sys 0m0.008s
$ time head -n 100000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc;
real 1m2.593s
user 1m2.588s
sys 0m0.012s
注意：sed 调用似乎在具有更多可用内存的系统上运行得更快（注意用于对 sed 进行基准测试的较小数据集）
朱莉娅 (0.5.0)
$ time julia -e 'print(sum(readdlm("random_numbers")))'
3.00s user
1.39s system
136% cpu
3.204 total
$ time julia -e 'print(sum(readtable("random_numbers")))'
0.63s user
0.96s system
248% cpu
0.638 total
请注意，与在 R 中一样，文件 I/O 方法具有不同的性能。
【讨论】：
【参考方案20】：另一个好玩的
sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum
或仅其他 bash
s=0;while read l; do s=$((s+$l));done<file;echo $s
但是 awk 解决方案可能是最好的，因为它最紧凑。
【讨论】：
【参考方案21】：C 总是以速度取胜：
#include <stdio.h>
#include <stdlib.h>
int main(int argc, char **argv)
ssize_t read;
char *line = NULL;
size_t len = 0;
double sum = 0.0;
while (read = getline(&line, &len, stdin) != -1)
sum += atof(line);
printf("%f", sum);
return 0;
1M 数字的计时（与我的 python 答案相同的机器/输入）：
$ gcc sum.c -o sum && time ./sum < numbers
5003371677.000000
real 0m0.188s
user 0m0.180s
sys 0m0.000s
【讨论】：
最佳答案！最佳速度）【参考方案22】：使用 Ruby：
ruby -e "File.read('file.txt').split.inject(0)|mem, obj| mem += obj.to_f"
【讨论】：
另一个选项（当输入来自 STDIN 时）是ruby -e'p readlines.map(&:to_f).reduce(:+)'。【参考方案23】：
在围棋中：
package main
import (
"bufio"
"fmt"
"os"
"strconv"
)
func main()
scanner := bufio.NewScanner(os.Stdin)
sum := int64(0)
for scanner.Scan()
v, err := strconv.ParseInt(scanner.Text(), 10, 64)
if err != nil
fmt.Fprintf(os.Stderr, "Not an integer: '%s'\n", scanner.Text())
os.Exit(1)
sum += v
fmt.Println(sum)
【讨论】：
什么是“64”？ “10”我想是基数？ 是的，10 是底数。 64 是位数，如果结果 int 不能用那么多位表示，则返回错误。见golang.org/pkg/strconv/#ParseInt【参考方案24】：Bash 变体
raw=$(cat file)
echo $(( $raw//$'\n'/+ ))
$ wc -l file
10000 file
$ time ./test
323390
real 0m3,096s
user 0m3,095s
sys 0m0,000s
这里发生了什么？将文件内容读入 $raw var。然后通过将所有新行更改为 '+' 来从此 var 创建数学语句
【讨论】：
【参考方案25】：考虑到你需要通读整个文件，我不知道你是否能得到比这更好的结果。
$sum = 0;
while(<>)
$sum += $_;
print $sum;
【讨论】：
非常易读。对于 perl。但是，是的，它必须是这样的......$_ 是默认变量。当您在while 中使用<> 时，行输入运算符<> 默认将其结果放在那里。
@Mark, $_ 是主题变量——它的工作方式类似于“它”。在这种情况下，<> 将每一行分配给它。它被用于许多地方以减少代码混乱并帮助编写单行代码。脚本说“将总和设置为 0，读取每一行并将其添加到总和中，然后打印总和。”
@Stefan，关闭警告和限制，您可以跳过声明和初始化$sum。由于这很简单，您甚至可以使用语句修饰符while：$sum += $_ while <>; print $sum;
对于我们这些不容易的人，你能指出这是哪种语言吗？ php? Perl?【参考方案26】：
我没有对此进行测试，但它应该可以工作：
cat f | tr "\n" "+" | sed 's/+$/\n/' | bc
如果 bc 不处理 EOF 和 EOL，您可能必须在 bc 之前将“\n”添加到字符串中（例如通过 echo）...
【讨论】：
它不起作用。bc 由于尾随“+”和末尾缺少换行符而发出语法错误。这将起作用，它消除了cat 的无用使用： tr "\n" "+" | sed 's/+$/\n/'| bc; < numbers2.txt 或 <numbers2.txt tr "\n" "+" | sed 's/+$/\n/'| bc
tr "\n" "+" <file | sed 's/+$/\n/' | bc【参考方案27】：
这是另一个：
open(FIL, "a.txt");
my $sum = 0;
foreach( <FIL> ) chomp; $sum += $_;
close(FIL);
print "Sum = $sum\n";
【讨论】：
【参考方案28】：您可以使用 Alacon - Alasql 数据库的命令行实用程序来完成。
它适用于 Node.js，所以你需要安装 Node.js 然后 Alasql 包：
要从 TXT 文件计算总和，您可以使用以下命令：
> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"
【讨论】：
【参考方案29】：用+替换所有新行，添加0并发送给Ruby解释器是不是更容易？
(sed -e "s/$/+/" file; echo 0)|irb
如果您没有irb，您可以将其发送到bc，但您必须删除除最后一个（echo）之外的所有换行符。最好使用tr，除非您在sed 拥有博士学位。
(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc
【讨论】：
【参考方案30】：在使用 awk 的 shell 中，我使用了以下脚本：
#!/bin/bash
total=0;
for i in $( awk ' print $1; ' <myfile> )
do
total=$(echo $total+$i | bc )
((count++))
done
echo "scale=2; $total " | bc
【讨论】：
以上是关于如何快速汇总文件中的所有数字？的主要内容，如果未能解决你的问题，请参考以下文章
如何对一个字典中的所有键进行汇总（求和），如果一些键已经重复了不止一次。