Як я можу швидко підсумовувати всі числа у файлі?


195

У мене є файл, який містить кілька тисяч номерів, кожен у своєму рядку:

34
42
11
6
2
99
...

Я хочу написати сценарій, який буде надрукувати суму всіх чисел у файлі. У мене є рішення, але це не дуже ефективно. (На це потрібно кілька хвилин.) Я шукаю більш ефективне рішення. Будь-які пропозиції?


5
Яке було ваше повільне рішення? Можливо, ми можемо допомогти вам розібратися, що повільно в цьому було. :)
Брайан d foy

4
@brian d foy, я занадто соромлюся, щоб опублікувати це. Я знаю, чому це повільно. Це тому, що я називаю "cat filename | head -n 1", щоб отримати верхній номер, додати його до поточного загального номера і зателефонувати "cat filename | хвіст ...", щоб видалити верхній рядок для наступної ітерації ... I є багато чого дізнатися про програмування !!!
Марк Робертс

6
Це ... дуже систематично. Дуже ясно і прямо вперед, і я люблю це за все, що це жахлива гидота. Я будую, я припускаю, з інструментів, які ви знали, коли почали, правда?
dmckee --- колишнє кошеня-модератор

4
повний дублікат: stackoverflow.com/questions/450799 / ...
codeholic

@MarkRoberts Це, мабуть, знадобило вам довгий час. Це дуже чітка техніка вирішення проблем, і о, це неправильно. Це схоже на класичний випадок надмірного мислення. Кілька рішень сценарію сценаріїв оболонки Глена Джекмана (і два - це чисті оболонки, які не використовують такі речі, як awkі bc). Усі вони закінчили додавати мільйон чисел менше, ніж за 10 секунд. Погляньте на них і подивіться, як це можна зробити в чистій оболонці.
David W.

Відповіді:


113

Для однолінійного Perl - це те саме, що awkрішення у відповіді Аймана Хюрі :

 % perl -nle '$sum += $_ } END { print $sum'

Якщо вам цікаво, що роблять одноколісні лайнери Perl, ви можете відступити від них:

 %  perl -MO=Deparse -nle '$sum += $_ } END { print $sum'

У результаті виходить більш докладна версія програми у формі, яку ніхто ніколи не писатиме самостійно:

BEGIN { $/ = "\n"; $\ = "\n"; }
LINE: while (defined($_ = <ARGV>)) {
    chomp $_;
    $sum += $_;
}
sub END {
    print $sum;
}
-e syntax OK

Тільки для хихикань я спробував це з файлом, що містить 1 000 000 номерів (в діапазоні 0 - 9 999). На моєму Mac Pro він повертається практично миттєво. Це дуже погано, тому що я сподівався, що використання mmapбуде дійсно швидким, але це точно той самий час:

use 5.010;
use File::Map qw(map_file);

map_file my $map, $ARGV[0];

$sum += $1 while $map =~ m/(\d+)/g;

say $sum;

4
Нічого собі, це показує глибоке розуміння того, що код -nle насправді обмотується навколо рядка, який ви йому надаєте. Моя первісна думка полягала в тому, що ви не повинні писати публікації в нетверезому стані, але тоді я помітив, хто ви були, і згадав деякі ваші інші відповіді Perl :-)
paxdiablo

-n і -p просто додайте символи навколо аргументу до -e, щоб ви могли використовувати ці символи для чого завгодно. У нас є багато однокласників, які роблять цікаві речі з цим в Ефективному програмуванні Perl (який збирається потрапити на полиці).
Брайан d foy

5
Приємно, про що ці невідповідні фігурні брекети?
Френк

17
-n додає while { }цикл навколо вашої програми. Якщо ви покладете } ... {всередину, значить, у вас є while { } ... { }. Зло? Трохи.
jrockway

5
Великий бонус за виділення -MO=Deparseопції! Хоча на окрему тему.
conny

375

Ви можете використовувати awk:

awk '{ sum += $1 } END { print sum }' file

4
Програма перевищена: максимальна кількість розмірів полів: 32767
leef

1
З -F '\t'можливістю, якщо ваші поля містять пробіли та розділені вкладками.
Етан Фурман

5
Будь ласка, позначте це як найкращу відповідь. Він також працює, якщо ви хочете підсумувати перше значення у кожному рядку, всередині файлу TSV (значення, розділене вкладками).
Андреа

99

Жодне з розчинів поки що не використовується paste. Ось один:

paste -sd+ filename | bc

Як приклад, обчисліть Σn, де 1 <= n <= 100000:

$ seq 100000 | paste -sd+ | bc -l
5000050000

(Для допитливих, seq nнадрукує послідовність чисел від 1до nдано позитивне число n.)


1
Дуже хороша! І легко запам’ятати
Брендан Магуайр

1
seq 100000 | paste -sd+ - | bc -lна оболонці Mac OS X Bash. І це, безумовно, найсолодше і унікальне рішення!
Сімо А.

1
@SimoA. Я голосую за те, що ми використовуємо термін unixiest замість unixest, оскільки найсексуальніше рішення завжди є unixiest;)
Connor

86

Для задоволення давайте порівняємо це:

$ for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
16379866392

real    0m0.226s
user    0m0.219s
sys     0m0.002s

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16379866392

real    0m0.311s
user    0m0.304s
sys     0m0.005s

$ time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
16379866392

real    0m0.445s
user    0m0.438s
sys     0m0.024s

$ time { s=0;while read l; do s=$((s+$l));done<random_numbers;echo $s; }
16379866392

real    0m9.309s
user    0m8.404s
sys     0m0.887s

$ time { s=0;while read l; do ((s+=l));done<random_numbers;echo $s; }
16379866392

real    0m7.191s
user    0m6.402s
sys     0m0.776s

$ time { sed ':a;N;s/\n/+/;ta' random_numbers|bc; }
^C

real    4m53.413s
user    4m52.584s
sys 0m0.052s

Я перервав пробіг седу через 5 хвилин


Я пірнав до , і це швидко:

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers
16388542582.0

real    0m0.362s
user    0m0.313s
sys     0m0.063s

і поки я оновлюю це, рубін:

$ time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
16388542582

real    0m0.378s
user    0m0.297s
sys     0m0.078s

Порада Еда Мортона: використання $1

$ time awk '{ sum += $1 } END { print sum }' random_numbers
16388542582

real    0m0.421s
user    0m0.359s
sys     0m0.063s

проти використання $0

$ time awk '{ sum += $0 } END { print sum }' random_numbers
16388542582

real    0m0.302s
user    0m0.234s
sys     0m0.063s

18
+1: Для того, щоб придумати купу рішень та порівняти їх.
David W.

time cat random_numbers | paste -sd + | bc -l real 0m0.317s user 0m0.310s sys 0m0.013s
rafi wiener

це повинно бути приблизно ідентичним trрішення.
glenn jackman

4
Ваш скрипт awk повинен виконуватись трохи швидше, якщо ви використовуєте $0замість того, що $1awk робить розбиття поля (що, очевидно, потребує часу), якщо якесь поле конкретно згадується в сценарії, але не інакше.
Ед Мортон

20

Іншим варіантом є використання jq:

$ seq 10|jq -s add
55

-s( --slurp) читає вхідні рядки в масив.


1
Це дивовижний інструмент для таких швидких завдань, що майже забули про це. дякую
Іван


7

Ось ще одна однолінійка

( echo 0 ; sed 's/$/ +/' foo ; echo p ) | dc

Це передбачає, що числа є цілими числами. Якщо вам потрібні десятки, спробуйте

( echo 0 2k ; sed 's/$/ +/' foo ; echo p ) | dc

Відрегулюйте 2 до кількості знаків після коми.


6

Я вважаю за краще використовувати матрицю даних GNU для таких завдань, оскільки це більш лаконічно і розбірливо, ніж perl або awk. Наприклад

datamash sum 1 < myfile

де 1 позначає перший стовпець даних.


1
Здається, це не є стандартним компонентом, оскільки я не бачу його в моїй установці Ubuntu. Хочеться, щоб це було орієнтоване.
Стівен Легко забавлявся


5

Я вважаю за краще використовувати R для цього:

$ R -e 'sum(scan("filename"))'

Я прихильник R для інших додатків, але це не добре для продуктивності таким чином. Файловий введення / вивід є головною проблемою. Я перевірив передачу аргументів на сценарій, який можна прискорити, використовуючи пакет vroom. Я опублікую більше подробиць, коли я порівняю деякі інші сценарії на тому ж сервері.
Том Келлі

4
cat nums | perl -ne '$sum += $_ } { print $sum'

(те саме, що відповідь Брайана d foy, без "END")


Мені це подобається, але ви могли б пояснити фігурні дужки? Дивно бачити} без {і навпаки.
барабанне вогнище

1
@drumfire див. вище відповідь @brian d foy, perl -MO=Deparseщоб побачити, як Perl розбирає програму. або документи для perlrun: perldoc.perl.org/perlrun.html (пошук -n). perl обертає ваш код {}, якщо ви використовуєте -n, ​​щоб він став повноцінною програмою.
їстівнаЕнергія

4

Більш лаконічні:

# Ruby
ruby -e 'puts open("random_numbers").map(&:to_i).reduce(:+)'

# Python
python -c 'print(sum(int(l) for l in open("random_numbers")))'

Перетворення в плаваючу мережу, здається, у моїй системі приблизно вдвічі швидше (320 проти 640 мс). time python -c "print(sum([float(s) for s in open('random_numbers','r')]))"
користувач12719


3

Просто для розваги, давайте робити це за допомогою PDL , математичного двигуна Perl!

perl -MPDL -E 'say rcols(shift)->sum' datafile

rcolsчитає стовпці в матрицю (1D в цьому випадку) і sum(сюрприз) підсумовує всі елементи матриці.


Як виправити Не вдається знайти PDL.pm в @INC (можливо, вам доведеться встановити модуль PDL) (@INC містить: / etc / perl /usr/local/lib/x86_64-linux-gnu/perl/5.22.1? )) для розваги звичайно =)
Фортран

1
Спочатку потрібно встановити PDL, це не первинний модуль Perl.
Джоель Бергер

3

Ось рішення з використанням пітона з виразом генератора. Тестували з мільйонним номером на моєму старому крутому ноутбуці.

time python -c "import sys; print sum((float(l) for l in sys.stdin))" < file

real    0m0.619s
user    0m0.512s
sys     0m0.028s

3
Просте розуміння списку з названою функцією є приємним випадком використання для map():map(float, sys.stdin)
sevko

3

Я не міг просто проїхати ... Ось мій однокласник Haskell. Це насправді досить читабельно:

sum <$> (read <$>) <$> lines <$> getContents

На жаль, не ghci -eпотрібно просто запускати його, тому для нього потрібна основна функція, друк та компіляція.

main = (sum <$> (read <$>) <$> lines <$> getContents) >>= print

Для уточнення ми читаємо весь вхід ( getContents), ділимо його на lines, readяк числа і sum. <$>є fmapоператором - ми використовуємо його замість звичайного функціонального додатка, оскільки впевнений, що все це відбувається в IO. readпотребує додаткового fmap, оскільки воно також є в списку.

$ ghc sum.hs
[1 of 1] Compiling Main             ( sum.hs, sum.o )
Linking sum ...
$ ./sum 
1
2
4
^D
7

Ось дивне оновлення, щоб воно працювало з поплавками:

main = ((0.0 + ) <$> sum <$> (read <$>) <$> lines <$> getContents) >>= print
$ ./sum 
1.3
2.1
4.2
^D
7.6000000000000005


2

Запуск сценаріїв R

Я написав сценарій R, щоб взяти аргументи імені файлу та підсумувати рядки.

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(as.numeric(readLines(file)))

Це можна пришвидшити за допомогою пакету "data.table" або "vroom" таким чином:

#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(data.table::fread(file))
#! /usr/local/bin/R
file=commandArgs(trailingOnly=TRUE)[1]
sum(vroom::vroom(file))

Бенчмаркінг

Такі ж дані порівняльного аналізу, як @glenn jackman .

for ((i=0; i<1000000; i++)) ; do echo $RANDOM; done > random_numbers

У порівнянні з R-викликом вище, запуск R 3.5.0 як скрипту порівнянний з іншими методами (на тому ж сервері Linux Debian).

$ time R -e 'sum(scan("random_numbers"))'  
 0.37s user
 0.04s system
 86% cpu
 0.478 total

R скрипт з readLines

$ time Rscript sum.R random_numbers
  0.53s user
  0.04s system
  84% cpu
  0.679 total

R скрипт з таблицею даних

$ time Rscript sum.R random_numbers     
 0.30s user
 0.05s system
 77% cpu
 0.453 total

R сценарій з vroom

$ time Rscript sum.R random_numbers     
  0.54s user 
  0.11s system
  93% cpu
  0.696 total

Порівняння з іншими мовами

Для довідки тут як деякі інші методи, запропоновані на тому ж апаратному забезпеченні

Python 2 (2.7.13)

$ time python2 -c "import sys; print sum((float(l) for l in sys.stdin))" < random_numbers 
 0.27s user 0.00s system 89% cpu 0.298 total

Пітон 3 (3.6.8)

$ time python3 -c "import sys; print(sum((float(l) for l in sys.stdin)))" < random_number
0.37s user 0.02s system 98% cpu 0.393 total

Рубін (2.3.3)

$  time ruby -e 'sum = 0; File.foreach(ARGV.shift) {|line| sum+=line.to_i}; puts sum' random_numbers
 0.42s user
 0.03s system
 72% cpu
 0.625 total

Perl (5.24.1)

$ time perl -nle '$sum += $_ } END { print $sum' random_numbers
 0.24s user
 0.01s system
 99% cpu
 0.249 total

Awk (4.1.4)

$ time awk '{ sum += $0 } END { print sum }' random_numbers
 0.26s user
 0.01s system
 99% cpu
 0.265 total
$ time awk '{ sum += $1 } END { print sum }' random_numbers
 0.34s user
 0.01s system
 99% cpu
 0.354 total

C (clang версія 3.3; gcc (Debian 6.3.0-18) 6.3.0)

 $ gcc sum.c -o sum && time ./sum < random_numbers   
 0.10s user
 0.00s system
 96% cpu
 0.108 total

Оновлення додатковими мовами

Луа (5.3.5)

$ time lua -e 'sum=0; for line in io.lines() do sum=sum+line end; print(sum)' < random_numbers 
 0.30s user 
 0.01s system
 98% cpu
 0.312 total

tr (8.26) повинен бути приурочений до bash, не сумісний із zsh

$time { { tr "\n" + < random_numbers ; echo 0; } | bc; }
real    0m0.494s
user    0m0.488s
sys 0m0.044s

sed (4.4) повинен бути приурочений до bash, не сумісний з zsh

$  time { head -n 10000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real    0m0.631s
user    0m0.628s
sys     0m0.008s
$  time { head -n 100000 random_numbers | sed ':a;N;s/\n/+/;ta' |bc; }
real    1m2.593s
user    1m2.588s
sys     0m0.012s

Примітка: дзвінки sed виглядають швидше в системах з більшою кількістю пам’яті (відзначте менші набори даних, які використовуються для тестування sed)

Джулія (0.5.0)

$ time julia -e 'print(sum(readdlm("random_numbers")))'
 3.00s user 
 1.39s system 
 136% cpu 
 3.204 total
$  time julia -e 'print(sum(readtable("random_numbers")))'
 0.63s user 
 0.96s system 
 248% cpu 
 0.638 total

Зауважте, що, як і у R, методи вводу / виводу файлів мають різну продуктивність.


2

C ++ "однолінійний":

#include <iostream>
#include <iterator>
#include <numeric>
using namespace std;

int main() {
    cout << accumulate(istream_iterator<int>(cin), istream_iterator<int>(), 0) << endl;
}

1

Ще для розваги

sum=0;for i in $(cat file);do sum=$((sum+$i));done;echo $sum

або лише інший баш

s=0;while read l; do s=$((s+$l));done<file;echo $s

Але рішення awk, мабуть, найкраще, оскільки воно є найбільш компактним.


1

C завжди виграє за швидкість:

#include <stdio.h>
#include <stdlib.h>

int main(int argc, char **argv) {
    ssize_t read;
    char *line = NULL;
    size_t len = 0;
    double sum = 0.0;

    while (read = getline(&line, &len, stdin) != -1) {
        sum += atof(line);
    }

    printf("%f", sum);
    return 0;
}

Час для 1М чисел (та сама машина / вхід, як і моя відповідь python):

$ gcc sum.c -o sum && time ./sum < numbers 
5003371677.000000
real    0m0.188s
user    0m0.180s
sys     0m0.000s

1
Найкраща відповідь! Найкраща швидкість)
Фортран

1

З Рубі:

ruby -e "File.read('file.txt').split.inject(0){|mem, obj| mem += obj.to_f}"

Ще один варіант (коли введення здійснюється зі STDIN) ruby -e'p readlines.map(&:to_f).reduce(:+)'.
нісетама

0

Я не знаю, чи зможете ви набагато краще, ніж це, враховуючи, що вам потрібно прочитати весь файл.

$sum = 0;
while(<>){
   $sum += $_;
}
print $sum;

1
Дуже читабельний. За перл. Але так, це повинно бути щось подібне ...
dmckee --- кошеня колишнього модератора

$_є змінною за замовчуванням. Оператор лінійного введення <>, ставить його результат за замовчуванням під час використання <>в while.
Брайан d foy

1
@Mark, $_це змінна тема - вона працює як "вона". У цьому випадку <> присвоює йому кожен рядок. Він звикає в ряді місць, щоб зменшити захаращення коду і допомогти в написанні однокласників. Сценарій говорить: "Встановіть суму на 0, прочитайте кожен рядок і додайте його до суми, а потім надрукуйте суму".
даотоад

1
@Stefan, вимкнувши попередження та стриктури, ви можете пропустити декларування та ініціалізацію $sum. Оскільки це так просто, ви навіть можете використовувати модифікатор висловлювань while:$sum += $_ while <>; print $sum;
daotoad

0

Я цього не перевіряв, але це має працювати:

cat f | tr "\n" "+" | sed 's/+$/\n/' | bc

Можливо, вам доведеться додати "\ n" до рядка перед bc (наприклад, через ехо), якщо bc не обробляє EOF та EOL ...


2
Це не працює. bcвидає синтаксичну помилку через відмітку "+" та відсутність нового рядка в кінці. Це спрацює, і це позбавить від марного використання cat: { tr "\n" "+" | sed 's/+$/\n/'| bc; } < numbers2.txt або <numbers2.txt tr "\n" "+" | sed 's/+$/\n/'| bc
Призупинено до подальшого повідомлення.

tr "\n" "+" <file | sed 's/+$/\n/' | bc
ghostdog74

0

Ось ще:

open(FIL, "a.txt");

my $sum = 0;
foreach( <FIL> ) {chomp; $sum += $_;}

close(FIL);

print "Sum = $sum\n";

0

Це можна зробити за допомогою Alacon - утиліти командного рядка для бази даних Alasql .

Він працює з Node.js, тому вам потрібно встановити Node.js, а потім пакет Alasql :

Для обчислення суми з файлу TXT можна скористатись такою командою:

> node alacon "SELECT VALUE SUM([0]) FROM TXT('mydata.txt')"

0

Чи не простіше замінити всі нові рядки на +, додати а 0та надіслати його Rubyперекладачеві?

(sed -e "s/$/+/" file; echo 0)|irb

Якщо у вас немає irb, ви можете надіслати його bc, але вам доведеться видалити всі нові рядки, крім останнього (з echo). Краще використовувати trдля цього, якщо у вас немає доктора наук sed.

(sed -e "s/$/+/" file|tr -d "\n"; echo 0)|bc

0

У роботі:

package main

import (
    "bufio"
    "fmt"
    "os"
    "strconv"
)

func main() {
    scanner := bufio.NewScanner(os.Stdin)
    sum := int64(0)
    for scanner.Scan() {
        v, err := strconv.ParseInt(scanner.Text(), 10, 64)
        if err != nil {
            fmt.Fprintf(os.Stderr, "Not an integer: '%s'\n", scanner.Text())
            os.Exit(1)
        }
        sum += v
    }
    fmt.Println(sum)
}

Що таке "64"? Я вважаю, що це база?
Петро К

Так, 10 - основа. 64 - кількість бітів, якщо отриманий int не може бути представлений з такою кількістю бітів, то повертається помилка. Дивіться golang.org/pkg/strconv/#ParseInt
dwurf

0

Вашій увазі варіант

raw=$(cat file)
echo $(( ${raw//$'\n'/+} ))

$ wc -l file
10000 file

$ time ./test
323390

real    0m3,096s
user    0m3,095s
sys     0m0,000s

0

У оболонці за допомогою awk я використав сценарій нижче для цього:

    #!/bin/bash


total=0;

for i in $( awk '{ print $1; }' <myfile> )
do
 total=$(echo $total+$i | bc )
 ((count++))
done
echo "scale=2; $total " | bc
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.