Виберіть унікальні або чіткі значення зі списку в скрипті оболонки UNIX

У мене є скрипт ksh, який повертає довгий список значень, розділений новий рядок, і я хочу бачити лише унікальні / чіткі значення. Можна це зробити?

Наприклад, скажіть, що моїм результатом є суфікси файлів у каталозі:

tar
gz
java
gz
java
tar
class
class

Я хочу переглянути такий список:

tar
gz
java
class

Можливо, ви захочете переглянути uniqі sortпрограми.

./yourscript.ksh | сортувати | uniq

(FYI, так, сортування необхідне в цьому командному рядку, uniqлише знімає дублікати рядків, які знаходяться відразу один за одним)

Редагувати:

Всупереч тому, що було розміщено Аароном Дігуллою стосовно uniqпараметрів командного рядка:

З огляду на наступний вхід:

клас
баночка
баночка
баночка
бункер
бункер
java

uniq виведе всі рядки рівно один раз:

клас
баночка
бункер
java

uniq -d виведе всі рядки, які з’являються не один раз, і він надрукує їх один раз:

баночка
бункер

uniq -u виведе всі рядки, що з’являються рівно один раз, і він надрукує їх один раз:

клас
java

./script.sh | sort -u

Це те саме , що відповідь на окис , але трохи більш стисло.

Для великих наборів даних, де сортування може бути небажаним, ви також можете скористатись таким сценарієм perl:

./yourscript.ksh | perl -ne 'if (!defined $x{$_}) { print $_; $x{$_} = 1; }'

Це в основному просто запам'ятовує кожен вихідний рядок, щоб він не виводив його знову.

Він має перевагу перед рішенням, оскільки " sort | uniq" переднє сортування не потрібно.

З zsh ви можете це зробити:

% cat infile 
tar
more than one word
gz
java
gz
java
tar
class
class
zsh-5.0.0[t]% print -l "${(fu)$(<infile)}"
tar
more than one word
gz
java
class

Або ви можете використовувати AWK:

% awk '!_[$0]++' infile    
tar
more than one word
gz
java
class

Труби їх через sortі uniq. Це видаляє всі дублікати.

uniq -dдає лише дублікати, uniq -uдає лише унікальні (смужки дублікатів).

З AWK ви можете це зробити, я вважаю це швидше, ніж сортування

 ./yourscript.ksh | awk '!a[$0]++'

Унікальний, за запитом, (але не відсортований);
використовує менше системних ресурсів для менше ~ 70 елементів (як перевірено часом);
написано, щоб взяти вхід з stdin,
(або змінити і включити в інший сценарій):
(Bash)

bag2set () {
    # Reduce a_bag to a_set.
    local -i i j n=${#a_bag[@]}
    for ((i=0; i < n; i++)); do
        if [[ -n ${a_bag[i]} ]]; then
            a_set[i]=${a_bag[i]}
            a_bag[i]=$'\0'
            for ((j=i+1; j < n; j++)); do
                [[ ${a_set[i]} == ${a_bag[j]} ]] && a_bag[j]=$'\0'
            done
        fi
    done
}
declare -a a_bag=() a_set=()
stdin="$(</dev/stdin)"
declare -i i=0
for e in $stdin; do
    a_bag[i]=$e
    i=$i+1
done
bag2set
echo "${a_set[@]}"

Я отримую кращі поради щодо отримання не повторюваних записів у файлі

awk '$0 != x ":FOO" && NR>1 {print x} {x=$0} END {print}' file_name | uniq -f1 -u