Таблиця частот для однієї змінної


97

Останнє запитання панди для початківців на день: Як створити таблицю для однієї серії?

Наприклад:

my_series = pandas.Series([1,2,2,3,3,3])
pandas.magical_frequency_function( my_series )

>> {
     1 : 1,
     2 : 2, 
     3 : 3
   }

Багато гуглів привело мене до Series.describe () та pandas.crosstabs, але жоден з них не робить зовсім того, що мені потрібно: одна змінна, підраховується за категоріями. О, і було б непогано, якби це працювало для різних типів даних: рядків, ints тощо.

Відповіді:


153

Може бути .value_counts()?

>>> import pandas
>>> my_series = pandas.Series([1,2,2,3,3,3, "fred", 1.8, 1.8])
>>> my_series
0       1
1       2
2       2
3       3
4       3
5       3
6    fred
7     1.8
8     1.8
>>> counts = my_series.value_counts()
>>> counts
3       3
2       2
1.8     2
fred    1
1       1
>>> len(counts)
5
>>> sum(counts)
9
>>> counts["fred"]
1
>>> dict(counts)
{1.8: 2, 2: 2, 3: 3, 1: 1, 'fred': 1}

5
.value_counts().sort_index(1), щоб запобігти можливому виходу з ладу першої колонки
smci

9
Чи існує еквівалент для DataFrame, а не для серії? Я спробував запустити .value_counts () на df і отримавAttributeError: 'DataFrame' object has no attribute 'value_counts'
Mittenchops

1
Чи є простий спосіб перетворити ці значення на пропорції?
dsaxton

7
@dsaxton, ви можете використовувати .value_counts (normalize = True) для перетворення результатів у пропорції
Максимальна потужність

2
Для того, щоб використовувати це на dataframe замість перетворення в нього еквівалентно 1-D поданні NumPy масиву, як - pd.value_counts(df.values.ravel())яка повертає ряд, indexі valuesатрибути містять унікальні елементи і їх підрахунок відповідно.
Нікіл Мавелі

11

Ви можете використовувати розуміння списку на фреймі даних, щоб підрахувати частоти стовпців як таких

[my_series[c].value_counts() for c in list(my_series.select_dtypes(include=['O']).columns)]

Зламатися:

my_series.select_dtypes(include=['O']) 

Вибирає лише категоричні дані

list(my_series.select_dtypes(include=['O']).columns) 

Перетворює стовпці зверху у список

[my_series[c].value_counts() for c in list(my_series.select_dtypes(include=['O']).columns)] 

Взаємодіє зі списком вище та застосовує value_counts () до кожного зі стовпців


5

Відповідь, надана @DSM, проста і зрозуміла, але я думав, що додам власне введення до цього питання. Якщо ви подивитесь на код для pandas.value_counts , то побачите, що там багато чого відбувається.

Якщо вам потрібно розрахувати частоту багатьох серій, це може зайняти деякий час. Швидшою реалізацією було б використання numpy.unique зreturn_counts = True

Ось приклад:

import pandas as pd
import numpy as np

my_series = pd.Series([1,2,2,3,3,3])

print(my_series.value_counts())
3    3
2    2
1    1
dtype: int64

Тут зауважте, що повернутий елемент - це pandas.Series

Для порівняння numpy.uniqueповертає кортеж із двома елементами, унікальними значеннями та підрахунками.

vals, counts = np.unique(my_series, return_counts=True)
print(vals, counts)
[1 2 3] [1 2 3]

Потім їх можна об’єднати у словник:

results = dict(zip(vals, counts))
print(results)
{1: 1, 2: 2, 3: 3}

А потім у pandas.Series

print(pd.Series(results))
1    1
2    2
3    3
dtype: int64

0

для розподілу частоти змінної із надмірними значеннями ви можете згорнути значення у класах,

Тут я надмірні значення для employrateзмінної, і немає ніякого значення для цього розподілу частоти з прямимvalues_count(normalize=True)

                country  employrate alcconsumption
0           Afghanistan   55.700001            .03
1               Albania   11.000000           7.29
2               Algeria   11.000000            .69
3               Andorra         nan          10.17
4                Angola   75.699997           5.57
..                  ...         ...            ...
208             Vietnam   71.000000           3.91
209  West Bank and Gaza   32.000000               
210         Yemen, Rep.   39.000000             .2
211              Zambia   61.000000           3.56
212            Zimbabwe   66.800003           4.96

[213 rows x 3 columns]

розподіл частоти values_count(normalize=True)без класифікації, довжина результату тут 139 (здається безглуздим як розподіл частоти):

print(gm["employrate"].value_counts(sort=False,normalize=True))

50.500000   0.005618
61.500000   0.016854
46.000000   0.011236
64.500000   0.005618
63.500000   0.005618

58.599998   0.005618
63.799999   0.011236
63.200001   0.005618
65.599998   0.005618
68.300003   0.005618
Name: employrate, Length: 139, dtype: float64

ставлячи класифікацію ми ставимо всі значення з певним діапазоном, тобто.

0-10 як 1,
11-20 як 2  
21-30 як 3 тощо.
gm["employrate"]=gm["employrate"].str.strip().dropna()  
gm["employrate"]=pd.to_numeric(gm["employrate"])
gm['employrate'] = np.where(
   (gm['employrate'] <=10) & (gm['employrate'] > 0) , 1, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=20) & (gm['employrate'] > 10) , 1, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=30) & (gm['employrate'] > 20) , 2, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=40) & (gm['employrate'] > 30) , 3, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=50) & (gm['employrate'] > 40) , 4, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=60) & (gm['employrate'] > 50) , 5, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=70) & (gm['employrate'] > 60) , 6, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=80) & (gm['employrate'] > 70) , 7, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=90) & (gm['employrate'] > 80) , 8, gm['employrate']
   )
gm['employrate'] = np.where(
   (gm['employrate'] <=100) & (gm['employrate'] > 90) , 9, gm['employrate']
   )
print(gm["employrate"].value_counts(sort=False,normalize=True))

після класифікації ми маємо чіткий розподіл частоти. тут ми легко бачимо, що 37.64%в країнах рівень зайнятості між країнами, 51-60% а 11.79%в країнах - між71-80%

5.000000   0.376404
7.000000   0.117978
4.000000   0.179775
6.000000   0.264045
8.000000   0.033708
3.000000   0.028090
Name: employrate, dtype: float64
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.