Перетворення результатів групи Pandas GroupBy із Series у DataFrame


495

Я починаю з таких вхідних даних

df1 = pandas.DataFrame( { 
    "Name" : ["Alice", "Bob", "Mallory", "Mallory", "Bob" , "Mallory"] , 
    "City" : ["Seattle", "Seattle", "Portland", "Seattle", "Seattle", "Portland"] } )

Що при друкуванні відображається так:

   City     Name
0   Seattle    Alice
1   Seattle      Bob
2  Portland  Mallory
3   Seattle  Mallory
4   Seattle      Bob
5  Portland  Mallory

Групування досить просте:

g1 = df1.groupby( [ "Name", "City"] ).count()

і друк дає GroupByпредмет:

                  City  Name
Name    City
Alice   Seattle      1     1
Bob     Seattle      2     2
Mallory Portland     2     2
        Seattle      1     1

Але я хочу, врешті-решт, ще один об'єкт DataFrame, який містить усі рядки в об'єкті GroupBy. Іншими словами, я хочу отримати такий результат:

                  City  Name
Name    City
Alice   Seattle      1     1
Bob     Seattle      2     2
Mallory Portland     2     2
Mallory Seattle      1     1

Я не можу зовсім зрозуміти, як це досягти в документації на панди. Будь-які підказки будуть вітатися.


1
Убік питання: яку версію панд ви використовуєте? Якщо виконувати перші 2 команди, я отримаю g1 якEmpty DataFrame Columns: [] Index: [(Alice, Seattle), (Bob, Seattle), (Mallory, Portland), (Mallory, Seattle)]
Тимофей

1
Заголовок питання вводить в оману щодо прийнятої відповіді
matanster

@matanster чи можу я запитати, що ти сюди прийшов, шукаючи відповідь? Ми можемо подумати над тим, щоб написати більш точну відповідь та спрямувати увагу користувачів із коментарем під питанням.
cs95

@coldspeed Це лише типова проблема із ТА, заголовки питань дозволяють суттєво відрізнятися від змісту питання та відповідей. Якби мета була не такою ворожою, це, мабуть, було б корисним аспектом для її підняття.
matanster

@matanster Я згоден, однак мені було цікаво лише дізнатися, що це ти насправді шукав відповідь, так що це призвело тебе сюди.
cs95

Відповіді:


530

g1тут є DataFrame. Він має ієрархічний індекс, хоча:

In [19]: type(g1)
Out[19]: pandas.core.frame.DataFrame

In [20]: g1.index
Out[20]: 
MultiIndex([('Alice', 'Seattle'), ('Bob', 'Seattle'), ('Mallory', 'Portland'),
       ('Mallory', 'Seattle')], dtype=object)

Можливо, ви хочете чогось подібного?

In [21]: g1.add_suffix('_Count').reset_index()
Out[21]: 
      Name      City  City_Count  Name_Count
0    Alice   Seattle           1           1
1      Bob   Seattle           2           2
2  Mallory  Portland           2           2
3  Mallory   Seattle           1           1

Або щось на кшталт:

In [36]: DataFrame({'count' : df1.groupby( [ "Name", "City"] ).size()}).reset_index()
Out[36]: 
      Name      City  count
0    Alice   Seattle      1
1      Bob   Seattle      2
2  Mallory  Portland      2
3  Mallory   Seattle      1

27
reset.index()робить роботу, чудово!
покладено

54
Ви могли використати:df1.groupby( [ "Name", "City"] ).size().to_frame(name = 'count').reset_index()
Nehal J Wani

3
Другий приклад з використанням, .reset_index()здається, є найкращим способом приєднатись до результатів, з яких ви отримаєте df.groupby('some_column').apply(your_custom_func). Це не було для мене інтуїтивно зрозумілим.
Олександр

5
Це правда і в Python 3? Я знаходжу функцію groupby, що повертає pandas.core.groupby.DataFrameGroupByоб'єкт, ні pandas.core.frame.DataFrame.
Адріан Кейстер

3
Ця відповідь видається неактуальною для останніх пітона та панди
matanster

127

Я хочу трохи змінити відповідь, яку дає Уес, оскільки потрібна версія 0.16.2 as_index=False. Якщо його не встановити, ви отримаєте порожній кадр даних.

Джерело :

Функції агрегації не повертають групи, над якими ви збираєтесь, якщо вони названі стовпцями, коли as_index=True, за замовчуванням. Згруповані стовпці будуть індексами повернутого об’єкта.

При передачі as_index=Falseповертаються групи, над якими ви збираєтесь, якщо вони названі стовпцями.

Агрегування функції ті , які зменшують розмір повертаються об'єктів, наприклад: mean, sum, size, count, std, var, sem, describe, first, last, nth, min, max. Це те, що відбувається, коли ви робите, наприклад, DataFrame.sum()і повертаєте a Series.

nth може діяти як редуктор або фільтр, дивіться тут .

import pandas as pd

df1 = pd.DataFrame({"Name":["Alice", "Bob", "Mallory", "Mallory", "Bob" , "Mallory"],
                    "City":["Seattle","Seattle","Portland","Seattle","Seattle","Portland"]})
print df1
#
#       City     Name
#0   Seattle    Alice
#1   Seattle      Bob
#2  Portland  Mallory
#3   Seattle  Mallory
#4   Seattle      Bob
#5  Portland  Mallory
#
g1 = df1.groupby(["Name", "City"], as_index=False).count()
print g1
#
#                  City  Name
#Name    City
#Alice   Seattle      1     1
#Bob     Seattle      2     2
#Mallory Portland     2     2
#        Seattle      1     1
#

Редагувати:

У версії , 0.17.1а потім ви можете використовувати subsetв countі reset_indexз параметром nameв size:

print df1.groupby(["Name", "City"], as_index=False ).count()
#IndexError: list index out of range

print df1.groupby(["Name", "City"]).count()
#Empty DataFrame
#Columns: []
#Index: [(Alice, Seattle), (Bob, Seattle), (Mallory, Portland), (Mallory, Seattle)]

print df1.groupby(["Name", "City"])[['Name','City']].count()
#                  Name  City
#Name    City                
#Alice   Seattle      1     1
#Bob     Seattle      2     2
#Mallory Portland     2     2
#        Seattle      1     1

print df1.groupby(["Name", "City"]).size().reset_index(name='count')
#      Name      City  count
#0    Alice   Seattle      1
#1      Bob   Seattle      2
#2  Mallory  Portland      2
#3  Mallory   Seattle      1

Різниця між countі sizeполягає в тому, що sizeпідраховує значення NaN, а countне.


8
Я думаю, що це найпростіший спосіб - один вкладиш, який використовує приємний факт, що ви можете назвати стовпець серії за допомогою reset_index:df1.groupby( [ "Name", "City"]).size().reset_index(name="count")
Ben

1
Чи є причина, чому as_index=False' stopped working in latest versions? I also tried to run df1.groupby (["Ім'я", "Місто"], as_index = хибний) .size () `але це не впливає на результат (можливо, тому, що результат групування Seriesне єDataFrame
Роман Пекар

1
Я не впевнений, але, здається, є лише 2 стовпчики і groupbyці колонки. Але я не впевнений, бо я не розробник панд.
jezrael

20

Просто для цього слід виконати завдання:

import pandas as pd

grouped_df = df1.groupby( [ "Name", "City"] )

pd.DataFrame(grouped_df.size().reset_index(name = "Group_Count"))

Тут grouped_df.size()витягується унікальний підрахунок групи і reset_index()метод скидає назву стовпця, який ви хочете. Нарешті, Dataframe()функція pandas закликається створити об’єкт DataFrame.


2
Перевірте метод .to_frame (): grouped_df.size (). To_frame ('Group_Count')
Sealander

12

Ключ полягає у використанні методу reset_index () .

Використання:

import pandas

df1 = pandas.DataFrame( { 
    "Name" : ["Alice", "Bob", "Mallory", "Mallory", "Bob" , "Mallory"] , 
    "City" : ["Seattle", "Seattle", "Portland", "Seattle", "Seattle", "Portland"] } )

g1 = df1.groupby( [ "Name", "City"] ).count().reset_index()

Тепер у вас є новий кадр даних у g1 :

рамка даних результатів


9

Можливо, я неправильно розумію питання, але якщо ви хочете перетворити groupby назад у кадр даних, ви можете використовувати .to_frame (). Коли я це робив, я хотів скинути індекс, тому включив і цю частину.

Приклад код не пов'язаний з питанням

df = df['TIME'].groupby(df['Name']).min()
df = df.to_frame()
df = df.reset_index(level=['Name',"TIME"])

6

Я виявив, що це працює для мене.

import numpy as np
import pandas as pd

df1 = pd.DataFrame({ 
    "Name" : ["Alice", "Bob", "Mallory", "Mallory", "Bob" , "Mallory"] , 
    "City" : ["Seattle", "Seattle", "Portland", "Seattle", "Seattle", "Portland"]})

df1['City_count'] = 1
df1['Name_count'] = 1

df1.groupby(['Name', 'City'], as_index=False).count()

6

Нижче рішення може бути простішим:

df1.reset_index().groupby( [ "Name", "City"],as_index=False ).count()

4

Я об'єднав з Qty мудрі дані та зберігаю у кадрі даних

almo_grp_data = pd.DataFrame({'Qty_cnt' :
almo_slt_models_data.groupby( ['orderDate','Item','State Abv']
          )['Qty'].sum()}).reset_index()

3

Ці рішення для мене лише частково працювали, тому що я робив кілька агрегацій. Ось зразок виводу моєї групи, яку я хотів перетворити в кадр даних:

Груповий вихід

Оскільки я хотів більше, ніж підрахунок, передбачений reset_index (), я написав ручний метод перетворення зображення вище в кадр даних. Я розумію, що це не самий пітонічний / пандийський спосіб зробити це, оскільки він досить багатослівний і явний, але це було все, що мені потрібно. В основному використовуйте пояснений вище метод reset_index (), щоб запустити фрейм даних "риштування", потім проведіть цикл через парні парні групи в згрупованому фреймі даних, отримайте індекси, виконайте свої обчислення проти негрупованого фрейму даних та встановіть значення у вашому новому агрегованому фреймі даних. .

df_grouped = df[['Salary Basis', 'Job Title', 'Hourly Rate', 'Male Count', 'Female Count']]
df_grouped = df_grouped.groupby(['Salary Basis', 'Job Title'], as_index=False)

# Grouped gives us the indices we want for each grouping
# We cannot convert a groupedby object back to a dataframe, so we need to do it manually
# Create a new dataframe to work against
df_aggregated = df_grouped.size().to_frame('Total Count').reset_index()
df_aggregated['Male Count'] = 0
df_aggregated['Female Count'] = 0
df_aggregated['Job Rate'] = 0

def manualAggregations(indices_array):
    temp_df = df.iloc[indices_array]
    return {
        'Male Count': temp_df['Male Count'].sum(),
        'Female Count': temp_df['Female Count'].sum(),
        'Job Rate': temp_df['Hourly Rate'].max()
    }

for name, group in df_grouped:
    ix = df_grouped.indices[name]
    calcDict = manualAggregations(ix)

    for key in calcDict:
        #Salary Basis, Job Title
        columns = list(name)
        df_aggregated.loc[(df_aggregated['Salary Basis'] == columns[0]) & 
                          (df_aggregated['Job Title'] == columns[1]), key] = calcDict[key]

Якщо словник - це не ваша річ, обчислення можуть бути застосовані вбудовано в циклі for:

    df_aggregated['Male Count'].loc[(df_aggregated['Salary Basis'] == columns[0]) & 
                                (df_aggregated['Job Title'] == columns[1])] = df['Male Count'].iloc[ix].sum()

Чи можете ви поділитися набором даних, які використовували для свого рішення? Дуже дякую!
JeffZheng
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.