Як згрупувати рядки фреймів даних у список у групах панд?


274

У мене є кадр даних панди на dfзразок:

a b
A 1
A 2
B 5
B 5
B 4
C 6

Я хочу згрупувати за першим стовпцем і отримати другий стовпчик у вигляді списків у рядках :

A [1,2]
B [5,5,4]
C [6]

Чи можливо зробити щось подібне, використовуючи групи pandas groupby?

Відповіді:


394

Це можна зробити, використовуючи groupbyгрупування на стовпці, що цікавить, а потім apply listу кожній групі:

In [1]: df = pd.DataFrame( {'a':['A','A','B','B','B','C'], 'b':[1,2,5,5,4,6]})
        df

Out[1]: 
   a  b
0  A  1
1  A  2
2  B  5
3  B  5
4  B  4
5  C  6

In [2]: df.groupby('a')['b'].apply(list)
Out[2]: 
a
A       [1, 2]
B    [5, 5, 4]
C          [6]
Name: b, dtype: object

In [3]: df1 = df.groupby('a')['b'].apply(list).reset_index(name='new')
        df1
Out[3]: 
   a        new
0  A     [1, 2]
1  B  [5, 5, 4]
2  C        [6]

7
Це займає багато часу, якщо набір даних величезний, скажімо, 10 мільйонів рядків. Чи є швидший спосіб зробити це? Однак кількість унікальних предметів у «а» становить близько 500 тис.
Абхішек Тхакур

6
groupby, як відомо, повільний і голодний на пам'ять, те, що ви можете зробити, це сортувати за стовпцем A, потім знайти idxmin та idxmax (можливо, збережіть це в диктаті) і скористайтеся цим, щоб нарізати ваш кадр даних буде швидше, я думаю
EdChum

1
Коли я спробував це рішення зі своєю проблемою (маючи декілька стовпців до groupBy та до групи), воно не спрацювало - панди надіслали "Функція не зменшується". Потім я застосував tupleдругу відповідь тут: stackoverflow.com/questions/19530568/… . Див. Другу відповідь в stackoverflow.com/questions/27439023/… для пояснення.
Andarin

Це рішення добре, але чи є спосіб зберігати набір списку, тобто я можу видалити дублікати та зберігати його?
Шрірам Арвінд Лакшманакумар

1
@PoeteMaudit Вибачте, я не розумію, що ви запитуєте і задаєте питання в коментарях - це погана форма в ТАК. Ви запитуєте, як об’єднати кілька стовпців в один список?
EdChum

47

Якщо продуктивність важлива, перейдіть до рівня "numpy":

import numpy as np

df = pd.DataFrame({'a': np.random.randint(0, 60, 600), 'b': [1, 2, 5, 5, 4, 6]*100})

def f(df):
         keys, values = df.sort_values('a').values.T
         ukeys, index = np.unique(keys, True)
         arrays = np.split(values, index[1:])
         df2 = pd.DataFrame({'a':ukeys, 'b':[list(a) for a in arrays]})
         return df2

Тести:

In [301]: %timeit f(df)
1000 loops, best of 3: 1.64 ms per loop

In [302]: %timeit df.groupby('a')['b'].apply(list)
100 loops, best of 3: 5.26 ms per loop

8
Як ми могли б використовувати це, якщо ми згрупуємось за двома або більше клавішами, наприклад, за допомогою, .groupby([df.index.month, df.index.day])а не просто .groupby('a')?
ru111

25

Зручним способом цього було б:

df.groupby('a').agg({'b':lambda x: list(x)})

Погляньте на написання спеціальних агрегацій: https://www.kaggle.com/akshaysehgal/how-to-group-by-aggregate-using-py


5
lambda args: f(args)еквівалентноf
BallpointBen

6
Насправді просто agg(list)достатньо. Також дивіться тут .
cs95

!! Я просто гуглив за деяким синтаксисом і зрозумів, що мій власний ноутбук посилається на рішення lol. Дякуємо, що зв’язали це. Додамо лише, оскільки "список" не є функцією серії, вам доведеться або використовувати його з застосувати, df.groupby('a').apply(list)або використовувати його з agg як частину дикту df.groupby('a').agg({'b':list}). Ви також можете використовувати його з лямбда (що я рекомендую), оскільки ви можете зробити набагато більше з ним. Приклад: df.groupby('a').agg({'c':'first', 'b': lambda x: x.unique().tolist()})який дозволяє застосувати функцію серії до col c і унікальну, а потім функцію списку для Col b.
Акшай Сеггал

21

Як ви говорили, groupbyметод pd.DataFrameоб’єкта може виконати роботу.

Приклад

 L = ['A','A','B','B','B','C']
 N = [1,2,5,5,4,6]

 import pandas as pd
 df = pd.DataFrame(zip(L,N),columns = list('LN'))


 groups = df.groupby(df.L)

 groups.groups
      {'A': [0, 1], 'B': [2, 3, 4], 'C': [5]}

що дає і вказівний опис груп.

Щоб отримати елементи одних груп, ви можете, наприклад, зробити це

 groups.get_group('A')

     L  N
  0  A  1
  1  A  2

  groups.get_group('B')

     L  N
  2  B  5
  3  B  5
  4  B  4

21

Щоб вирішити це для кількох стовпців фрейму даних:

In [5]: df = pd.DataFrame( {'a':['A','A','B','B','B','C'], 'b':[1,2,5,5,4,6],'c'
   ...: :[3,3,3,4,4,4]})

In [6]: df
Out[6]: 
   a  b  c
0  A  1  3
1  A  2  3
2  B  5  3
3  B  5  4
4  B  4  4
5  C  6  4

In [7]: df.groupby('a').agg(lambda x: list(x))
Out[7]: 
           b          c
a                      
A     [1, 2]     [3, 3]
B  [5, 5, 4]  [3, 4, 4]
C        [6]        [4]

Ця відповідь надихнула на відповідь Анаміки Моді . Дякую!


12

Використовуйте будь-який із наведених нижче groupbyта aggрецептів.

# Setup
df = pd.DataFrame({
  'a': ['A', 'A', 'B', 'B', 'B', 'C'],
  'b': [1, 2, 5, 5, 4, 6],
  'c': ['x', 'y', 'z', 'x', 'y', 'z']
})
df

   a  b  c
0  A  1  x
1  A  2  y
2  B  5  z
3  B  5  x
4  B  4  y
5  C  6  z

Для об'єднання декількох стовпців у вигляді списків використовуйте будь-яке з наведеного нижче:

df.groupby('a').agg(list)
df.groupby('a').agg(pd.Series.tolist)

           b          c
a                      
A     [1, 2]     [x, y]
B  [5, 5, 4]  [z, x, y]
C        [6]        [z]

Щоб групувати список лише одного стовпця, перетворіть групу на SeriesGroupByоб'єкт, а потім зателефонуйте SeriesGroupBy.agg. Використовувати,

df.groupby('a').agg({'b': list})  # 4.42 ms 
df.groupby('a')['b'].agg(list)    # 2.76 ms - faster

a
A       [1, 2]
B    [5, 5, 4]
C          [6]
Name: b, dtype: object

чи гарантовані вище методи збереження порядку? це означає, що елементи з того самого рядка (але різні стовпці, b і c у вашому коді вище) матимуть однаковий індекс у наведених списках?
Кай

@Kai о, гарне запитання. Так і ні. GroupBy сортує висновок за значеннями ключів збирача. Однак сорт, як правило, стабільний, тому відносне впорядкування для групи зберігається. Щоб повністю відключити поведінку сортування, використовуйте groupby(..., sort=False). Тут це не має ніякого значення, оскільки я групуюсь у стовпці А, який вже відсортований.
cs95

Вибачте, я не розумію вашої відповіді. Чи можете ви пояснити більш детально. Я думаю, що це заслуговує власного питання ..
Кай

1
Це дуже гарна відповідь! Чи існує також спосіб зробити значення списку унікальними? щось на кшталт .agg (pd.Series.tolist.unique) можливо?
Федеріко Поган

1
@FedericoGentile можна використовувати лямбда. Ось один із способів:df.groupby('a')['b'].agg(lambda x: list(set(x)))
cs95

7

Якщо ви шукаєте унікальний список під час групування кількох стовпців, це, ймовірно, може допомогти:

df.groupby('a').agg(lambda x: list(set(x))).reset_index()

2

Давайте скористаємося df.groupbyсписком та Seriesконструктором

pd.Series({x : y.b.tolist() for x , y in df.groupby('a')})
Out[664]: 
A       [1, 2]
B    [5, 5, 4]
C          [6]
dtype: object

2

Час використовувати aggзамість цього apply.

Коли

df = pd.DataFrame( {'a':['A','A','B','B','B','C'], 'b':[1,2,5,5,4,6], 'c': [1,2,5,5,4,6]})

Якщо ви хочете, щоб декілька стовпців склалися у списку, приведіть до pd.DataFrame

df.groupby('a')[['b', 'c']].agg(list)
# or 
df.groupby('a').agg(list)

Якщо ви хочете отримати один стовпчик у списку, приведіть у ps.Series

df.groupby('a')['b'].agg(list)
#or
df.groupby('a')['b'].apply(list)

Зауважте, результат у pd.DataFrameприблизно 10 разів повільніше, ніж результат, ps.Seriesколи ви агрегуєте лише один стовпець, використовуйте його у регістрі багатокольонок.


0

Тут я згрупував елементи з "|" як роздільник

    import pandas as pd

    df = pd.read_csv('input.csv')

    df
    Out[1]:
      Area  Keywords
    0  A  1
    1  A  2
    2  B  5
    3  B  5
    4  B  4
    5  C  6

    df.dropna(inplace =  True)
    df['Area']=df['Area'].apply(lambda x:x.lower().strip())
    print df.columns
    df_op = df.groupby('Area').agg({"Keywords":lambda x : "|".join(x)})

    df_op.to_csv('output.csv')
    Out[2]:
    df_op
    Area  Keywords

    A       [1| 2]
    B    [5| 5| 4]
    C          [6]

0

Найпростіший спосіб я не бачу досягти більшості одного і того ж, принаймні для одного стовпця, який схожий на відповідь Анаміки, просто з синтаксисом кортежу для функції сукупності.

df.groupby('a').agg(b=('b','unique'), c=('c','unique'))
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.