Створення фрейму даних із словника, де записи мають різну довжину


114

Скажіть, у мене є словник з 10 парами ключ-значення. Кожен запис містить нумерований масив. Однак довжина масиву не однакова для всіх.

Як я можу створити кадр даних, де кожен стовпець містить різний запис?

Коли я намагаюся:

pd.DataFrame(my_dict)

Я отримав:

ValueError: arrays must all be the same length

Будь-який спосіб подолати це? Я радий, що Pandas використовує NaNдля прокладки цих стовпців для коротших записів.

Відповіді:


132

У Python 3.x:

In [6]: d = dict( A = np.array([1,2]), B = np.array([1,2,3,4]) )

In [7]: pd.DataFrame(dict([ (k,pd.Series(v)) for k,v in d.items() ]))
Out[7]: 
    A  B
0   1  1
1   2  2
2 NaN  3
3 NaN  4

У Python 2.x:

замінити d.items()на d.iteritems().


Я працював над цією ж проблемою недавно, і це краще, ніж у мене! Варто зазначити одне, що набивання на NaN змусить примусити серійний тип до float64, що може бути проблематично, якщо вам потрібно зайнятись цілою математикою.
mattexx

Ви завжди можете задати питання - багато людей відповідають на них
Джефф

вам потрібно надати MVCE, як підказують коментарі
Джефф

3
@germ ви можете імпортувати Серію спочатку або зробити щось на кшталт pd.Series(...) (якщо припустити import pandas as pdв розділі про імпорт)
Німа Мусаві

5
Більш компактна версія цієї відповіді:pd.DataFrame({k: pd.Series(l) for k, l in d.items()})
user553965

82

Ось простий спосіб зробити це:

In[20]: my_dict = dict( A = np.array([1,2]), B = np.array([1,2,3,4]) )
In[21]: df = pd.DataFrame.from_dict(my_dict, orient='index')
In[22]: df
Out[22]: 
   0  1   2   3
A  1  2 NaN NaN
B  1  2   3   4
In[23]: df.transpose()
Out[23]: 
    A  B
0   1  1
1   2  2
2 NaN  3
3 NaN  4

Чи є інші варіанти "індексувати"?
sAguinaga

@sAguinaga Так:, columnsале це вже за замовчуванням. Дивіться документацію на панду
pandas.DataFrame.from_dict

15

Нижче наведено спосіб пристосування синтаксису, але все-таки робити те саме, що й інші відповіді.

>>> mydict = {'one': [1,2,3], 2: [4,5,6,7], 3: 8}

>>> dict_df = pd.DataFrame({ key:pd.Series(value) for key, value in mydict.items() })

>>> dict_df

   one  2    3
0  1.0  4  8.0
1  2.0  5  NaN
2  3.0  6  NaN
3  NaN  7  NaN

Аналогічний синтаксис існує і для списків:

>>> mylist = [ [1,2,3], [4,5], 6 ]

>>> list_df = pd.DataFrame([ pd.Series(value) for value in mylist ])

>>> list_df

     0    1    2
0  1.0  2.0  3.0
1  4.0  5.0  NaN
2  6.0  NaN  NaN

Ще один синтаксис списків:

>>> mylist = [ [1,2,3], [4,5], 6 ]

>>> list_df = pd.DataFrame({ i:pd.Series(value) for i, value in enumerate(mylist) })

>>> list_df

   0    1    2
0  1  4.0  6.0
1  2  5.0  NaN
2  3  NaN  NaN

Можливо, вам доведеться додатково перенести результат та / або змінити типи даних стовпців (float, integer тощо).


3

Хоча це прямо не відповідає на питання ОП. Я вважав це прекрасним рішенням для мого випадку, коли у мене були нерівні масиви і я хотів би поділитися:

з документації панд

In [31]: d = {'one' : Series([1., 2., 3.], index=['a', 'b', 'c']),
   ....:      'two' : Series([1., 2., 3., 4.], index=['a', 'b', 'c', 'd'])}
   ....: 

In [32]: df = DataFrame(d)

In [33]: df
Out[33]: 
   one  two
a    1    1
b    2    2
c    3    3
d  NaN    4

3

Ви також можете використовувати pd.concatразом axis=1зі списком pd.Seriesоб'єктів:

import pandas as pd, numpy as np

d = {'A': np.array([1,2]), 'B': np.array([1,2,3,4])}

res = pd.concat([pd.Series(v, name=k) for k, v in d.items()], axis=1)

print(res)

     A  B
0  1.0  1
1  2.0  2
2  NaN  3
3  NaN  4

2

Обидва наступні рядки чудово працюють:

pd.DataFrame.from_dict(df, orient='index').transpose() #A

pd.DataFrame(dict([ (k,pd.Series(v)) for k,v in df.items() ])) #B (Better)

Але, маючи% timeit на Jupyter, у мене є співвідношення швидкості в 4 рази для B проти A, що дуже вражає особливо при роботі з величезним набором даних (переважно з великою кількістю стовпців / функцій).


1

Якщо ви не хочете, щоб він відображався, NaNі у вас є дві конкретні довжини, додавання «пробілу» у кожну клітинку, що залишилася, також спрацює.

import pandas

long = [6, 4, 7, 3]
short = [5, 6]

for n in range(len(long) - len(short)):
    short.append(' ')

df = pd.DataFrame({'A':long, 'B':short}]
# Make sure Excel file exists in the working directory
datatoexcel = pd.ExcelWriter('example1.xlsx',engine = 'xlsxwriter')
df.to_excel(datatoexcel,sheet_name = 'Sheet1')
datatoexcel.save()

   A  B
0  6  5
1  4  6
2  7   
3  3   

Якщо у вас більше 2 довжин записів, бажано зробити функцію, яка використовує аналогічний метод.


Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.