отримати список стовпців фреймів даних панд на основі типу даних


184

Якщо у мене є кадр даних із такими стовпцями:

1. NAME                                     object
2. On_Time                                      object
3. On_Budget                                    object
4. %actual_hr                                  float64
5. Baseline Start Date                  datetime64[ns]
6. Forecast Start Date                  datetime64[ns] 

Мені хотілося б сказати: ось фрейм даних, дайте мені список стовпців, що мають тип Object або типу DateTime?

У мене є функція, яка перетворює числа (Float64) у два десяткових знаки, і я хотів би скористатися цим списком стовпців фрейму даних певного типу та запустити його через цю функцію, щоб перетворити їх у 2dp.

Може бути:

For c in col_list: if c.dtype = "Something"
list[]
List.append(c)?

4
Коли я прийшов до цього питання, я шукав спосіб створити саме список у верхній частині. df.dtypesробить це.
Мартін Тома

Відвідувачів може також зацікавити це інше, але пов'язане з цим питання про те, як знайти всі типи об'єктів у кожному стовпчику : Як я можу виявити підтипи в стовпцях об'єктів pandas? .
jpp

Відповіді:


314

Якщо вам потрібен список стовпців певного типу, ви можете використовувати groupby:

>>> df = pd.DataFrame([[1, 2.3456, 'c', 'd', 78]], columns=list("ABCDE"))
>>> df
   A       B  C  D   E
0  1  2.3456  c  d  78

[1 rows x 5 columns]
>>> df.dtypes
A      int64
B    float64
C     object
D     object
E      int64
dtype: object
>>> g = df.columns.to_series().groupby(df.dtypes).groups
>>> g
{dtype('int64'): ['A', 'E'], dtype('float64'): ['B'], dtype('O'): ['C', 'D']}
>>> {k.name: v for k, v in g.items()}
{'object': ['C', 'D'], 'int64': ['A', 'E'], 'float64': ['B']}

5
Це корисно як перевірка якості даних, коли слід переконатися, що стовпці мають такий тип, який очікується.
NYCeyes

2
це не працює, якщо всі ваші стовпці фрейму даних повертаються objectтипу, незалежно від їх фактичного вмісту
user5359531

2
@ user5359531 це не означає, що він не працює, це фактично означає, що ваші стовпці DataFrame не були надані типу, який, на вашу думку, повинні бути, що може статися з різних причин.
Марк

6
Якщо ви просто вибираєте стовпці за типом даних, то ця відповідь застаріла. Використовуйте select_dtypesзамість цього
Тед Петру

Як потім індексувати цей згрупований фрейм даних?
Аллен Ван

110

Станом на панд v0.14.1, ви можете використовувати select_dtypes()для вибору стовпців за dtype

In [2]: df = pd.DataFrame({'NAME': list('abcdef'),
    'On_Time': [True, False] * 3,
    'On_Budget': [False, True] * 3})

In [3]: df.select_dtypes(include=['bool'])
Out[3]:
  On_Budget On_Time
0     False    True
1      True   False
2     False    True
3      True   False
4     False    True
5      True   False

In [4]: mylist = list(df.select_dtypes(include=['bool']).columns)

In [5]: mylist
Out[5]: ['On_Budget', 'On_Time']

35

Використання dtypeнадасть бажаний тип даних стовпця:

dataframe['column1'].dtype

якщо ви хочете знати типи даних для всіх стовпців одразу , ви можете використовувати множину dtypeяк dtypes :

dataframe.dtypes

1
Це має бути прийнятою відповіддю, вона друкує типи даних майже у тому форматі, який хоче ОП.
Абхішек Дівекар

1
Питання df.select_dtypes(include=['Object','DateTime']).columns
стосувалося

29

Ви можете використовувати булеву маску для атрибуту dtypes:

In [11]: df = pd.DataFrame([[1, 2.3456, 'c']])

In [12]: df.dtypes
Out[12]: 
0      int64
1    float64
2     object
dtype: object

In [13]: msk = df.dtypes == np.float64  # or object, etc.

In [14]: msk
Out[14]: 
0    False
1     True
2    False
dtype: bool

Ви можете переглянути лише ті стовпці з потрібним типом:

In [15]: df.loc[:, msk]
Out[15]: 
        1
0  2.3456

Тепер ви можете скористатися круглим (або будь-яким іншим) і призначити його назад:

In [16]: np.round(df.loc[:, msk], 2)
Out[16]: 
      1
0  2.35

In [17]: df.loc[:, msk] = np.round(df.loc[:, msk], 2)

In [18]: df
Out[18]: 
   0     1  2
0  1  2.35  c

Я хотів би мати можливість написати функцію, яка приймає ім’я фрейму даних, а потім повертає словник списків, при цьому ключ словника є типом даних, а значення - списком стовпців із фрейму даних, що є цим тип даних.
йошисеррі

def col_types (x, pd):
itthrill


7

використовувати df.info(verbose=True)де dfза замовчуванням панда данихverbose=False


можуть виникнути проблеми з пам'яттю, якщо таблиця велика
Koo

4

Найбільш прямий спосіб отримати список стовпців певного типу, наприклад, 'object':

df.select_dtypes(include='object').columns

Наприклад:

>>df = pd.DataFrame([[1, 2.3456, 'c', 'd', 78]], columns=list("ABCDE"))
>>df.dtypes

A      int64
B    float64
C     object
D     object
E      int64
dtype: object

Щоб отримати всі стовпці типу "об'єкт":

>>df.select_dtypes(include='object').columns

Index(['C', 'D'], dtype='object')

Для всього списку:

>>list(df.select_dtypes(include='object').columns)

['C', 'D']   

3

Якщо ви хочете зробити список лише стовпців об'єктів, які ви можете зробити:

non_numerics = [x for x in df.columns \
                if not (df[x].dtype == np.float64 \
                        or df[x].dtype == np.int64)]

а потім, якщо ви хочете отримати інший список лише числових даних:

numerics = [x for x in df.columns if x not in non_numerics]

0

Я придумав цей три лайнера .

По суті, ось що це робить:

  1. Визначення назв стовпців та відповідних типів даних.
  2. Я необов'язково виводить його на csv.

inp = pd.read_csv('filename.csv') # read input. Add read_csv arguments as needed
columns = pd.DataFrame({'column_names': inp.columns, 'datatypes': inp.dtypes})
columns.to_csv(inp+'columns_list.csv', encoding='utf-8') # encoding is optional

Це значно полегшило моє життя, намагаючись генерувати схеми на ходу. Сподіваюся, це допомагає


0

для йошисери;

def col_types(x,pd):
    dtypes=x.dtypes
    dtypes_col=dtypes.index
    dtypes_type=dtypes.value
    column_types=dict(zip(dtypes_col,dtypes_type))
    return column_types

0

Я використовую infer_objects ()

Docstring: Спроба вивести кращі типи для стовпців об'єктів.

Спроби м'якого перетворення стовпців, що зображуються в об'єкті, залишаючи незмінні та неконвертовані стовпці без змін. Правила виведення такі ж, як під час звичайної побудови Series / DataFrame.

df.infer_objects().dtypes

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.