Перетворення numpy-типів в нативні типи python

Якщо я маю numty dtype, як я автоматично конвертую його в найближчий тип даних python? Наприклад,

numpy.float32 -> "python float"
numpy.float64 -> "python float"
numpy.uint32  -> "python int"
numpy.int16   -> "python int"

Я міг би спробувати придумати картування всіх цих випадків, але чи дає numpy якийсь автоматичний спосіб перетворення своїх dtypes у найближчі можливі типи python? Це відображення не повинно бути вичерпним, але воно повинно перетворити загальні типи, що мають близький аналог пітона. Я думаю, що це вже відбувається десь у нутрії.

Використовуйте val.item()для перетворення більшості значень NumPy в початковий тип Python:

import numpy as np

# for example, numpy.float32 -> python float
val = np.float32(0)
pyval = val.item()
print(type(pyval))         # <class 'float'>

# and similar...
type(np.float64(0).item()) # <class 'float'>
type(np.uint32(0).item())  # <class 'long'>
type(np.int16(0).item())   # <class 'int'>
type(np.cfloat(0).item())  # <class 'complex'>
type(np.datetime64(0, 'D').item())  # <class 'datetime.date'>
type(np.datetime64('2001-01-01 00:00:00').item())  # <class 'datetime.datetime'>
type(np.timedelta64(0, 'D').item()) # <class 'datetime.timedelta'>
...

(Інший метод є np.asscalar(val), проте він застарілий з часу NumPy 1.16).

Для допитливих скласти таблицю перетворень скалярів масивів NumPy для вашої системи:

for name in dir(np):
    obj = getattr(np, name)
    if hasattr(obj, 'dtype'):
        try:
            if 'time' in name:
                npn = obj(0, 'D')
            else:
                npn = obj(0)
            nat = npn.item()
            print('{0} ({1!r}) -> {2}'.format(name, npn.dtype.char, type(nat)))
        except:
            pass

Є кілька типів Numpy , які не мають рідної еквівалента Python на деяких системах, в тому числі: clongdouble, clongfloat, complex192, complex256, float128, longcomplex, longdoubleі longfloat. Перед використанням їх потрібно перетворити в найближчий еквівалент NumPy .item().

я опинився зі змішаним набором nummy типів та стандартним python. як походять усі типи numpy numpy.generic, ось як ви можете конвертувати все в стандартні типи python:

if isinstance(obj, numpy.generic):
    return numpy.asscalar(obj)

Якщо ви хочете перетворити (numpy.array АБО numpy скалярний чи OR нативний тип АБО numpy.darray) в початковий тип, ви можете просто зробити:

converted_value = getattr(value, "tolist", lambda: value)()

tolist перетворить ваш скаляр або масив у рідний тип python. Функція лямбда за замовчуванням піклується про випадок, коли значення вже є власним.

Як щодо:

In [51]: dict([(d, type(np.zeros(1,d).tolist()[0])) for d in (np.float32,np.float64,np.uint32, np.int16)])
Out[51]: 
{<type 'numpy.int16'>: <type 'int'>,
 <type 'numpy.uint32'>: <type 'long'>,
 <type 'numpy.float32'>: <type 'float'>,
 <type 'numpy.float64'>: <type 'float'>}

tolist()є більш загальним підходом до цього. Він працює в будь-якому примітивному типі, а також у масивах чи матрицях.

Я насправді не дає списку, якщо його викликають з примітивних типів:

numpy == 1.15.2

>>> import numpy as np

>>> np_float = np.float64(1.23)
>>> print(type(np_float), np_float)
<class 'numpy.float64'> 1.23

>>> listed_np_float = np_float.tolist()
>>> print(type(listed_np_float), listed_np_float)
<class 'float'> 1.23

>>> np_array = np.array([[1,2,3.], [4,5,6.]])
>>> print(type(np_array), np_array)
<class 'numpy.ndarray'> [[1. 2. 3.]
 [4. 5. 6.]]

>>> listed_np_array = np_array.tolist()
>>> print(type(listed_np_array), listed_np_array)
<class 'list'> [[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]]

Ви також можете викликати item()метод об'єкта, який ви хочете перетворити:

>>> from numpy import float32, uint32
>>> type(float32(0).item())
<type 'float'>
>>> type(uint32(0).item())
<type 'long'>

Я думаю, що ви можете просто написати загальну функцію перетворення типу типу:

import numpy as np

def get_type_convert(np_type):
   convert_type = type(np.zeros(1,np_type).tolist()[0])
   return (np_type, convert_type)

print get_type_convert(np.float32)
>> (<type 'numpy.float32'>, <type 'float'>)

print get_type_convert(np.float64)
>> (<type 'numpy.float64'>, <type 'float'>)

Це означає, що немає фіксованих списків, і ваш код буде масштабуватися з більшістю типів.

numpy утримує цю інформацію в відображенні, typeDictтак як ви можете зробити щось подібне нижче:

>>> import __builtin__
>>> import numpy as np
>>> {v: k for k, v in np.typeDict.items() if k in dir(__builtin__)}
{numpy.object_: 'object',
 numpy.bool_: 'bool',
 numpy.string_: 'str',
 numpy.unicode_: 'unicode',
 numpy.int64: 'int',
 numpy.float64: 'float',
 numpy.complex128: 'complex'}

Якщо вам потрібні фактичні типи python, а не їх імена, ви можете:

>>> {v: getattr(__builtin__, k) for k, v in np.typeDict.items() if k in vars(__builtin__)}
{numpy.object_: object,
 numpy.bool_: bool,
 numpy.string_: str,
 numpy.unicode_: unicode,
 numpy.int64: int,
 numpy.float64: float,
 numpy.complex128: complex}

Вибачте, що почасти запізнився частково, але я розглядав проблему переходу лише numpy.float64до звичайного Python float. Я бачив 3 способи зробити це:

1. npValue.item()
2. npValue.astype(float)
3. float(npValue)

Ось відповідні таймінги від IPython:

In [1]: import numpy as np

In [2]: aa = np.random.uniform(0, 1, 1000000)

In [3]: %timeit map(float, aa)
10 loops, best of 3: 117 ms per loop

In [4]: %timeit map(lambda x: x.astype(float), aa)
1 loop, best of 3: 780 ms per loop

In [5]: %timeit map(lambda x: x.item(), aa)
1 loop, best of 3: 475 ms per loop

Це здається, float(npValue)схоже, набагато швидше.

Мій підхід трохи сильний, але, здається, грає добре для всіх випадків:

def type_np2py(dtype=None, arr=None):
    '''Return the closest python type for a given numpy dtype'''

    if ((dtype is None and arr is None) or
        (dtype is not None and arr is not None)):
        raise ValueError(
            "Provide either keyword argument `dtype` or `arr`: a numpy dtype or a numpy array.")

    if dtype is None:
        dtype = arr.dtype

    #1) Make a single-entry numpy array of the same dtype
    #2) force the array into a python 'object' dtype
    #3) the array entry should now be the closest python type
    single_entry = np.empty([1], dtype=dtype).astype(object)

    return type(single_entry[0])

Використання:

>>> type_np2py(int)
<class 'int'>

>>> type_np2py(np.int)
<class 'int'>

>>> type_np2py(str)
<class 'str'>

>>> type_np2py(arr=np.array(['hello']))
<class 'str'>

>>> type_np2py(arr=np.array([1,2,3]))
<class 'int'>

>>> type_np2py(arr=np.array([1.,2.,3.]))
<class 'float'>

Побічна примітка про скалярні масиви для тих, хто не потребує автоматичного перетворення та знає нумерований тип значення:

Скалярні масиви відрізняються від скалярів Python, але здебільшого вони можуть використовуватися взаємозамінно (основний виняток - це версії Python, старші за v2.x, де цілочисельні скаляри масиву не можуть виступати в якості індексів для списків та кортежів). Є деякі винятки, наприклад, коли код вимагає дуже конкретних атрибутів скаляра або коли він спеціально перевіряє, чи є значення скаляром Python. Як правило, проблеми легко вирішуються шляхом явного перетворення скалярів масивів у скаляри Python, використовуючи відповідну функцію типу Python (наприклад, int, float, complex, str, unicode).

Джерело

Таким чином, для більшості випадків конверсія може взагалі не потрібна, і скаляр масиву може використовуватися безпосередньо. Ефект повинен бути ідентичним використанню скалярів Python:

>>> np.issubdtype(np.int64, int)
True
>>> np.int64(0) == 0
True
>>> np.issubdtype(np.float64, float)
True
>>> np.float64(1.1) == 1.1
True

Але якщо з якихось причин потрібне явне перетворення, використання відповідної вбудованої функції Python - це шлях. Як показано в іншій відповіді, це також швидше, ніж скалярний item()метод масиву .

Перекладіть весь ndarray замість одного об'єкта даних одиниці:

def trans(data):
"""
translate numpy.int/float into python native data type
"""
result = []
for i in data.index:
    # i = data.index[0]
    d0 = data.iloc[i].values
    d = []
    for j in d0:
        if 'int' in str(type(j)):
            res = j.item() if 'item' in dir(j) else j
        elif 'float' in str(type(j)):
            res = j.item() if 'item' in dir(j) else j
        else:
            res = j
        d.append(res)
    d = tuple(d)
    result.append(d)
result = tuple(result)
return result

Однак для обробки великих фреймів даних потрібно кілька хвилин. Я також шукаю більш ефективне рішення. Сподіваюся, що краща відповідь.