Я використовую sklearn і маю проблеми з поширенням афінності. Я створив матрицю введення, і я продовжую отримувати наступну помилку.

ValueError: Input contains NaN, infinity or a value too large for dtype('float64').

Я бігав

np.isnan(mat.any()) #and gets False
np.isfinite(mat.all()) #and gets True

Я спробував використовувати

mat[np.isfinite(mat) == True] = 0

щоб зняти нескінченні значення, але це також не вийшло. Що я можу зробити, щоб позбутися нескінченних значень у своїй матриці, щоб я міг використовувати алгоритм поширення спорідненості?

Я використовую анаконду та пітон 2.7.9.

Це може статися всередині scikit, і це залежить від того, що ви робите. Рекомендую ознайомитися з документацією щодо функцій, які ви використовуєте. Ви можете використовувати такий, який залежить, наприклад, від того, що ваша матриця визначена позитивно і не відповідає цим критеріям.

EDIT : Як я міг пропустити це:

np.isnan(mat.any()) #and gets False
np.isfinite(mat.all()) #and gets True

явно помиляється. Правильно було б:

np.any(np.isnan(mat))

і

np.all(np.isfinite(mat))

Ви хочете перевірити, чи будь-який елемент є NaN, а чи не є значенням повернення anyфункції число ...

Я отримав те саме повідомлення про помилку при використанні sklearn з пандами . Моє рішення - скинути індекс мого кадру даних dfперед запуском будь-якого sklearn коду:

df = df.reset_index()

З цією проблемою я стикався багато разів, коли видаляв деякі записи df, наприклад,

df = df[df.label=='desired_one']

Це моя функція ( в залежності від цього ) , щоб очистити набір даних nan, Infі відсутність клітин (для перекошених наборів даних):

import pandas as pd

def clean_dataset(df):
    assert isinstance(df, pd.DataFrame), "df needs to be a pd.DataFrame"
    df.dropna(inplace=True)
    indices_to_keep = ~df.isin([np.nan, np.inf, -np.inf]).any(1)
    return df[indices_to_keep].astype(np.float64)

Розміри мого вхідного масиву були перекошені, оскільки в моєму вхідному CSV були порожні пробіли.

Це перевірка, на яку він не вдається:

• https://github.com/scikit-learn/scikit-learn/blob/0.17.X/sklearn/utils/validation.py#L51

Що говорить

def _assert_all_finite(X):
    """Like assert_all_finite, but only for ndarray."""
    X = np.asanyarray(X)
    # First try an O(n) time, O(1) space solution for the common case that
    # everything is finite; fall back to O(n) space np.isfinite to prevent
    # false positives from overflow in sum method.
    if (X.dtype.char in np.typecodes['AllFloat'] and not np.isfinite(X.sum())
            and not np.isfinite(X).all()):
        raise ValueError("Input contains NaN, infinity"
                         " or a value too large for %r." % X.dtype)

Тому переконайтеся, що у вашому введенні немає значень NaN. І всі ці значення насправді є плаваючими значеннями. Жодне зі значень також не повинно бути Inf.

З цією версією python 3:

/opt/anaconda3/bin/python --version
Python 3.6.0 :: Anaconda 4.3.0 (64-bit)

Переглядаючи деталі помилки, я виявив рядки кодів, що спричиняють збій:

/opt/anaconda3/lib/python3.6/site-packages/sklearn/utils/validation.py in _assert_all_finite(X)
     56             and not np.isfinite(X).all()):
     57         raise ValueError("Input contains NaN, infinity"
---> 58                          " or a value too large for %r." % X.dtype)
     59 
     60 

ValueError: Input contains NaN, infinity or a value too large for dtype('float64').

З цього моменту я міг отримати правильний спосіб перевірити, що відбувається з моїми даними, використовуючи той самий тест, який не дає повідомлення про помилку: np.isfinite(X)

Тоді за допомогою швидкої та брудної петлі я зміг виявити, що мої дані дійсно містять nans:

print(p[:,0].shape)
index = 0
for i in p[:,0]:
    if not np.isfinite(i):
        print(index, i)
    index +=1

(367340,)
4454 nan
6940 nan
10868 nan
12753 nan
14855 nan
15678 nan
24954 nan
30251 nan
31108 nan
51455 nan
59055 nan
...

Тепер все, що мені потрібно зробити, - це видалити значення з цих індексів.

У мене виникла помилка після спроби вибрати підмножину рядків:

df = df.reindex(index=my_index)

Виявляється, що my_indexмістили значення, які не містилися в df.index, тому функція reindex вставила кілька нових рядків і заповнила їх nan.

У більшості випадків позбавлення від нескінченних та нульових значень вирішує цю проблему.

позбутися нескінченних цінностей.

df.replace([np.inf, -np.inf], np.nan, inplace=True)

позбудьтеся від нульових значень так, як вам подобається, конкретного значення, такого як 999, означає, або створіть власну функцію для введення відсутніх значень

df.fillna(999, inplace=True)

У мене була однакова помилка, і в моєму випадку X і y були фреймами даних, тому мені довелося спочатку перетворити їх на матриці:

X = X.values.astype(np.float)
y = y.values.astype(np.float)

Редагувати: спочатку запропонований X.as_matrix () застарілий

я отримав таку ж помилку. з ним працювали df.fillna(-99999, inplace=True)перед тим, як робити будь-яку заміну, заміну тощо

У моєму випадку проблема полягала в тому, що багато функцій scikit повертають нумерові масиви, позбавлені індексу панд. Тож сталася невідповідність індексу, коли я використовував ці нумерові масиви для створення нових DataFrames, а потім намагався змішати їх з вихідними даними.

Видаліть усі нескінченні значення:

(і замініть міні або макс для цього стовпця)

# find min and max values for each column, ignoring nan, -inf, and inf
mins = [np.nanmin(matrix[:, i][matrix[:, i] != -np.inf]) for i in range(matrix.shape[1])]
maxs = [np.nanmax(matrix[:, i][matrix[:, i] != np.inf]) for i in range(matrix.shape[1])]

# go through matrix one column at a time and replace  + and -infinity 
# with the max or min for that column
for i in range(log_train_arr.shape[1]):
    matrix[:, i][matrix[:, i] == -np.inf] = mins[i]
    matrix[:, i][matrix[:, i] == np.inf] = maxs[i]

спробуйте

mat.sum()

Якщо сума ваших даних нескінченна (більша, ніж максимальне значення float, яке становить 3.402823e + 38), ви отримаєте цю помилку.

див. функцію _assert_all_finite у validation.py з вихідного коду scikit:

if is_float and np.isfinite(X.sum()):
    pass
elif is_float:
    msg_err = "Input contains {} or a value too large for {!r}."
    if (allow_nan and np.isinf(X).any() or
            not allow_nan and not np.isfinite(X).all()):
        type_err = 'infinity' if allow_nan else 'NaN, infinity'
        # print(X.sum())
        raise ValueError(msg_err.format(type_err, X.dtype))