Зважене стандартне відхилення в NumPy


76

numpy.average()має варіант ваг, але numpy.std()не має. Хтось має пропозиції щодо обхідного шляху?


До речі, обчислення зваженого std dev насправді є досить складною темою - існує більше ніж один спосіб зробити це. Дивіться тут чудову дискусію: stata.com/support/faqs/statistics/…
JohnE

Відповіді:


129

Як щодо наступного короткого «ручного розрахунку»?

def weighted_avg_and_std(values, weights):
    """
    Return the weighted average and standard deviation.

    values, weights -- Numpy ndarrays with the same shape.
    """
    average = numpy.average(values, weights=weights)
    # Fast and numerically precise:
    variance = numpy.average((values-average)**2, weights=weights)
    return (average, math.sqrt(variance))

6
Чому б не використати numpy.averageще раз для дисперсії?
user2357112 підтримує Моніку

4
Просто хотів зазначити, що це дасть упереджену дисперсію. Для невеликих розмірів вибірки, можливо, ви захочете повторно масштабувати дисперсію (до sqrt), щоб отримати неупереджену дисперсію. Див. En.wikipedia.org/wiki/…
Корі

1
Так, неупереджений оцінювач дисперсії буде дещо іншим. Ця відповідь дає стандартне відхилення, оскільки питання задає зважену версію numpy.std().
Eric O Lebigot

1
thx для цього рішення ... але чому ви використовуєте math.sqrtзамість того, np.sqrtщоб врешті-решт?
рафаель

1
np.sqrt()буде працювати, але оскільки varianceє простим (Numpy) плаваючим (а не масивом NumPy), він math.sqrt()є більш явним і доречним (і, отже, загалом швидшим, якщо це важливо).
Eric O Lebigot,

40

Існує клас в statsmodelsтому , що робить його легко обчислити зважені статистики: statsmodels.stats.weightstats.DescrStatsW.

Припускаючи цей набір даних і ваги:

import numpy as np
from statsmodels.stats.weightstats import DescrStatsW

array = np.array([1,2,1,2,1,2,1,3])
weights = np.ones_like(array)
weights[3] = 100

Ви ініціалізуєте клас (зауважте, що вам потрібно передати коефіцієнт корекції, дельта- ступінь свободи в цей момент):

weighted_stats = DescrStatsW(array, weights=weights, ddof=0)

Тоді ви можете розрахувати:

  • .meanзважене середнє :

    >>> weighted_stats.mean      
    1.97196261682243
    
  • .std зважене стандартне відхилення :

    >>> weighted_stats.std       
    0.21434289609681711
    
  • .varзважене відхилення :

    >>> weighted_stats.var       
    0.045942877107170932
    
  • .std_mean стандартна помилка зваженого середнього значення:

    >>> weighted_stats.std_mean  
    0.020818822467555047
    

    Про всяк випадок, якщо вас цікавить співвідношення між стандартною помилкою та стандартним відхиленням: Стандартна помилка (для ddof == 0) обчислюється як зважене стандартне відхилення, поділене на квадратний корінь суми ваг мінус 1 ( відповідне джерело для statsmodelsверсії 0,9 на GitHub ):

    standard_error = standard_deviation / sqrt(sum(weights) - 1)
    

Щоб використати цей підхід для легкого обчислення зваженого коефіцієнта варіації, див. Цю відповідь .
Проникність


6

У numpy / scipy ще немає такої функції, але є квиток, що пропонує цю додаткову функціональність. Там ви знайдете Statistics.py, який реалізує зважені стандартні відхилення.


1

Є дуже хороший приклад, запропонований gaborous :

import pandas as pd
import numpy as np
# X is the dataset, as a Pandas' DataFrame
mean = mean = np.ma.average(X, axis=0, weights=weights) # Computing the 
weighted sample mean (fast, efficient and precise)

# Convert to a Pandas' Series (it's just aesthetic and more 
# ergonomic; no difference in computed values)
mean = pd.Series(mean, index=list(X.keys())) 
xm = X-mean # xm = X diff to mean
xm = xm.fillna(0) # fill NaN with 0 (because anyway a variance of 0 is 
just void, but at least it keeps the other covariance's values computed 
correctly))
sigma2 = 1./(w.sum()-1) * xm.mul(w, axis=0).T.dot(xm); # Compute the 
unbiased weighted sample covariance

Правильне рівняння для зваженої неупередженої коваріації вибірки, URL (версія: 2016-06-28)

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.