Налаштування властивостей для підкласу Pandas DataFrame


9

Я намагаюся створити підклас, pd.DataFrameякий має два необхідні аргументи при ініціалізації ( groupі timestamp_col). Я хочу запустити перевірку цих аргументів, groupі timestamp_colтому у мене є метод встановлення для кожного з властивостей. Це все працює, поки я не спробую його set_index()отримати TypeError: 'NoneType' object is not iterable. Здається, жоден аргумент не передається моїй функції встановлення в test_set_indexі test_assignment_with_indexed_obj. Якщо я додаю if g == None: returnдо своєї функції встановлення, я можу здати тестові випадки, але не думаю, що це правильне рішення.

Як я повинен здійснити перевірку властивості для цих необхідних аргументів?

Нижче мій клас:

import pandas as pd
import numpy as np


class HistDollarGains(pd.DataFrame):
    @property
    def _constructor(self):
        return HistDollarGains._internal_ctor

    _metadata = ["group", "timestamp_col", "_group", "_timestamp_col"]

    @classmethod
    def _internal_ctor(cls, *args, **kwargs):
        kwargs["group"] = None
        kwargs["timestamp_col"] = None
        return cls(*args, **kwargs)

    def __init__(
        self,
        data,
        group,
        timestamp_col,
        index=None,
        columns=None,
        dtype=None,
        copy=True,
    ):
        super(HistDollarGains, self).__init__(
            data=data, index=index, columns=columns, dtype=dtype, copy=copy
        )

        self.group = group
        self.timestamp_col = timestamp_col

    @property
    def group(self):
        return self._group

    @group.setter
    def group(self, g):
        if g == None:
            return

        if isinstance(g, str):
            group_list = [g]
        else:
            group_list = g

        if not set(group_list).issubset(self.columns):
            raise ValueError("Data does not contain " + '[' + ', '.join(group_list) + ']')
        self._group = group_list

    @property
    def timestamp_col(self):
        return self._timestamp_col

    @timestamp_col.setter
    def timestamp_col(self, t):
        if t == None:
            return
        if not t in self.columns:
            raise ValueError("Data does not contain " + '[' + t + ']')
        self._timestamp_col = t

Ось мої тестові випадки:

import pytest

import pandas as pd
import numpy as np

from myclass import *


@pytest.fixture(scope="module")
def sample():
    samp = pd.DataFrame(
        [
            {"timestamp": "2020-01-01", "group": "a", "dollar_gains": 100},
            {"timestamp": "2020-01-01", "group": "b", "dollar_gains": 100},
            {"timestamp": "2020-01-01", "group": "c", "dollar_gains": 110},
            {"timestamp": "2020-01-01", "group": "a", "dollar_gains": 110},
            {"timestamp": "2020-01-01", "group": "b", "dollar_gains": 90},
            {"timestamp": "2020-01-01", "group": "d", "dollar_gains": 100},
        ]
    )

    return samp

@pytest.fixture(scope="module")
def sample_obj(sample):
    return HistDollarGains(sample, "group", "timestamp")

def test_constructor_without_args(sample):
    with pytest.raises(TypeError):
        HistDollarGains(sample)


def test_constructor_with_string_group(sample):
    hist_dg = HistDollarGains(sample, "group", "timestamp")
    assert hist_dg.group == ["group"]
    assert hist_dg.timestamp_col == "timestamp"


def test_constructor_with_list_group(sample):
    hist_dg = HistDollarGains(sample, ["group", "timestamp"], "timestamp")

def test_constructor_with_invalid_group(sample):
    with pytest.raises(ValueError):
        HistDollarGains(sample, "invalid_group", np.random.choice(sample.columns))

def test_constructor_with_invalid_timestamp(sample):
    with pytest.raises(ValueError):
        HistDollarGains(sample, np.random.choice(sample.columns), "invalid_timestamp")

def test_assignment_with_indexed_obj(sample_obj):
    b = sample_obj.set_index(sample_obj.group + [sample_obj.timestamp_col])

def test_set_index(sample_obj):
    # print(isinstance(a, pd.DataFrame))
    assert sample_obj.set_index(sample_obj.group + [sample_obj.timestamp_col]).index.names == ['group', 'timestamp']

1
Якщо Noneдля groupресурсу недійсне значення , ви не повинні підвищувати ValueError?
чепнер

1
Ви праві, що Noneце недійсне значення, тому мені не подобається оператор if. Але додаючи, що жоден не змушує його пройти тести. Я шукаю, як правильно це виправити без заяви "if if".
cpage

2
Сетер повинен підняти a ValueError. Проблема полягає в тому, щоб з’ясувати, на що намагаються встановити groupатрибут Noneв першу чергу.
чепнер

@chepner так, точно.
cpage

Можливо, Pandas Flavor може допомогти.
Микола Зотко

Відповіді:


3

set_index()Метод викликатимеself.copy() всередині , щоб створити копію об'єкта DataFrame (переглянути вихідний код тут ), всередині якого він використовує свій власний алгоритм конструктора _internal_ctor(), щоб створити новий об'єкт ( джерело ). Зауважимо, що self._constructor()це ідентично self._internal_ctor(), що є загальним внутрішнім методом майже для всіх класів панд для створення нових екземплярів під час таких операцій, як глибока копія або нарізка. Ваша проблема фактично походить від цієї функції:

class HistDollarGains(pd.DataFrame):
    ...
    @classmethod
    def _internal_ctor(cls, *args, **kwargs):
        kwargs["group"]         = None
        kwargs["timestamp_col"] = None
        return cls(*args, **kwargs) # this is equivalent to calling
                                    # HistDollarGains(data, group=None, timestamp_col=None)

Я думаю, ви скопіювали цей код із випуску github . Рядки kwargs["**"] = Noneчітко вказують конструктору встановити Noneі groupі, і timestamp_col. Нарешті сеттер / валідатор отримує Noneяк нове значення і викликає помилку.

Тому слід встановити прийнятне значення до groupта timestamp_col.

    @classmethod
    def _internal_ctor(cls, *args, **kwargs):
        kwargs["group"]         = []
        kwargs["timestamp_col"] = 'timestamp' # or whatever name that makes your validator happy
        return cls(*args, **kwargs)

Потім ви можете видалити if g == None: return рядки у валідаторі.

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.