Попередження користувача Python Pandas: Сортування, оскільки вісь, що не об’єднується, не вирівняна

92

Я роблю практику коду та застосовую злиття фреймів даних, роблячи це, отримуючи попередження користувача

/usr/lib64/python2.7/site-packages/pandas/core/frame.py:6201: FutureWarning: сортування, оскільки вісь, що не є конкатенацією, не вирівняна. Майбутня версія панд зміниться на не сортувати за замовчуванням. Щоб прийняти майбутню поведінку, передайте 'sort = True'. Щоб зберегти поточну поведінку та заглушити попередження, передайте sort = False

На цих рядках коду: Чи можете ви допомогти, щоб отримати рішення цього попередження.

placement_video = [self.read_sql_vdx_summary, self.read_sql_video_km]
placement_video_summary = reduce(lambda left, right: pd.merge(left, right, on='PLACEMENT', sort=False), placement_video)


placement_by_video = placement_video_summary.loc[:, ["PLACEMENT", "PLACEMENT_NAME", "COST_TYPE", "PRODUCT",
                                                     "VIDEONAME", "VIEW0", "VIEW25", "VIEW50", "VIEW75",
                                                     "VIEW100",
                                                     "ENG0", "ENG25", "ENG50", "ENG75", "ENG100", "DPE0",
                                                     "DPE25",
                                                     "DPE50", "DPE75", "DPE100"]]

# print (placement_by_video)

placement_by_video["Placement# Name"] = placement_by_video[["PLACEMENT",
                                                            "PLACEMENT_NAME"]].apply(lambda x: ".".join(x),
                                                                                     axis=1)

placement_by_video_new = placement_by_video.loc[:,
                         ["PLACEMENT", "Placement# Name", "COST_TYPE", "PRODUCT", "VIDEONAME",
                          "VIEW0", "VIEW25", "VIEW50", "VIEW75", "VIEW100",
                          "ENG0", "ENG25", "ENG50", "ENG75", "ENG100", "DPE0", "DPE25",
                          "DPE50", "DPE75", "DPE100"]]

placement_by_km_video = [placement_by_video_new, self.read_sql_km_for_video]
placement_by_km_video_summary = reduce(lambda left, right: pd.merge(left, right, on=['PLACEMENT', 'PRODUCT'], sort=False),
                                       placement_by_km_video)

#print (list(placement_by_km_video_summary))
#print(placement_by_km_video_summary)
#exit()
# print(placement_by_video_new)
"""Conditions for 25%view"""
mask17 = placement_by_km_video_summary["PRODUCT"].isin(['Display', 'Mobile'])
mask18 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE", "CPM", "CPCV"])
mask19 = placement_by_km_video_summary["PRODUCT"].isin(["InStream"])
mask20 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE", "CPM", "CPE+", "CPCV"])
mask_video_video_completions = placement_by_km_video_summary["COST_TYPE"].isin(["CPCV"])
mask21 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE+"])
mask22 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE", "CPM"])
mask23 = placement_by_km_video_summary["PRODUCT"].isin(['Display', 'Mobile', 'InStream'])
mask24 = placement_by_km_video_summary["COST_TYPE"].isin(["CPE", "CPM", "CPE+"])

choice25video_eng = placement_by_km_video_summary["ENG25"]
choice25video_vwr = placement_by_km_video_summary["VIEW25"]
choice25video_deep = placement_by_km_video_summary["DPE25"]

placement_by_km_video_summary["25_pc_video"] = np.select([mask17 & mask18, mask19 & mask20, mask17 & mask21],
                                                  [choice25video_eng, choice25video_vwr, choice25video_deep])


"""Conditions for 50%view"""
choice50video_eng = placement_by_km_video_summary["ENG50"]
choice50video_vwr = placement_by_km_video_summary["VIEW50"]
choice50video_deep = placement_by_km_video_summary["DPE50"]

placement_by_km_video_summary["50_pc_video"] = np.select([mask17 & mask18, mask19 & mask20, mask17 & mask21],
                                                  [choice50video_eng,
                                                   choice50video_vwr, choice50video_deep])

"""Conditions for 75%view"""

choice75video_eng = placement_by_km_video_summary["ENG75"]
choice75video_vwr = placement_by_km_video_summary["VIEW75"]
choice75video_deep = placement_by_km_video_summary["DPE75"]

placement_by_km_video_summary["75_pc_video"] = np.select([mask17 & mask18, mask19 & mask20, mask17 & mask21],
                                                  [choice75video_eng,
                                                   choice75video_vwr,
                                                   choice75video_deep])

"""Conditions for 100%view"""

choice100video_eng = placement_by_km_video_summary["ENG100"]
choice100video_vwr = placement_by_km_video_summary["VIEW100"]
choice100video_deep = placement_by_km_video_summary["DPE100"]
choicecompletions = placement_by_km_video_summary['COMPLETIONS']

placement_by_km_video_summary["100_pc_video"] = np.select([mask17 & mask22, mask19 & mask24, mask17 & mask21, mask23 & mask_video_video_completions],
                                                          [choice100video_eng, choice100video_vwr, choice100video_deep, choicecompletions])



"""conditions for 0%view"""

choice0video_eng = placement_by_km_video_summary["ENG0"]
choice0video_vwr = placement_by_km_video_summary["VIEW0"]
choice0video_deep = placement_by_km_video_summary["DPE0"]

placement_by_km_video_summary["Views"] = np.select([mask17 & mask18, mask19 & mask20, mask17 & mask21],
                                                   [choice0video_eng,
                                                    choice0video_vwr,
                                                    choice0video_deep])


#print (placement_by_km_video_summary)
#exit()

#final Table

placement_by_video_summary = placement_by_km_video_summary.loc[:,
                             ["PLACEMENT", "Placement# Name", "PRODUCT", "VIDEONAME", "COST_TYPE",
                              "Views", "25_pc_video", "50_pc_video", "75_pc_video","100_pc_video",
                              "ENGAGEMENTS","IMPRESSIONS", "DPEENGAMENTS"]]

#placement_by_km_video = [placement_by_video_summary, self.read_sql_km_for_video]
#placement_by_km_video_summary = reduce(lambda left, right: pd.merge(left, right, on=['PLACEMENT', 'PRODUCT']),
                                       #placement_by_km_video)


#print(placement_by_video_summary)
#exit()
# dup_col =["IMPRESSIONS","ENGAGEMENTS","DPEENGAMENTS"]

# placement_by_video_summary.loc[placement_by_video_summary.duplicated(dup_col),dup_col] = np.nan

# print ("Dhar",placement_by_video_summary)

'''adding views based on conditions'''
#filter maximum value from videos

placement_by_video_summary_new = placement_by_km_video_summary.loc[
    placement_by_km_video_summary.reset_index().groupby(['PLACEMENT', 'PRODUCT'])['Views'].idxmax()]
#print (placement_by_video_summary_new)
#exit()
# print (placement_by_video_summary_new)
# mask22 = (placement_by_video_summary_new.PRODUCT.str.upper ()=='DISPLAY') & (placement_by_video_summary_new.COST_TYPE=='CPE')

placement_by_video_summary_new.loc[mask17 & mask18, 'Views'] = placement_by_video_summary_new['ENGAGEMENTS']
placement_by_video_summary_new.loc[mask19 & mask20, 'Views'] = placement_by_video_summary_new['IMPRESSIONS']
placement_by_video_summary_new.loc[mask17 & mask21, 'Views'] = placement_by_video_summary_new['DPEENGAMENTS']

#print (placement_by_video_summary_new)
#exit()
placement_by_video_summary = placement_by_video_summary.drop(placement_by_video_summary_new.index).append(
    placement_by_video_summary_new).sort_index()

placement_by_video_summary["Video Completion Rate"] = placement_by_video_summary["100_pc_video"] / \
                                                      placement_by_video_summary["Views"]

placement_by_video_final = placement_by_video_summary.loc[:,
                           ["Placement# Name", "PRODUCT", "VIDEONAME", "Views",
                            "25_pc_video", "50_pc_video", "75_pc_video", "100_pc_video",
                            "Video Completion Rate"]]
python  pandas 
— MishD
джерело

Відповіді:

135

tl; dr:

concatі в appendданий час сортує індекс неконкатенації (наприклад, стовпці, якщо ви додаєте рядки), якщо стовпці не збігаються. У пандах 0.23 це почало генерувати попередження; передайте параметр, sort=Trueщоб заглушити його. Надалі значення за замовчуванням зміниться на не сортувати, тому найкраще вказати sort=Trueабо Falseзараз, або ще краще переконатися, що ваші індекси неконкатенації збігаються.

Попередження нове у pandas 0.23.0 :

У майбутній версії панд pandas.concat()і DataFrame.append()більше не буде сортувати вісь, що не є об'єднаною, коли вона ще не вирівняна. Поточна поведінка така ж, як і попередня (сортування), але тепер видається попередження, коли сортування не вказано і вісь, що не об'єднується, не вирівняна, посилання .

Додаткова інформація зі зв’язаного дуже старого випуску github, коментар smcinerney :

Під час конкатування DataFrames імена стовпців буквено-цифрово сортуються, якщо між ними є якісь відмінності. Якщо вони однакові в DataFrames, вони не сортуються.

Цей вид є бездокументарним та небажаним. Звичайно, поведінка за замовчуванням не повинна бути сортуванням.

Через деякий час параметр sortбув реалізований в pandas.concatі DataFrame.append:

sort : boolean, за замовчуванням None

Відсортуйте вісь, що не є об'єднаною, якщо вона ще не вирівняна, коли об'єднання є "зовнішнім". Поточне сортування за замовчуванням застаріло і в наступній версії панд зміниться на несортування.

Явно передайте sort = True, щоб замовчувати попередження та сортувати. Явно передайте sort = False, щоб заглушити попередження, а не сортувати.

Це не має ефекту, коли join = 'внутрішній', який вже зберігає порядок осі, що не об'єднується.

Отже, якщо обидва DataFrames мають однакові стовпці в однаковому порядку, немає попередження та сортування:

df1 = pd.DataFrame({"a": [1, 2], "b": [0, 8]}, columns=['a', 'b'])
df2 = pd.DataFrame({"a": [4, 5], "b": [7, 3]}, columns=['a', 'b'])

print (pd.concat([df1, df2]))
   a  b
0  1  0
1  2  8
0  4  7
1  5  3

df1 = pd.DataFrame({"a": [1, 2], "b": [0, 8]}, columns=['b', 'a'])
df2 = pd.DataFrame({"a": [4, 5], "b": [7, 3]}, columns=['b', 'a'])

print (pd.concat([df1, df2]))
   b  a
0  0  1
1  8  2
0  7  4
1  3  5

Але якщо DataFrames мають різні стовпці або однакові стовпці в іншому порядку, pandas повертає попередження, якщо жоден параметр sortявно не встановлений ( sort=Noneце значення за замовчуванням):

df1 = pd.DataFrame({"a": [1, 2], "b": [0, 8]}, columns=['b', 'a'])
df2 = pd.DataFrame({"a": [4, 5], "b": [7, 3]}, columns=['a', 'b'])

print (pd.concat([df1, df2]))

FutureWarning: Сортування, оскільки вісь, що не об'єднується, не вирівняна.

   a  b
0  1  0
1  2  8
0  4  7
1  5  3

print (pd.concat([df1, df2], sort=True))
   a  b
0  1  0
1  2  8
0  4  7
1  5  3

print (pd.concat([df1, df2], sort=False))
   b  a
0  0  1
1  8  2
0  7  4
1  3  5

Якщо DataFrames мають різні стовпці, але перші стовпчики суміщені - вони будуть правильно призначені один одному (стовпців aі bвід df1з , aі bз df2в наведеному нижче прикладі) , так як вони існують в обох. Для інших стовпців, які існують в одному, але не в обох DataFrames, створюються відсутні значення.

Нарешті, якщо ви пройдете sort=True, стовпці сортуються буквено-цифрово. Якщо sort=Falseі другий DafaFrame має стовпці, яких немає в першому, вони додаються до кінця без сортування:

df1 = pd.DataFrame({"a": [1, 2], "b": [0, 8], 'e':[5, 0]}, 
                    columns=['b', 'a','e'])
df2 = pd.DataFrame({"a": [4, 5], "b": [7, 3], 'c':[2, 8], 'd':[7, 0]}, 
                    columns=['c','b','a','d'])

print (pd.concat([df1, df2]))

FutureWarning: Сортування, оскільки вісь, що не об'єднується, не вирівняна.

   a  b    c    d    e
0  1  0  NaN  NaN  5.0
1  2  8  NaN  NaN  0.0
0  4  7  2.0  7.0  NaN
1  5  3  8.0  0.0  NaN

print (pd.concat([df1, df2], sort=True))
   a  b    c    d    e
0  1  0  NaN  NaN  5.0
1  2  8  NaN  NaN  0.0
0  4  7  2.0  7.0  NaN
1  5  3  8.0  0.0  NaN

print (pd.concat([df1, df2], sort=False))

   b  a    e    c    d
0  0  1  5.0  NaN  NaN
1  8  2  0.0  NaN  NaN
0  7  4  NaN  2.0  7.0
1  3  5  NaN  8.0  0.0

У вашому коді:

placement_by_video_summary = placement_by_video_summary.drop(placement_by_video_summary_new.index)
                                                       .append(placement_by_video_summary_new, sort=True)
                                                       .sort_index()
— jezrael
джерело
21
Я не зовсім розумію це: In a future version of pandas pandas.concat() and DataFrame.append() will no longer sort the non-concatenation axis when it is not already aligned. що таке non-concatenation axisі як виглядатиме результат? чи не відповідають стовпці a та b? або просто порядок стовпців різний?
— пропозиція не може відмовити
9
Незрозуміло, що is not alignedозначає - чи можете ви це прокоментувати?
— Mr_and_Mrs_D
1
Я вважаю, alignedозначає, що рівні на осі однакові: якщо є різниця будь-якого типу, вони більше не alignedбудуть і спричинять таку поведінку (наприклад, якщо рівні осі є ['c','b','a']і ['a'])
— Роберт Мюль,
3
@RobertMuil Я думаю, що використання цього терміна levelпотенційно заплутає якlevel має певне значення для фреймів даних pandas, коли існує MultiIndex. З того, що я розумію, alignedу цьому контексті йдеться про впорядкування індексу рядків / стовпців. Отже, якщо порядок індексу осі, що не пов’язаний, відрізняється для ваших двох кадрів, тоді ви можете вказати, чи слід зберігати порядок у першому пройденому кадрі, та відсортувати другий кадр за відповідністю, або відсортувати індекс ОБИХ кадрів перед об’єднанням. Це також заплутано для мене, тому виправлення вітаємо!
— ac24
Стовпці вирівнюються, коли tuple(df1.columns) == tuple(df2.columns). Віссю, що не об’єднується, є вісь (рядки або стовпці), паралельна швам, уздовж яких зшиваються рамки даних.
— BallpointBen
107

Відповідь jezrael хороша, але я не відповів на запитання, яке у мене виникло: Чи неправильно помилку в моїх помилках отримає прапорець "сортувати"? Відповідь, мабуть, "ні", у вас все добре.

from pandas import DataFrame, concat

a = DataFrame([{'a':1,      'c':2,'d':3      }])
b = DataFrame([{'a':4,'b':5,      'd':6,'e':7}])

>>> concat([a,b],sort=False)
   a    c  d    b    e
0  1  2.0  3  NaN  NaN
0  4  NaN  6  5.0  7.0

>>> concat([a,b],sort=True)
   a    b    c  d    e
0  1  NaN  2.0  3  NaN
0  4  5.0  NaN  6  7.0
— RLC
джерело
що саме сортується hier чи не сортується?
— Бен
2
@Ben попередження з'являється, коли порядок стовпців відрізняється між кадрами даних. Як бачите, якщо sort = True, тоді стовпці після об'єднання сортуються за алфавітом
— MP23,
У цьому прикладі це не так, але якщо ви об'єднуєте кілька Серій або DataFrames з DatetimeIndex, рядки більше не знаходяться в хронологічному порядку. Технічно дані не зіпсовані, але ваш результат може бути важче прочитати.
— hugovdberg
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.