Як усунути помилку “AttributeError: __exit__” при багатопроцесорній обробці в Python?


87

Я спробував переписати деякий код читання csv, щоб мати можливість запускати його на декількох ядрах в Python 3.2.2. Я спробував використати Poolоб'єкт багатопроцесорної обробки, який я адаптував з робочих прикладів (і вже працював для мене для іншої частини мого проекту). Я наткнувся на повідомлення про помилку, яке мені було важко розшифрувати та усунути неполадки.

Помилка:

Traceback (most recent call last):
  File "parser5_nodots_parallel.py", line 256, in <module>
    MG,ppl = csv2graph(r)
  File "parser5_nodots_parallel.py", line 245, in csv2graph
    node_chunks)
  File "/Library/Frameworks/Python.framework/Versions/3.2/lib/python3.2/multiprocessing/pool.py", line 251, in map
    return self.map_async(func, iterable, chunksize).get()
  File "/Library/Frameworks/Python.framework/Versions/3.2/lib/python3.2/multiprocessing/pool.py", line 552, in get
    raise self._value
AttributeError: __exit__

Відповідний код:

import csv
import time
import datetime
import re
from operator import itemgetter
from multiprocessing import Pool
import itertools

def chunks(l,n):
    """Divide a list of nodes `l` in `n` chunks"""
    l_c = iter(l)
    while 1:
        x = tuple(itertools.islice(l_c,n))
        if not x:
            return
        yield x

def csv2nodes(r):
    strptime = time.strptime
    mktime = time.mktime
    l = []
    ppl = set()
    pattern = re.compile(r"""[A-Za-z0-9"/]+?(?=[,\n])""")
    for row in r:
        with pattern.findall(row) as f:
            cell = int(f[3])
            id = int(f[2])
            st = mktime(strptime(f[0],'%d/%m/%Y'))
            ed = mktime(strptime(f[1],'%d/%m/%Y'))
        # collect list
        l.append([(id,cell,{1:st,2: ed})])
        # collect separate sets
        ppl.add(id)
    return (l,ppl)

def csv2graph(source):
    MG=nx.MultiGraph()
    # Remember that I use integers for edge attributes, to save space! Dic above.
    # start: 1
    # end: 2
    p = Pool()
    node_divisor = len(p._pool)
    node_chunks = list(chunks(source,int(len(source)/int(node_divisor))))
    num_chunks = len(node_chunks)
    pedgelists = p.map(csv2nodes,
                       node_chunks)
    ll = []
    ppl = set()
    for l in pedgelists:
        ll.append(l[0])
        ppl.update(l[1])
    MG.add_edges_from(ll)
    return (MG,ppl)

with open('/Users/laszlosandor/Dropbox/peers_prisons/python/codetenus_test.txt','r') as source:
    r = source.readlines()
    MG,ppl = csv2graph(r)

Який хороший спосіб вирішити цю проблему?


1
У моєму випадку я випадково проходив Noneчерез проблеми з обсягом.
ThorSummoner

У мене це було, коли я оголошував клас, Class SomeClass(object):навіть якщо я прямо мав вихід у своєму класі. Після того, як я вилучив спадщину з objectнього спрацювало. Я не маю уявлення чому, тому YMMV
mpag

Відповіді:


154

Проблема в цьому рядку:

with pattern.findall(row) as f:

Ви використовуєте withзаяву. Для цього потрібно об'єкт __enter__і __exit__методи. Але pattern.findallповертає a list, withнамагається зберегти __exit__метод, але він не може його знайти, і викликає помилку. Просто використовуйте

f = pattern.findall(row)

замість цього.


62

Це не проблема автора запиту в цьому випадку, але першим кроком з усунення несправностей для загального "AttributeError: __exit__" має бути переконання, що дужки є, наприклад

with SomeContextManager() as foo:
    #works because a new object is referenced...

ні

with SomeContextManager as foo:
    #AttributeError because the class is referenced

Час від часу виганяє мене, і я опиняюсь тут -__-


9

Помилка також трапляється при спробі використання

with multiprocessing.Pool() as pool:
   # ...

з версією Python, яка є занадто старою (наприклад, Python 2.X) і не підтримує використання withразом із багатопроцесорними пулами.

(Докладніше див. Цю відповідь https://stackoverflow.com/a/25968716/1426569 на інше питання)


Так! Чудово працює на Python 3.X
Sreekant Shenoy

-1

Причиною цієї помилки є: додаток Flask вже запущений, не вимикався, і посеред цього ми намагаємося запустити інший екземпляр за допомогою: with app.app_context (): #Code Перш ніж ми використовуємо це із заявою, нам потрібно зробити переконайтеся, що область попередньої запущеної програми закрита.

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.