Як прочитати дані CSV в масив записів у NumPy?

Цікаво , якщо є прямий шлях , щоб імпортувати вміст файлу CSV в масив записів, скільки в тому , що Лепеха read.table(), read.delim()і read.csv()імпорт сімейних даних в кадр даних лепехи?

Або це найкращий спосіб використовувати csv.reader (), а потім застосувати щось на кшталт numpy.core.records.fromrecords()?

Для цього можна скористатися genfromtxt()методом Numpy , встановивши delimiterkwarg на кому.

from numpy import genfromtxt
my_data = genfromtxt('my_file.csv', delimiter=',')

Більш детальну інформацію про функцію можна знайти у відповідній документації .

Я рекомендую read_csvфункцію з pandasбібліотеки:

import pandas as pd
df=pd.read_csv('myfile.csv', sep=',',header=None)
df.values
array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

Це дає панди DataFrame - дозволяє безліч корисних функцій маніпулювання даними, які безпосередньо не доступні з масивними записами numpy .

DataFrame - це двовимірна структура даних з міткою зі стовпцями потенційно різних типів. Ви можете думати про це як електронну таблицю або таблицю SQL ...

Я також рекомендував би genfromtxt. Однак, оскільки питання запитує масив записів , на відміну від звичайного масиву, dtype=Noneпараметр потрібно додати до genfromtxtвиклику:

З огляду на вхідний файл myfile.csv:

1.0, 2, 3
4, 5.5, 6

import numpy as np
np.genfromtxt('myfile.csv',delimiter=',')

дає масив:

array([[ 1. ,  2. ,  3. ],
       [ 4. ,  5.5,  6. ]])

і

np.genfromtxt('myfile.csv',delimiter=',',dtype=None)

дає масив записів:

array([(1.0, 2.0, 3), (4.0, 5.5, 6)], 
      dtype=[('f0', '<f8'), ('f1', '<f8'), ('f2', '<i4')])

Це має перевагу в тому, що файл з декількома типами даних (включаючи рядки) можна легко імпортувати .

Я приурочила

from numpy import genfromtxt
genfromtxt(fname = dest_file, dtype = (<whatever options>))

проти

import csv
import numpy as np
with open(dest_file,'r') as dest_f:
    data_iter = csv.reader(dest_f,
                           delimiter = delimiter,
                           quotechar = '"')
    data = [data for data in data_iter]
data_array = np.asarray(data, dtype = <whatever options>)

на 4,6 мільйона рядків з приблизно 70 стовпцями і виявив, що шлях NumPy зайняв 2 хв 16 секунд, а метод розуміння списку csv займав 13 секунд.

Я рекомендував би метод розуміння списку csv, оскільки він, швидше за все, покладається на попередньо складені бібліотеки, а не на інтерпретатора так само, як на NumPy. Я підозрюю, що метод панди мав би подібний перекладач.

Ви також можете спробувати, recfromcsv()які можуть відгадати типи даних і повернути належним чином відформатований масив записів.

Оскільки я спробував обидва способи використання NumPy та Pandas, використання pandas має багато переваг:

• Швидше
• Менше використання процесора
• 1/3 використання оперативної пам'яті порівняно з NumPy genfromtxt

Це мій тестовий код:

$ for f in test_pandas.py test_numpy_csv.py ; do  /usr/bin/time python $f; done
2.94user 0.41system 0:03.05elapsed 109%CPU (0avgtext+0avgdata 502068maxresident)k
0inputs+24outputs (0major+107147minor)pagefaults 0swaps

23.29user 0.72system 0:23.72elapsed 101%CPU (0avgtext+0avgdata 1680888maxresident)k
0inputs+0outputs (0major+416145minor)pagefaults 0swaps

test_numpy_csv.py

from numpy import genfromtxt
train = genfromtxt('/home/hvn/me/notebook/train.csv', delimiter=',')

test_pandas.py

from pandas import read_csv
df = read_csv('/home/hvn/me/notebook/train.csv')

Файл даних:

du -h ~/me/notebook/train.csv
 59M    /home/hvn/me/notebook/train.csv

З NumPy та пандами у версіях:

$ pip freeze | egrep -i 'pandas|numpy'
numpy==1.13.3
pandas==0.20.2

Ви можете використовувати цей код для надсилання даних файлу CSV в масив:

import numpy as np
csv = np.genfromtxt('test.csv', delimiter=",")
print(csv)

Використання numpy.loadtxt

Досить простий метод. Але для цього потрібно, щоб усі елементи плавали (int тощо)

import numpy as np 
data = np.loadtxt('c:\\1.csv',delimiter=',',skiprows=0)  

Це найпростіший спосіб:

import csv with open('testfile.csv', newline='') as csvfile: data = list(csv.reader(csvfile))

Тепер кожен запис даних - це запис, представлений у вигляді масиву. Отже, у вас є 2D масив. Це врятувало мені стільки часу.

Я спробував це:

import pandas as p
import numpy as n

closingValue = p.read_csv("<FILENAME>", usecols=[4], dtype=float)
print(closingValue)

Я б запропонував використовувати таблиці ( pip3 install tables). Ви можете зберегти свій .csvфайл, .h5використовуючи pandas ( pip3 install pandas),

import pandas as pd
data = pd.read_csv("dataset.csv")
store = pd.HDFStore('dataset.h5')
store['mydata'] = data
store.close()

Потім ви можете легко та з меншим часом навіть для величезної кількості даних завантажувати свої дані в масив NumPy .

import pandas as pd
store = pd.HDFStore('dataset.h5')
data = store['mydata']
store.close()

# Data in NumPy format
data = data.values

Ця робота як шарм ...

import csv
with open("data.csv", 'r') as f:
    data = list(csv.reader(f, delimiter=";"))

import numpy as np
data = np.array(data, dtype=np.float)