Додавання GeoPandas Dataframe до таблиці PostGIS?


17

У мене простий DataPreme GeoPandas:

введіть тут опис зображення

Я хотів би завантажити цей GeoDataframe в таблицю PostGIS. У мене вже встановлена ​​база даних з розширенням PostGIS, але не можу додати цей Dataframe як таблицю.

Я спробував таке:

engine = <>
meta = MetaData(engine)
eld_test = Table('eld_test', meta, Column('id', Integer, primary_key=True), Column('key_comb_drvr', Text), 
                 Column('geometry', Geometry('Point', srid=4326))) 
eld_test.create(engine) 
conn = engine.connect() 
conn.execute(eld_test.insert(), df.to_dict('records'))

Я спробував наступне: engine = <> # create table meta = MetaData (engine) eld_test = Таблиця ('eld_test', meta, Column ('id', Integer, Primary_key = True), Column ('key_comb_drvr', Text) , Стовпець ('геометрія', геометрія ('точка', srid = 4326))) eld_test.create (двигун) # екземпляр DBAPI зі списком диктів conn = engine.connect () conn.execute (eld_test.insert (), df .to_dict ('записи'))
thecornman

1
Ласкаво просимо до GIS SE, будь ласка, прочитайте нашу екскурсію ! Чи можете ви відредагувати свою публікацію, щоб включити код, розміщений у коментарях?
GISKid

Відповіді:


31

Використовуючи метод to_sql Panda та SQLAlchemy, ви можете зберігати кадр даних у Postgres. А оскільки ви зберігаєте геодефрагмент, GeoAlchemy буде обробляти колонку geom для вас. Ось зразок коду:

# Imports
from geoalchemy2 import Geometry, WKTElement
from sqlalchemy import *
import pandas as pd
import geopandas as gpd

# Creating SQLAlchemy's engine to use
engine = create_engine('postgresql://username:password@host:socket/database')


geodataframe = gpd.GeoDataFrame(pd.DataFrame.from_csv('<your dataframe source>'))
#... [do something with the geodataframe]

geodataframe['geom'] = geodataframe['geometry'].apply(lambda x: WKTElement(x.wkt, srid=<your_SRID>)

#drop the geometry column as it is now duplicative
geodataframe.drop('geometry', 1, inplace=True)

# Use 'dtype' to specify column's type
# For the geom column, we will use GeoAlchemy's type 'Geometry'
geodataframe.to_sql(table_name, engine, if_exists='append', index=False, 
                         dtype={'geom': Geometry('POINT', srid= <your_srid>)})

Варто зауважити, що параметр "if_exists" дозволяє вам обробляти спосіб додавання фрейму даних до вашої таблиці постгресів:

    if_exists = replace: If table exists, drop it, recreate it, and insert data.
    if_exists = fail: If table exists, do nothing.
    if_exists = append: If table exists, insert data. Create if does not exist.

Чи є можливість повторного відтворення тут, вказавши інший SRID, ніж той, що знаходиться у стовпці з геометрією, або чи потрібно використовувати поточний SRID? Також який найкращий спосіб отримати цілий SRID з стовпця геометрії ?
rovyko

Чому за допомогою цього методу у мене є sqlalchemy.exc.InvalidRequestError: Не можу відобразити: запитувані таблиці (и) недоступні в помилці двигуна?
Vilq

4

У мене також було те саме питання, яке ви задали, і витратили на нього багато-багато днів (більше, ніж я хочу визнати), шукаючи рішення. Припускаючи наступну таблицю postgreSQL з розширенням postGIS,

postgres=> \d cldmatchup.geo_points;
Table "cldmatchup.geo_points"
Column   |         Type         |                               Modifiers                                
-----------+----------------------+------------------------------------------------------------------------
gridid    | bigint               | not null default nextval('cldmatchup.geo_points_gridid_seq'::regclass)
lat       | real                 | 
lon       | real                 | 
the_point | geography(Point,4326) | 

Indexes:
"geo_points_pkey" PRIMARY KEY, btree (gridid)

ось що я нарешті запрацював:

import geopandas as gpd
from geoalchemy2 import Geography, Geometry
from sqlalchemy import create_engine, MetaData, Table
from sqlalchemy.orm import sessionmaker
from shapely.geometry import Point
from psycopg2.extensions import adapt, register_adapter, AsIs

# From http://initd.org/psycopg/docs/advanced.html#adapting-new-types but 
# modified to accomodate postGIS point type rather than a postgreSQL 
# point type format
def adapt_point(point):
    from psycopg2.extensions import adapt, AsIs
    x = adapt(point.x).getquoted()
    y = adapt(point.y).getquoted()
    return AsIs("'POINT (%s %s)'" % (x, y))

register_adapter(Point, adapt_point)

engine = create_engine('postgresql://<yourUserName>:postgres@localhost:5432/postgres', echo=False)
Session = sessionmaker(bind=engine)
session = Session()
meta = MetaData(engine, schema='cldmatchup')

# Create reference to pre-existing "geo_points" table in schema "cldmatchup"
geoPoints = Table('geo_points', meta, autoload=True, schema='cldmatchup', autoload_with=engine)

df = gpd.GeoDataFrame({'lat':[45.15, 35., 57.], 'lon':[-35, -150, -90.]})

# Create a shapely.geometry point 
the_point = [Point(xy) for xy in zip(df.lon, df.lat)]

# Create a GeoDataFrame specifying 'the_point' as the column with the 
# geometry data
crs = {'init': 'epsg:4326'}
geo_df = gpd.GeoDataFrame(df.copy(), crs=crs, geometry=the_point)

# Rename the geometry column to match the database table's column name.
# From https://media.readthedocs.org/pdf/geopandas/latest/geopandas.pdf,
# Section 1.2.2 p 7
geo_df = geo_df.rename(columns{'geometry':'the_point'}).set_geometry('the_point')

# Write to sql table 'geo_points'
geo_df.to_sql(geoPoints.name, engine, if_exists='append', schema='cldmatchup', index=False)

session.close()

Я не можу сказати, чи найкраща моя логіка підключення до бази даних, оскільки я в основному скопіював це з іншого посилання і був просто радий, що мені вдалося успішно автоматизувати (або відобразити) мою існуючу таблицю з визнанням геометрії. Я писав python для sql просторового коду лише кілька місяців, тому знаю, що можна багато чому навчитися.


0

У мене є рішення, яке вимагає лише psycopg2 і чіткого (крім того, геопанд, звичайно). Це, як правило, погана практика перебирати (Geo)DataFrameоб'єкти, оскільки це повільно, але для невеликих або для разових завдань все одно буде виконана робота.

В основному він працює, скидаючи геометрію у формат WKB в інший стовпчик, а потім повторно кидає його для GEOMETRYвведення під час вставки.

Зауважте, що вам доведеться створити таблицю заздалегідь за допомогою правильних стовпців.

import psycopg2 as pg2
from shapely.wkb import dumps as wkb_dumps
import geopandas as gpd


# Assuming you already have a GeoDataFrame called "gdf"...

# Copy the gdf if you want to keep the original intact
insert_gdf = gdf.copy()

# Make a new field containing the WKB dumped from the geometry column, then turn it into a regular 
insert_gdf["geom_wkb"] = insert_gdf["geometry"].apply(lambda x: wkb_dumps(x))

# Define an insert query which will read the WKB geometry and cast it to GEOMETRY type accordingly
insert_query = """
    INSERT INTO my_table (id, geom)
    VALUES (%(id)s, ST_GeomFromWKB(%(geom_wkb)s));
"""

# Build a list of execution parameters by iterating through the GeoDataFrame
# This is considered bad practice by the pandas community because it is slow.
params_list = [
    {
        "id": i,
        "geom_wkb": row["geom_wkb"]
    } for i, row in insert_gdf.iterrows()
]

# Connect to the database and make a cursor
conn = pg2.connect(host=<your host>, port=<your port>, dbname=<your dbname>, user=<your username>, password=<your password>)
cur = conn.cursor()

# Iterate through the list of execution parameters and apply them to an execution of the insert query
for params in params_list:
    cur.execute(insert_query, params)
conn.commit()
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.