JSON-серіалізація моделей Google App Engine


86

Я вже давно шукаю успіху. У моєму проекті не використовується Django, чи існує простий спосіб серіалізації моделей App Engine (google.appengine.ext.db.Model) у JSON або мені потрібно написати власний серіалізатор?

Модель:

class Photo(db.Model):
    filename = db.StringProperty()
    title = db.StringProperty()
    description = db.StringProperty(multiline=True)
    date_taken = db.DateTimeProperty()
    date_uploaded = db.DateTimeProperty(auto_now_add=True)
    album = db.ReferenceProperty(Album, collection_name='photo')

Відповіді:


62

Проста рекурсивна функція може бути використана для перетворення сутності (та будь-яких референтів) у вкладений словник, який можна передати simplejson:

import datetime
import time

SIMPLE_TYPES = (int, long, float, bool, dict, basestring, list)

def to_dict(model):
    output = {}

    for key, prop in model.properties().iteritems():
        value = getattr(model, key)

        if value is None or isinstance(value, SIMPLE_TYPES):
            output[key] = value
        elif isinstance(value, datetime.date):
            # Convert date/datetime to MILLISECONDS-since-epoch (JS "new Date()").
            ms = time.mktime(value.utctimetuple()) * 1000
            ms += getattr(value, 'microseconds', 0) / 1000
            output[key] = int(ms)
        elif isinstance(value, db.GeoPt):
            output[key] = {'lat': value.lat, 'lon': value.lon}
        elif isinstance(value, db.Model):
            output[key] = to_dict(value)
        else:
            raise ValueError('cannot encode ' + repr(prop))

    return output

2
У коді є невелика помилка: Там, де у вас є "output [key] = to_dict (model)", воно повинно бути: "output [key] = to_dict (value)". До того ж це ідеально. Дякую!
arikfr

1
Цей код не вдасться, коли він зустріне UserProperty. Я обійшов це, зробивши "output [key] = str (value)" в останньому ще, замість того, щоб викликати помилку.
Борис Терзіч

1
Чудові речі. Невелике вдосконалення полягає у використанні замість цього ключів iterkeys (), оскільки ви не використовуєте там "prop".
PEZ

7
Я не пробував усі можливі типи (дата, GeoPt, ...), але, схоже, у сховищі даних є саме цей метод, і дотепер він працює для мене для рядків і цілих чисел: developers.google.com/appengine/ docs / python / datastore /… Тож я не впевнений, що вам потрібно заново винаходити колесо, щоб серіалізуватись до json:json.dumps(db.to_dict(Photo))
gentimouton

@gentimouton Цей метод є новим доповненням. Це точно не існувало в 2009 році
dmw

60

Це найпростіше рішення, яке я знайшов. Для цього потрібно лише 3 рядки кодів.

Просто додайте метод до своєї моделі, щоб повернути словник:

class DictModel(db.Model):
    def to_dict(self):
       return dict([(p, unicode(getattr(self, p))) for p in self.properties()])

SimpleJSON тепер працює належним чином:

class Photo(DictModel):
   filename = db.StringProperty()
   title = db.StringProperty()
   description = db.StringProperty(multiline=True)
   date_taken = db.DateTimeProperty()
   date_uploaded = db.DateTimeProperty(auto_now_add=True)
   album = db.ReferenceProperty(Album, collection_name='photo')

from django.utils import simplejson
from google.appengine.ext import webapp

class PhotoHandler(webapp.RequestHandler):
   def get(self):
      photos = Photo.all()
      self.response.out.write(simplejson.dumps([p.to_dict() for p in photos]))

привіт дякую за підказку. це чудово працює, за винятком того, що я не можу серіалізувати поле дати. Я отримую: TypeError: datetime.datetime (2010, 5, 1, 9, 25, 22, 891937) не можна JSON серіалізувати
givp

Привіт, дякую, що вказали на проблему. Рішення полягає в перетворенні об’єкта дати у рядок. Наприклад, ви можете обернути виклик "getattr (self, p)" за допомогою "unicode ()". Я відредагував код, щоб це відобразити.
mtgred

1
Щоб видалити метаполя db.Model, використовуйте це: dict ([(p, unicode (getattr (self, p))) for p in self.properties () if not p.startswith ("_")])
Wonil

для ndb див. відповідь фредви.
Kenji Noguchi

self.properties () у мене не працював. Я використовував self._properties. Повний рядок: повернути dict ([(p, unicode (getattr (self, p))) для p у self._properties])
Еял Левін

15

В останньому (1.5.2) випуску App Engine SDK to_dict()була введена функція, яка перетворює екземпляри моделей у словники db.py. Див Примітки випуску .

Наразі в документації немає посилань на цю функцію, але я спробував її сам, і вона працює, як очікувалося.


Цікаво, чи видалено це? Я отримую, AttributeError: 'module' object has no attribute 'to_dict'коли я from google.appengine.ext import dbі використовую simplejson.dumps(db.to_dict(r))(де r - екземпляр підкласу db.Model). Я не бачу "to_dict" у google_appengine / google / appengine / ext / db / *
idbrii

1
його слід використовувати як "db.to_dict (ObjectOfClassModel)"
Дмитро Душкін

2
для об'єкта ndb роботу виконує self.to_dict (). Якщо ви хочете зробити клас серіалізованим за допомогою стандартного модуля json, додайте 'def default (self, o): return o.to_dict () `до класу
Kenji Noguchi

7

Щоб серіалізувати моделі, додайте власний кодер json, як у наступному python:

import datetime
from google.appengine.api import users
from google.appengine.ext import db
from django.utils import simplejson

class jsonEncoder(simplejson.JSONEncoder):
    def default(self, obj):
        if isinstance(obj, datetime.datetime):
            return obj.isoformat()

        elif isinstance(obj, db.Model):
            return dict((p, getattr(obj, p)) 
                        for p in obj.properties())

        elif isinstance(obj, users.User):
            return obj.email()

        else:
            return simplejson.JSONEncoder.default(self, obj)


# use the encoder as: 
simplejson.dumps(model, cls=jsonEncoder)

Це буде кодувати:

Для декодування дати ви можете використовувати цей javascript:

function decodeJsonDate(s){
  return new Date( s.slice(0,19).replace('T',' ') + ' GMT' );
} // Note that this function truncates milliseconds.

Примітка: Дякуємо користувачеві pydave, який відредагував цей код, щоб зробити його більш читабельним. Спочатку я використовував вирази if / else python для вираження jsonEncoderменшою кількістю рядків таким чином: (Я додав кілька коментарів і використовував google.appengine.ext.db.to_dict, щоб зробити це зрозумілішим за оригінал.)

class jsonEncoder(simplejson.JSONEncoder):
  def default(self, obj):
    isa=lambda x: isinstance(obj, x) # isa(<type>)==True if obj is of type <type>
    return obj.isoformat() if isa(datetime.datetime) else \
           db.to_dict(obj) if isa(db.Model) else \
           obj.email()     if isa(users.User) else \
           simplejson.JSONEncoder.default(self, obj)

4

Вам не потрібно писати власний "синтаксичний аналізатор" (парсер, мабуть, перетворить JSON на об'єкт Python), але ви все одно можете серіалізувати свій об'єкт Python самостійно.

Використання simplejson :

import simplejson as json
serialized = json.dumps({
    'filename': self.filename,
    'title': self.title,
    'date_taken': date_taken.isoformat(),
    # etc.
})

1
Так, але я не хочу робити це для кожної моделі. Я намагаюся знайти масштабований підхід.
user111677

о, і я справді здивований, що я не можу знайти найкращих практик щодо цього. Я думав, що модель двигуна додатків + rpc + json була дана ...
user111677

4

У простих випадках мені подобається підхід, який пропонується тут у кінці статті:

  # after obtaining a list of entities in some way, e.g.:
  user = users.get_current_user().email().lower();
  col = models.Entity.gql('WHERE user=:1',user).fetch(300, 0)

  # ...you can make a json serialization of name/key pairs as follows:
  json = simplejson.dumps(col, default=lambda o: {o.name :str(o.key())})

Стаття також містить, на іншому кінці спектра, складний клас серіалізатора, який збагачує django (і вимагає _meta- не впевнений, чому ви отримуєте помилки про відсутність _meta, можливо, тут описану помилку ) з можливістю серіалізації обчислених властивості / методи. Велику частину часу ваші потреби в серіалізації лежать десь посередині, і для них може бути кращим інтроспективний підхід, такий як @David Wilson.


3

Навіть якщо ви не використовуєте django як фреймворк, ці бібліотеки все одно доступні для використання.

from django.core import serializers
data = serializers.serialize("xml", Photo.objects.all())

Ви мали на увазі serializers.serialize ("json", ...)? Це видає "AttributeError: 'Фото' об'єкт не має атрибута '_meta'". FYI - serializers.serialize ("xml", Photo.objects.all ()) викидає "AttributeError: тип об'єкта" Фото "не має атрибута" об'єкти "". serializers.serialize ("xml", Photo.all ()) видає "SerializationError: немодельний об'єкт (<class 'model.Photo'>), який зустрічається під час серіалізації".
user111677

2

Якщо ви використовуєте app-engine-patch, він автоматично оголосить _metaатрибут для вас, і тоді ви зможете використовуватиdjango.core.serializers як зазвичай, у моделях django (як у коді sledge).

App-engine-patch має деякі інші цікаві функції, такі як гібридна аутентифікація (django + акаунти google), і адміністративна частина django працює.


в чому різниця між app-engine-patch від google-app-engine-django та версією django, що постачається з додатком python sdk engine? Наскільки я розумію, app-engine-patch є більш повним?
user111677

Я не пробував версію django на движку додатків, але я думаю, що вона інтегрована як є. google-app-engine-django, якщо я не помиляюся, намагається змусити модель django працювати з app-engine (з деякими обмеженнями). app-engine-patch використовує безпосередньо моделі app-engine, вони просто додають до нього трохи незначних матеріалів. На їх веб-сайті є порівняння між ними.
mtourne

2

Відповідь Мтгреда для мене чудово спрацювала - я трохи її змінив, щоб я міг також отримати ключ для вступу. Не так мало рядків коду, але це дає мені унікальний ключ:

class DictModel(db.Model):
def to_dict(self):
    tempdict1 = dict([(p, unicode(getattr(self, p))) for p in self.properties()])
    tempdict2 = {'key':unicode(self.key())}
    tempdict1.update(tempdict2)
    return tempdict1

2

Я розширив клас JSON Encoder, написаний dpatru, для підтримки:

  • Властивості результатів запиту (наприклад, car.owner_set)
  • ReferenceProperty - рекурсивно перетворити його в JSON
  • Властивості фільтрації - verbose_nameу JSON кодуються лише властивості з a

    class DBModelJSONEncoder(json.JSONEncoder):
        """Encodes a db.Model into JSON"""
    
        def default(self, obj):
            if (isinstance(obj, db.Query)):
                # It's a reference query (holding several model instances)
                return [self.default(item) for item in obj]
    
            elif (isinstance(obj, db.Model)):
                # Only properties with a verbose name will be displayed in the JSON output
                properties = obj.properties()
                filtered_properties = filter(lambda p: properties[p].verbose_name != None, properties)
    
                # Turn each property of the DB model into a JSON-serializeable entity
                json_dict = dict([(
                        p,
                        getattr(obj, p)
                            if (not isinstance(getattr(obj, p), db.Model))
                            else
                        self.default(getattr(obj, p)) # A referenced model property
                    ) for p in filtered_properties])
    
                json_dict['id'] = obj.key().id() # Add the model instance's ID (optional - delete this if you do not use it)
    
                return json_dict
    
            else:
                # Use original JSON encoding
                return json.JSONEncoder.default(self, obj)
    

2

Як згадується https://stackoverflow.com/users/806432/fredva , to_dict працює чудово. Ось мій код, який я використовую.

foos = query.fetch(10)
prepJson = []

for f in foos:
  prepJson.append(db.to_dict(f))

myJson = json.dumps(prepJson))

так, і на Model також є "to_dict" ... ця функція є ключем до того, щоб зробити всю цю проблему настільки тривіальною, якою вона повинна бути. Він навіть працює для NDB із "структурованими" та "повторними" властивостями!
Нік Перкінс

1

Існує метод "Model.properties ()", визначений для всіх класів Model. Він повертає дікт, який ви шукаєте.

from django.utils import simplejson
class Photo(db.Model):
  # ...

my_photo = Photo(...)
simplejson.dumps(my_photo.properties())

Див. Властивості моделі в документації.


Деякі об'єкти не "JSON серіалізуються":TypeError: <google.appengine.ext.db.StringProperty object at 0x4694550> is not JSON serializable
idbrii

1

Ці API (google.appengine.ext.db) більше не рекомендуються. Програми, які використовують ці API, можуть працювати лише в середовищі виконання App Engine Python 2, і перед переходом до середовища виконання App Engine Python 3 їм потрібно буде перейти на інші API та служби. Щоб дізнатись більше: натисніть тут


0

Для серіалізації екземпляра моделі сховища даних ви не можете використовувати json.dumps (не тестував, але Лоренцо на це вказав). Можливо, в майбутньому буде працювати наступне.

http://docs.python.org/2/library/json.html

import json
string = json.dumps(['foo', {'bar': ('baz', None, 1.0, 2)}])
object = json.loads(self.request.body)

питання стосується перетворення екземпляра моделі AppEngine Datastore Model у JSON. Ваше рішення полягає лише у перетворенні словника Python у JSON
налаштований

@tunedconsulting Я не пробував серіалізувати екземпляр моделі сховища даних за допомогою json.dumps, але припускаю, що він буде працювати з будь-яким об'єктом. Звіт про помилку слід подати, якщо це не так, як зазначено в документації, що json.dumps приймає об'єкт як параметр. Він додається як коментар із лише повторним коментарем, який не існував у 2009 році. Додав цю відповідь, тому що він здається застарілим, але якщо це не спрацює, я радий його видалити.
HMR

1
Якщо ви спробуєте json.dumps об'єкт сутності або клас моделі, ви отримуєте TypeError: 'is not JSON serializable' <Object at 0x0xxxxxx>. Магазин даних GAE має власні типи даних (наприклад, для дат). Поточна правильна відповідь, перевірена та працює, - це відповідь від dmw, яка перетворює деякі проблемні типи даних на серіалізовані.
налаштований

@tunedconsulting Дякуємо за ваш внесок у це, я оновлю свою відповідь.
HMR
Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.