Doc2vec (gensim) - Як я можу зробити ярлик невидимих ​​речень?

https://radimrehurek.com/gensim/models/doc2vec.html

Наприклад, якщо ми тренували doc2vec з

"aaaaaAAAAAaaaaaa" - "мітка 1"

"BbbbbbBBBBBbbbb" - "мітка 2"

Чи можемо ми зробити висновок, що "aaaaAAAAaaaaAA" ​​є міткою 1 за допомогою Doc2vec?

Я знаю, що Doc2vec може тренувати слова вектори та вектори міток. Використовуючи ці вектори, чи можемо ми зробити висновок про невидимі речення (поєднання тренованих слів) у якій мітці?

Заголовок цього питання є окремим запитанням до його тексту, тому я відповім обидва окремо (враховуючи, що одне веде в інше).

1. Як я можу зробити висновки про невидимі речення:

# ... trained model stored in var model
list_of_words = ["this", "is", "a", "new","unseen", "sentence"]
inferred_embedding = model.infer_vector(list_of_words)

$W \in \mathbb{R}^{N\times P}$$D \in \mathbb{R}^{M \times R}$$k$

$$\frac{1}{M}\sum_{i=1}^{M}\frac{1}{|D_{i}|}\sum_{t=k}^{|D_{i-1}|-k}log(p(w_{t}^{i} | w_{t-k}^{i}, ..., w_{t+k}^{i},D_{i} ))$$

$D_{i}$$i^{th}$$|D_{i}|$$w_{t}^{i}$$t^{th}$$i^{th}$$D$

$W$$D$

2. Чи можемо ми зробити висновок, що можливо небачене речення точно відповідає реченню у навчальному наборі?

$D$

Навіть виправлення випадкового насіння може не спрацювати, існує стільки інших змінних, які можуть вплинути на його конвергенцію. Першу відповідь див . На https://github.com/RaRe-Technologies/gensim/isissue/374 .

У будь-якому випадку ви можете знайти найбільш подібну мітку у вашому наборі даних до поданого речення, просто перебравши її на навчальний набір і порівнявши схожість з виведеним вектором. Але чому б ви хотіли точно відповідати чомусь у тренувальному наборі? ось те, що регулярні вирази призначені для вбудовування цих документів, - це для керованих чи непідконтрольних навчальним завданням (тобто класифікації та кластеризації).

Я намагався вирішити цю проблему сьогодні, і куднт знайшов будь-який модуль, заданий gensim.Doc2Vec, який обчислює схожість між виведеним вектором документа, а не в навченій моделі, з тими, що навчаються. Так в основному я це робив.

from scipy import spatial
inferred_vector=model.infer_vector(sentence.split())
for labels in labelled_documents:
    print (1-  spatial.distance.cosine(inferred_vector,model.docvecs[labels]))

На основі підручника Gensim Doc2Vec ви можете зробити щось подібне.

inferred_vector = model_dmm.infer_vector(sentence.split())
sims = model.docvecs.most_similar([inferred_vector], topn=len(model.docvecs))

Це дасть вам список кортежів із усіма мітками та ймовірність, пов’язану з вашим новим документом, що належить кожній етикетці. тоді ви можете просто взяти найбільше значення як свою етикетку.