Яка роль шару TimeDistributed у Keras?

Я намагаюся зрозуміти, що обгортка TimeDistributed робить у Keras.

Я розумію, що TimeDistributed "застосовує шар до кожного тимчасового зрізу введення".

Але я провів експеримент і отримав ті результати, які я не можу зрозуміти.

Коротше кажучи, стосовно рівня LSTM, TimeDistributed і просто щільний шар дають однакові результати.

model = Sequential()
model.add(LSTM(5, input_shape = (10, 20), return_sequences = True))
model.add(TimeDistributed(Dense(1)))
print(model.output_shape)

model = Sequential()
model.add(LSTM(5, input_shape = (10, 20), return_sequences = True))
model.add((Dense(1)))
print(model.output_shape)

Для обох моделей я отримав форму виводу (None, 10, 1) .

Хтось може пояснити різницю між TimeDistributed і щільним шаром після шару RNN?

В keras- під час побудови послідовної моделі - як правило, другий вимір (один після розмірного зразка) - пов'язаний з timeвиміром. Це означає, що якщо, наприклад, ваші дані є 5-dimу (sample, time, width, length, channel)вас, ви можете застосувати згортковий шар, використовуючи TimeDistributed(що застосовується до 4-dimwith (sample, width, length, channel)) вздовж часового виміру (застосовуючи той самий шар до кожного часового зрізу), щоб отримати 5-dвихідні дані.

Випадок з Denseтому , що в kerasс версії 2.0 Denseза замовчуванням застосовується тільки останній вимір (наприклад , якщо ви подаєте заяву Dense(10)на вхід з формою (n, m, o, p)ви отримаєте вихід з формою (n, m, o, 10)) , тому у вашому випадку Denseі TimeDistributed(Dense)еквівалентні.