Чи однакова косинусна схожість на нормалізовану l2 евклідову відстань?

Ідентичний сенс, що він буде робити ідентичні результати для ранжирування подібності між вектором ¯u і набором векторами V .

У мене є векторна космічна модель, яка в якості параметрів має міру відстані (евклідова відстань, схожість косинусів) і техніку нормалізації (немає, l1, l2). Наскільки я розумію, результати налаштувань [косинус, жоден] повинні бути ідентичними або, принаймні, дійсно схожими на [евклідов, l2], але вони не є.

Насправді є гарна ймовірність, що система все-таки баггі - або я щось критично не вірю?

редагувати: я забув зазначити, що вектори засновані на підрахунку слів із документів у корпусі. З огляду на документ-запит (який я також перетворюю у вектор лічильників слів), я хочу знайти документ із мого корпусу, який найбільш схожий на нього.

Просто обчислення евклідової відстані - це прямий показник вперед, але в такому завданні, над яким я працюю, подібність косинусів часто віддається перевазі як показник подібності, оскільки вектори, які відрізняються лише за довжиною, все ще вважаються рівними. Документ з найменшою схожістю на відстань / косинус вважається найбільш подібним.

— Арне
джерело

Все залежить від того, що робить ваша "векторна космічна модель" з цими відстанями. Не могли б ви бути більш конкретними щодо того, що робить модель?

— whuber

Вибачте, іноді важко вибратися з власної голови. Я додав специфікацію.

— Арн

Ви досі не описуєте жодної моделі. Насправді, єдина підказка, яку ви залишили щодо "виду завдання (над яким ви працюєте)", - це тег nlp - але це так широко, що він не дуже допомагає. Я сподіваюся, що ви можете надати, щоб люди могли зрозуміти питання та дати хороші відповіді, є достатньою інформацією, щоб можна було точно зрозуміти, як ви використовуєте мірку дистанції та як визначає, якими можуть бути результати.

— whuber

stats.stackexchange.com/a/36158/3277 . Будь-яка кутова подібність типу sscp може бути конвертована у відповідне евклідову відстань.

— ttnphns

Відповіді:

Для -нормалізованих векторів , маємо, що квадрат Евклідова відстань пропорційна косинусовій відстані , Тобто, навіть якщо ви нормалізували свої дані і ваш алгоритм був інваріантним для масштабування відстаней, ви все одно очікуєте відмінностей через квадратик. $\ell^2$ $\mathbf{x}, \mathbf{y}$

| | х | |_{2} = | | у | |_{2} = 1,

$||\mathbf{x}||_2 = ||\mathbf{y}||_2 = 1,$

\begin{aligned} | | х - у | |_{2}^{2} & = (х - у)^{⊤} (х - у) \\ = х^{⊤} х - 2 х^{⊤} у + у^{⊤} у \\ = 2 - 2 х^{⊤} у \\ = 2 - 2 \cos ∠ (х, у) \end{aligned}

$\begin{align} ||\mathbf{x} - \mathbf{y}||_2^2 &= (\mathbf{x} - \mathbf{y})^\top (\mathbf{x} - \mathbf{y}) \\ &= \mathbf{x}^\top \mathbf{x} - 2 \mathbf{x}^\top \mathbf{y} + \mathbf{y}^\top \mathbf{y} \\ &= 2 - 2\mathbf{x}^\top \mathbf{y} \\ &= 2 - 2 \cos\angle(\mathbf{x}, \mathbf{y}) \end{align}$

— Лукас
джерело

Чи це вплине на рейтинг? Тобто, якщо я сортую декілька векторів 'v_i в V' за їх косинусною відстані до вектора 'u', я отримую для них певне замовлення. Чи класифікація тих самих векторів з нормалізованою l_2 евклідовою відстані може призвести до того ж порядку?

— Арн

iirc, оскільки квадратування - це монотичне перетворення (для додатних чисел), воно не може змінити порядок послідовності, відсортованої за довжиною.

— Арн

Ви маєте рацію, якщо все, що ви робите, - класифікувати вектори за їх відстанню до , використання косинусної відстані повинно дати такий же результат, як і відстань Евкліда (для нормалізованих векторів).

u

$\mathbf{u}$

— Лукас

Дякую, чи трапляється у вас джерело для цього зв’язку?

— Арн

Ну, напевно, "Лінійної алебри I" має вистачити тоді;) ще раз дякую за розуміння!

— Арн

$\mathbf{u}$ $\mathbf{v}$

\cos (у, v) = \frac{⟨ у, v ⟩}{‖ у ‖ \cdot ‖ v ‖} = \frac{у^{Т} v}{‖ у ‖ \cdot ‖ v ‖} \in [- 1, 1] .

$\cos(\mathbf{u}, \mathbf{v}) = \frac{\langle \mathbf{u}, \mathbf{v} \rangle}{\|\mathbf{u}\| \cdot \|\mathbf{v}\|} = \frac{\mathbf{u}^T\mathbf{v}}{\|\mathbf{u}\| \cdot \|\mathbf{v}\|} \in [-1, 1].$

— Марк Класен
джерело