Використання піфагорійської формули для позицій, заданих у широті та довготі, має не так багато сенсу, як, скажімо, обчислення площі кола за допомогою формули для квадрата: хоча воно дає число, але немає причин вважати, що воно повинно працювати.
Хоча на малих масштабах будь-яка гладка поверхня виглядає як площина, точність формули Піфагора залежить від використовуваних координат . Коли ці координати - це широта і довгота на кулі (або еліпсоїд), ми можемо цього очікувати
Відстані по лініях довготи будуть досить точними.
Відстані вздовж екватора будуть досить точними.
Усі інші відстані будуть помилковими, приблизно пропорційно різниці у широті та довготі.
Похибка залежить від початкової та кінцевої точки розрахунків відстані. Однак, оскільки і сфера, і еліпсоїд мають кругову симетрію навколо осі, похибка залежить лише від різниці довжин, тому для вивчення цієї похибки ми можемо також взяти точку виникнення на первинному меридіані. Оскільки і сфера, і еліпсоїд симетричні під відображенням північ-південь, нам потрібно лише вивчити точки походження в південній півкулі. Для будь-якої такої точки ми можемо скласти контурну карту відносної похибки, рівну [розрахунку Піфагора] / [Істинна відстань].
Формула Піфагора, використовуючи середній радіус землі, є
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
де dx - різниця довжин, а dy - різниця широт, як у градусах. (Різниця в значеннях довготи зменшується по модулю 360, щоб дати правильне значення dx при перетині антимерідіана; не робити цього, було б введено штучно великі помилки, які нічого не говорять про саму формулу Піфагора.)
Наступні графіки показують відносну похибку порівняно з правильною відстані на еліпсоїді WGS 84 для широт від -70 до 0 з кроком 10 градусів. Горизонтальна координата - це різниця довжин, а вертикальна - широта пункту призначення. Світлі регіони мають порівняно невелику похибку: контурні лінії знаходяться на рівні 1, 1,01, 1,02, 1,05, 1,1, 1,2, 1,5, 2 тощо. (Чисті білі ділянки в кутах - це місця, де похибка виходить за межі цих контурів .) Червоні точки показують точку походження.
Вертикальні білі смуги свідчать про правильність очікування (1): Піфагорейські відстані точні, коли є невелика різниця у довготах. Горизонтальні білі смуги на низьких широтах підтверджують очікування (2): поблизу екватора горизонтальні відстані досить точні. В іншому випадку, як свідчать великі темніші регіони, на всіх інших відстанях піфагорейська формула погана.
Ми можемо зробити кількісні оцінки максимумупомилка, отримана для пар сусідніх точок (скажімо, в декількох сотнях кілометрів один від одного). Масштаб - використовуючи відповідне значення для радіуса - вірно вздовж меридіана, але по колу широти він помиляється приблизно на секан широти. Наприклад, на широті 40 градусів сеанс становить 1,31, то, маючи на увазі, формула Піфагора дасть відстані приблизно на 31% у напрямку схід-захід. (Це видно на верхньому правому контурному ділянці для точки походження на -40 градусів широти, де область, що знаходиться безпосередньо на схід-захід від червоної точки, лежить між контурами 1,2 та 1,5.) Короткі відстані у всіх інших напрямках будуть занадто великий на деяку суму від 0% до 31%; довші відстані можуть помилятися ще більше (як показують контурні графіки).