New methods for numerical evaluation of ultra-high degree and order associated Legendre functions

Autor: Goli, Mehdi, Foroughi, Ismael, Novák, Pavel
Rok vydání: 2022
Předmět:
Zdroj: Studia Geophysica et Geodaetica. 66:81-97
ISSN: 1573-1626
0039-3169
DOI: 10.1007/s11200-022-0830-9
Popis: Zlepšujeme přesnost a rychlost výpočtu plně normalizovaných přidružených Legendreových funkcí (fnALF) pro ultra vysoké stupně a řády používaných ve sférických harmonických transformacích. S využitím jejich numerického chování byly navrženy dvě nové metody řešení problému podtečení/přetečení při jejich výpočtu. Aplikace těchto dvou metod je testována pomocí rekurze s rostoucím stupněm a pevným řádem. První metoda používá postupné fnALF a druhá metoda, označena jako Midway, zahajuje iteraci z malých počátečních hodnot, které jsou stále v rozsahu prostředí IEEE s dvojitou přesností. Problém podtečení/přetečení v metodě postupného poměru je řešen pomocí metody založené na logaritmu a aritmetiky rozšířeného rozsahu. Obě metody ověřujeme pomocí numerických testů a porovnáváme jejich výsledky s metodou X-čísla z hlediska přesnosti, stability a rychlosti. Výsledky ukazují, že relativní přesnost navrhovaných metod je lepší než 10-9 pro maximální stupeň 100000 ve srovnání s výsledky odvozenými vysoce přesným softwarem Wolfram's Mathematica. Průměrné časy CPU potřebné pro vyhodnocení fnALF v různých zeměpisných šířkách ukazují, že dvě navrhované metody jsou rychlejší asi o 10-30 % a 20-90 % s ohledem na metodu X-čísla pro maximální stupeň v rozsahu 50-65000. We improve the precision and computation speed of the fully-normalized associated Legendre functions (fnALFs) for ultra-high degrees and orders of spherical harmonic transforms. We take advantage of their numerical behaviour of and propose two new methods for solving an underflow/overflow problem in their calculation. We specifically discuss the application of the two methods in the fixed-order increasing-degree recursion computation technique. The first method uses successive ratios of fnALFs and the second method, called the Midway method, starts iteration from tiny initial values, which are still in the range of the IEEE double-precision environment, rather than from sectorial fnALFs. The underflow/overflow problem in the successive ratio method is handled by using a logarithm-based method and the extended range arithmetic. We validate both methods using numerical tests and compare their results with the X-number method in terms of precision, stability, and speed. The results show that the relative precision of the proposed methods is better than 10-9 for the maximum degree of 100000, compared to results derived by the high precision Wolfram’s Mathematica software. Average CPU times required for evaluation of fnALFs over different latitudes demonstrate that the two proposed methods are faster by about 10-30% and 20-90% with respect to the X-number method for the maximum degree in the range of 50-65000.
Databáze: OpenAIRE
Externí odkaz: