Table Of ContentChebyshev and Fourier Spectral Methods
Second Edition
John P. Boyd
University of Michigan
Ann Arbor, Michigan 48109-2143
email: [email protected]
»
http://www-personal.engin.umich.edu/ jpboyd/
2000
DOVER Publications, Inc.
31 East 2nd Street
Mineola, New York 11501
1
Dedication
To Marilyn, Ian, and Emma
“A computation is a temptation that should be resisted as
long as possible.”
—J.P.Boyd,paraphrasingT.S.Eliot
i
Contents
PREFACE x
Acknowledgments xiv
ErrataandExtended-Bibliography xvi
1 Introduction 1
1.1 Seriesexpansions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 FirstExample . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.3 Comparisonwithfiniteelementmethods . . . . . . . . . . . . . . . . . . . . 4
1.4 ComparisonswithFiniteDifferences . . . . . . . . . . . . . . . . . . . . . . . 6
1.5 ParallelComputers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.6 Choiceofbasisfunctions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.7 Boundaryconditions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.8 Non-InterpolatingandPseudospectral . . . . . . . . . . . . . . . . . . . . . . 12
1.9 Nonlinearity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.10 Time-dependentproblems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
1.11 FAQ:FrequentlyAskedQuestions . . . . . . . . . . . . . . . . . . . . . . . . 16
1.12 TheChrysalis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2 Chebyshev&FourierSeries 19
2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.2 Fourierseries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.3 OrdersofConvergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.4 ConvergenceOrder . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.5 AssumptionofEqualErrors . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.6 Darboux’sPrinciple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.7 WhyTaylorSeriesFail . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
2.8 LocationofSingularities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.8.1 CornerSingularities&CompatibilityConditions . . . . . . . . . . . 37
2.9 FACE:Integration-by-PartsBound . . . . . . . . . . . . . . . . . . . . . . . . 41
2.10 AsymptoticCalculationofFourierCoefficients . . . . . . . . . . . . . . . . . 45
2.11 ConvergenceTheory: ChebyshevPolynomials . . . . . . . . . . . . . . . . . 46
2.12 LastCoefficientRule-of-Thumb . . . . . . . . . . . . . . . . . . . . . . . . . . 50
2.13 ConvergenceTheoryforLegendrePolynomials. . . . . . . . . . . . . . . . . 51
2.14 Quasi-SinusoidalRuleofThumb . . . . . . . . . . . . . . . . . . . . . . . . . 54
2.15 WitchofAgnesiRule–of–Thumb . . . . . . . . . . . . . . . . . . . . . . . . . 56
2.16 BoundaryLayerRule-of-Thumb . . . . . . . . . . . . . . . . . . . . . . . . . 57
ii
CONTENTS iii
3 Galerkin&WeightedResidualMethods 61
3.1 MeanWeightedResidualMethods . . . . . . . . . . . . . . . . . . . . . . . . 61
3.2 CompletenessandBoundaryConditions . . . . . . . . . . . . . . . . . . . . 64
3.3 InnerProduct&Orthogonality . . . . . . . . . . . . . . . . . . . . . . . . . . 65
3.4 GalerkinMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
3.5 Integration-by-Parts. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
3.6 GalerkinMethod: CaseStudies . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3.7 Separation-of-Variables&theGalerkinMethod . . . . . . . . . . . . . . . . . 76
3.8 HeisenbergMatrixMechanics . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
3.9 TheGalerkinMethodToday . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
4 Interpolation,Collocation&AllThat 81
4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.2 Polynomialinterpolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
4.3 GaussianIntegration&PseudospectralGrids . . . . . . . . . . . . . . . . . . 86
4.4 PseudospectralIsGalerkinMethodviaQuadrature . . . . . . . . . . . . . . 89
4.5 PseudospectralErrors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
5 CardinalFunctions 98
5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
5.2 WhittakerCardinalor“Sinc”Functions . . . . . . . . . . . . . . . . . . . . . 99
5.3 TrigonometricInterpolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
5.4 CardinalFunctionsforOrthogonalPolynomials . . . . . . . . . . . . . . . . 104
5.5 TransformationsandInterpolation . . . . . . . . . . . . . . . . . . . . . . . . 107
6 PseudospectralMethodsforBVPs 109
6.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
6.2 ChoiceofBasisSet . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
6.3 BoundaryConditions: Behavioral&Numerical . . . . . . . . . . . . . . . . . 109
6.4 “Boundary-Bordering” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
6.5 “BasisRecombination” . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.6 TransfiniteInterpolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114
6.7 TheCardinalFunctionBasis . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
6.8 TheInterpolationGrid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116
6.9 ComputingBasisFunctions&Derivatives . . . . . . . . . . . . . . . . . . . . 116
6.10 HigherDimensions: Indexing . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
6.11 HigherDimensions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120
6.12 CornerSingularities. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120
6.13 Matrixmethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
6.14 Checking . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
6.15 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
7 LinearEigenvalueProblems 127
7.1 TheNo-BrainMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
7.2 QR/QZAlgorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
7.3 EigenvalueRule-of-Thumb . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
7.4 FourKindsofSturm-LiouvilleProblems . . . . . . . . . . . . . . . . . . . . . 134
7.5 CriteriaforRejectingEigenvalues . . . . . . . . . . . . . . . . . . . . . . . . . 137
7.6 “Spurious”Eigenvalues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139
7.7 ReducingtheConditionNumber . . . . . . . . . . . . . . . . . . . . . . . . . 142
7.8 ThePowerMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
7.9 InversePowerMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
iv CONTENTS
7.10 CombiningGlobal&LocalMethods . . . . . . . . . . . . . . . . . . . . . . . 149
7.11 DetouringintotheComplexPlane . . . . . . . . . . . . . . . . . . . . . . . . 151
7.12 CommonErrors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
8 Symmetry&Parity 159
8.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
8.2 Parity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
8.3 ModifyingtheGridtoExploitParity . . . . . . . . . . . . . . . . . . . . . . . 165
8.4 OtherDiscreteSymmetries. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
8.5 Axisymmetric&Apple-SlicingModels. . . . . . . . . . . . . . . . . . . . . . 170
9 ExplicitTime-IntegrationMethods 172
9.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
9.2 Spatially-VaryingCoefficients . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
9.3 TheShamrockPrinciple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
9.4 LinearandNonlinear . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178
9.5 Example: KdVEquation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179
9.6 Implicitly-Implicit: RLW&QG . . . . . . . . . . . . . . . . . . . . . . . . . . 181
10 PartialSummation,theFFTandMMT 183
10.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
10.2 PartialSummation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
10.3 TheFastFourierTransform: Theory . . . . . . . . . . . . . . . . . . . . . . . 187
10.4 MatrixMultiplicationTransform . . . . . . . . . . . . . . . . . . . . . . . . . 190
10.5 CostsoftheFastFourierTransform . . . . . . . . . . . . . . . . . . . . . . . . 192
10.6 GeneralizedFFTsandMultipoleMethods . . . . . . . . . . . . . . . . . . . . 195
10.7 Off-GridInterpolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198
10.8 FastFourierTransform: PracticalMatters . . . . . . . . . . . . . . . . . . . . 200
10.9 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200
11 Aliasing,SpectralBlocking,&Blow-Up 202
11.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
11.2 AliasingandEquality-on-the-Grid . . . . . . . . . . . . . . . . . . . . . . . . 202
11.3 “2h-Waves”andSpectralBlocking . . . . . . . . . . . . . . . . . . . . . . . . 205
11.4 AliasingInstability: HistoryandRemedies . . . . . . . . . . . . . . . . . . . 210
11.5 DealiasingandtheOrszagTwo-ThirdsRule . . . . . . . . . . . . . . . . . . . 211
11.6 Energy-Conserving: ConstrainedInterpolation . . . . . . . . . . . . . . . . . 213
11.7 Energy-ConservingSchemes: Discussion . . . . . . . . . . . . . . . . . . . . 214
11.8 AliasingInstability: Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216
11.9 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
12 ImplicitSchemes&theSlowManifold 222
12.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222
12.2 DispersionandAmplitudeErrors . . . . . . . . . . . . . . . . . . . . . . . . . 224
12.3 Errors&CFLLimitforExplicitSchemes . . . . . . . . . . . . . . . . . . . . . 226
12.4 ImplicitTime-MarchingAlgorithms . . . . . . . . . . . . . . . . . . . . . . . 228
12.5 Semi-ImplicitMethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
12.6 Speed-ReductionRule-of-Thumb . . . . . . . . . . . . . . . . . . . . . . . . . 230
12.7 SlowManifold: Meteorology . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
12.8 SlowManifold: Definition&Examples. . . . . . . . . . . . . . . . . . . . . . 232
12.9 Numerically-InducedSlowManifolds . . . . . . . . . . . . . . . . . . . . . . 236
12.10Initialization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
CONTENTS v
12.11TheMethodofMultipleScales(Baer-Tribbia) . . . . . . . . . . . . . . . . . . 241
12.12NonlinearGalerkinMethods . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
12.13WeaknessesoftheNonlinearGalerkinMethod . . . . . . . . . . . . . . . . . 245
12.14TrackingtheSlowManifold . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248
12.15ThreePartstoMultipleScaleAlgorithms . . . . . . . . . . . . . . . . . . . . 249
13 Splitting&ItsCousins 252
13.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252
13.2 FractionalStepsforDiffusion . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
13.3 PitfallsinSplitting,I:BoundaryConditions . . . . . . . . . . . . . . . . . . . 256
13.4 PitfallsinSplitting,II:Consistency . . . . . . . . . . . . . . . . . . . . . . . . 258
13.5 OperatorTheoryofTime-Stepping . . . . . . . . . . . . . . . . . . . . . . . . 259
13.6 HighOrderSplitting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261
13.7 SplittingandFluidMechanics . . . . . . . . . . . . . . . . . . . . . . . . . . . 262
14 Semi-LagrangianAdvection 265
14.1 ConceptofanIntegratingFactor . . . . . . . . . . . . . . . . . . . . . . . . . 265
14.2 MisuseofIntegratingFactorMethods . . . . . . . . . . . . . . . . . . . . . . 267
14.3 Semi-LagrangianAdvection: Introduction . . . . . . . . . . . . . . . . . . . . 270
14.4 Advection&MethodofCharacteristics . . . . . . . . . . . . . . . . . . . . . 271
14.5 Three-Level,2DOrderSemi-Implicit . . . . . . . . . . . . . . . . . . . . . . . 273
14.6 Multiply-UpstreamSL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275
14.7 NumericalIllustrations&Superconvergence . . . . . . . . . . . . . . . . . . 277
14.8 Two-LevelSL/SIAlgorithms . . . . . . . . . . . . . . . . . . . . . . . . . . . 280
14.9 NoninterpolatingSL&NumericalDiffusion . . . . . . . . . . . . . . . . . . 281
14.10Off-GridInterpolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283
14.10.1Off-GridInterpolation: Generalities . . . . . . . . . . . . . . . . . . . 283
14.10.2SpectralOff-grid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284
14.10.3Low-orderPolynomialInterpolation . . . . . . . . . . . . . . . . . . . 284
14.10.4McGregor’sTaylorSeriesScheme . . . . . . . . . . . . . . . . . . . . 286
14.11HigherOrderSLMethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286
14.12HistoryandRelationshipstoOtherMethods . . . . . . . . . . . . . . . . . . 286
14.13Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289
15 Matrix-SolvingMethods 290
15.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290
15.2 StationaryOne-StepIterations . . . . . . . . . . . . . . . . . . . . . . . . . . . 291
15.3 Preconditioning: FiniteDifference . . . . . . . . . . . . . . . . . . . . . . . . 293
15.4 ComputingIterates: FFT/MatrixMultiplication . . . . . . . . . . . . . . . . 297
15.5 AlternativePreconditioners . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299
15.6 RaisingtheOrderThroughPreconditioning . . . . . . . . . . . . . . . . . . . 301
15.7 Multigrid: AnOverview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301
15.8 MRRMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304
15.9 Delves-FreemanBlock-and-DiagonalIteration . . . . . . . . . . . . . . . . . 307
15.10Recursions&FormalIntegration: ConstantCoefficientODEs. . . . . . . . . 312
15.11DirectMethodsforSeparablePDE’s . . . . . . . . . . . . . . . . . . . . . . . 314
15.12FastIterationsforAlmostSeparablePDEs . . . . . . . . . . . . . . . . . . . . 317
15.13PositiveDefiniteandIndefiniteMatrices . . . . . . . . . . . . . . . . . . . . . 318
15.14PreconditionedNewtonFlow . . . . . . . . . . . . . . . . . . . . . . . . . . . 320
15.15Summary&Proverbs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322
vi CONTENTS
16 CoordinateTransformations 323
16.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 323
16.2 ProgrammingChebyshevMethods . . . . . . . . . . . . . . . . . . . . . . . . 323
16.3 Theoryof1-DTransformations . . . . . . . . . . . . . . . . . . . . . . . . . . 325
16.4 InfiniteandSemi-InfiniteIntervals . . . . . . . . . . . . . . . . . . . . . . . . 326
16.5 MapsforEndpoint&CornerSingularities . . . . . . . . . . . . . . . . . . . . 327
16.6 Two-DimensionalMaps&CornerBranchPoints . . . . . . . . . . . . . . . . 329
16.7 PeriodicProblems&theArctan/TanMap . . . . . . . . . . . . . . . . . . . . 330
16.8 AdaptiveMethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 332
16.9 Almost-EquispacedKosloff/Tal-EzerGrid. . . . . . . . . . . . . . . . . . . . 334
17 MethodsforUnboundedIntervals 338
17.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 338
17.2 DomainTruncation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339
17.2.1 DomainTruncationforRapidly-decayingFunctions . . . . . . . . . . 339
17.2.2 DomainTruncationforSlowly-DecayingFunctions . . . . . . . . . . 340
17.2.3 DomainTruncationforTime-DependentWavePropagation:
SpongeLayers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 340
17.3 WhittakerCardinalor“Sinc”Functions . . . . . . . . . . . . . . . . . . . . . 341
17.4 Hermitefunctions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 346
17.5 Semi-InfiniteInterval: LaguerreFunctions . . . . . . . . . . . . . . . . . . . . 353
17.6 NewBasisSetsviaChangeofCoordinate . . . . . . . . . . . . . . . . . . . . 355
17.7 RationalChebyshevFunctions: TB . . . . . . . . . . . . . . . . . . . . . . . 356
n
17.8 BehavioralversusNumericalBoundaryConditions . . . . . . . . . . . . . . 361
17.9 StrategyforSlowlyDecayingFunctions . . . . . . . . . . . . . . . . . . . . . 363
17.10NumericalExamples: RationalChebyshevFunctions . . . . . . . . . . . . . 366
17.11Semi-InfiniteInterval: RationalChebyshevTL . . . . . . . . . . . . . . . . 369
n
17.12NumericalExamples: ChebyshevforSemi-InfiniteInterval . . . . . . . . . . 370
17.13Strategy: Oscillatory,Non-DecayingFunctions . . . . . . . . . . . . . . . . . 372
17.14Weideman-ClootSinhMapping . . . . . . . . . . . . . . . . . . . . . . . . . . 374
17.15Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377
18 Spherical&CylindricalGeometry 380
18.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 380
18.2 Polar,Cylindrical,Toroidal,Spherical . . . . . . . . . . . . . . . . . . . . . . 381
18.3 ApparentSingularityatthePole . . . . . . . . . . . . . . . . . . . . . . . . . 382
18.4 PolarCoordinates: ParityTheorem . . . . . . . . . . . . . . . . . . . . . . . . 383
18.5 RadialBasisSetsandRadialGrids . . . . . . . . . . . . . . . . . . . . . . . . 385
18.5.1 One-SidedJacobiBasisfortheRadialCoordinate . . . . . . . . . . . 387
18.5.2 BoundaryValue&EigenvalueProblemsonaDisk. . . . . . . . . . . 389
18.5.3 UnboundedDomainsIncludingtheOrigininCylindricalCoordinates 390
18.6 AnnularDomains . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 390
18.7 SphericalCoordinates: AnOverview . . . . . . . . . . . . . . . . . . . . . . . 391
18.8 TheParityFactorforScalars: SphereversusTorus . . . . . . . . . . . . . . . 391
18.9 ParityII:HorizontalVelocities&OtherVectorComponents. . . . . . . . . . 395
18.10ThePoleProblem: SphericalCoordinates . . . . . . . . . . . . . . . . . . . . 398
18.11SphericalHarmonics: Introduction . . . . . . . . . . . . . . . . . . . . . . . . 399
18.12LegendreTransformsandOtherSorrows . . . . . . . . . . . . . . . . . . . . 402
18.12.1FFTinLongitude/MMTinLatitude . . . . . . . . . . . . . . . . . . . 402
18.12.2SubstitutesandAcceleratorsfortheMMT. . . . . . . . . . . . . . . . 403
18.12.3ParityandLegendreTransforms . . . . . . . . . . . . . . . . . . . . . 404
CONTENTS vii
18.12.4HurrahforMatrix/VectorMultiplication . . . . . . . . . . . . . . . . 404
18.12.5ReducedGridandOtherTricks . . . . . . . . . . . . . . . . . . . . . . 405
18.12.6Schuster-DiltsTriangularMatrixAcceleration . . . . . . . . . . . . . 405
18.12.7GeneralizedFFT:MultipolesandAllThat . . . . . . . . . . . . . . . . 407
18.12.8Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 407
18.13EquiarealResolution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 408
18.14SphericalHarmonics: Limited-AreaModels . . . . . . . . . . . . . . . . . . . 409
18.15SphericalHarmonicsandPhysics . . . . . . . . . . . . . . . . . . . . . . . . . 410
18.16AsymptoticApproximations,I . . . . . . . . . . . . . . . . . . . . . . . . . . 410
18.17AsymptoticApproximations,II . . . . . . . . . . . . . . . . . . . . . . . . . . 412
18.18Software: SphericalHarmonics . . . . . . . . . . . . . . . . . . . . . . . . . . 414
18.19Semi-Implicit: ShallowWater . . . . . . . . . . . . . . . . . . . . . . . . . . . 416
18.20FrontsandTopography: Smoothing/Filters . . . . . . . . . . . . . . . . . . . 418
18.20.1FrontsandTopography . . . . . . . . . . . . . . . . . . . . . . . . . . 418
18.20.2MechanicsofFiltering . . . . . . . . . . . . . . . . . . . . . . . . . . . 419
18.20.3Sphericalsplines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 420
18.20.4FilterOrder . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 422
18.20.5FilteringwithSpatially-VariableOrder . . . . . . . . . . . . . . . . . 423
18.20.6TopographicFilteringinMeteorology . . . . . . . . . . . . . . . . . . 423
18.21ResolutionofSpectralModels . . . . . . . . . . . . . . . . . . . . . . . . . . . 425
18.22VectorHarmonics&HoughFunctions . . . . . . . . . . . . . . . . . . . . . . 428
18.23Radial/VerticalCoordinate: SpectralorNon-Spectral? . . . . . . . . . . . . . 429
18.23.1BasisforAxialCoordinateinCylindricalCoordinates . . . . . . . . . 429
18.23.2AxialBasisinToroidalCoordinates . . . . . . . . . . . . . . . . . . . 429
18.23.3Vertical/RadialBasisinSphericalCoordinates . . . . . . . . . . . . . 429
18.24StellarConvectioninaSphericalAnnulus: Glatzmaier(1984) . . . . . . . . . 430
18.25Non-TensorGrids: Icosahedral,etc. . . . . . . . . . . . . . . . . . . . . . . . . 431
18.26RobertBasisfortheSphere. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 433
18.27Parity-ModifiedLatitudinalFourierSeries . . . . . . . . . . . . . . . . . . . . 434
18.28ProjectiveFilteringforLatitudinalFourierSeries . . . . . . . . . . . . . . . . 435
18.29SpectralElementsontheSphere. . . . . . . . . . . . . . . . . . . . . . . . . . 437
18.30SphericalHarmonicsBesieged. . . . . . . . . . . . . . . . . . . . . . . . . . . 438
18.31EllipticandEllipticCylinderCoordinates . . . . . . . . . . . . . . . . . . . . 439
18.32Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 440
19 SpecialTricks 442
19.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 442
19.2 SidebandTruncation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 443
19.3 SpecialBasisFunctions,I:CornerSingularities . . . . . . . . . . . . . . . . . 446
19.4 SpecialBasisFunctions,II:WaveScattering . . . . . . . . . . . . . . . . . . . 448
19.5 WeaklyNonlocalSolitaryWaves . . . . . . . . . . . . . . . . . . . . . . . . . 450
19.6 Root-FindingbyChebyshevPolynomials . . . . . . . . . . . . . . . . . . . . 450
19.7 HilbertTransform . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 453
19.8 Spectrally-AccurateQuadratureMethods . . . . . . . . . . . . . . . . . . . . 454
19.8.1 Introduction: GaussianandClenshaw-CurtisQuadrature . . . . . . 454
19.8.2 Clenshaw-CurtisAdaptivity . . . . . . . . . . . . . . . . . . . . . . . 455
19.8.3 Mechanics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456
19.8.4 IntegrationofPeriodicFunctionsandtheTrapezoidalRule . . . . . . 457
19.8.5 InfiniteIntervalsandtheTrapezoidalRule . . . . . . . . . . . . . . . 458
19.8.6 SingularIntegrands . . . . . . . . . . . . . . . . . . . . . . . . . . . . 458
19.8.7 SetsandSolitaries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 460
viii CONTENTS
20 SymbolicCalculations 461
20.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 461
20.2 Strategy. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 462
20.3 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 465
20.4 SummaryandOpenProblems . . . . . . . . . . . . . . . . . . . . . . . . . . . 472
21 TheTau-Method 473
21.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 473
21.2 ¿-ApproximationforaRationalFunction . . . . . . . . . . . . . . . . . . . . 474
21.3 DifferentialEquations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476
21.4 CanonicalPolynomials . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476
21.5 Nomenclature . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 478
22 DomainDecompositionMethods 479
22.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479
22.2 Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480
22.3 ConnectingtheSubdomains: Patching . . . . . . . . . . . . . . . . . . . . . . 480
22.4 WeakCouplingofElementalSolutions . . . . . . . . . . . . . . . . . . . . . . 481
22.5 VariationalPrinciples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 484
22.6 ChoiceofBasis&Grid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 485
22.7 PatchingversusVariationalFormalism . . . . . . . . . . . . . . . . . . . . . . 486
22.8 MatrixInversion. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487
22.9 TheInfluenceMatrixMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . 488
22.10Two-DimensionalMappings&SectorialElements . . . . . . . . . . . . . . . 491
22.11Prospectus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 492
23 BooksandReviews 494
A ABestiaryofBasisFunctions 495
A.1 TrigonometricBasisFunctions: FourierSeries . . . . . . . . . . . . . . . . . . 495
A.2 ChebyshevPolynomials: T (x) . . . . . . . . . . . . . . . . . . . . . . . . . . 497
n
A.3 ChebyshevPolynomialsoftheSecondKind: U (x) . . . . . . . . . . . . . . 499
n
A.4 LegendrePolynomials: P (x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 500
n
A.5 GegenbauerPolynomials. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 502
A.6 HermitePolynomials: H (x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 505
n
A.7 RationalChebyshevFunctions: TB (y) . . . . . . . . . . . . . . . . . . . . . 507
n
A.8 LaguerrePolynomials: L (x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 508
n
A.9 RationalChebyshevFunctions: TL (y) . . . . . . . . . . . . . . . . . . . . . 509
n
A.10GraphsofConvergenceDomainsintheComplexPlane . . . . . . . . . . . . 511
B DirectMatrix-Solvers 514
B.1 MatrixFactorizations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 514
B.2 BandedMatrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 518
B.3 Matrix-of-MatricesTheorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . 520
B.4 Block-BandedElimination: the“Lindzen-Kuo”Algorithm . . . . . . . . . . 520
B.5 Blockand“Bordered”Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . 522
B.6 CyclicBandedMatrices(PeriodicBoundaryConditions) . . . . . . . . . . . 524
B.7 Partingshots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 524
CONTENTS ix
C NewtonIteration 526
C.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 526
C.2 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 529
C.3 EigenvalueProblems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 531
C.4 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 534
D TheContinuationMethod 536
D.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 536
D.2 Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 537
D.3 InitializationStrategies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 538
D.4 LimitPoints . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 542
D.5 Bifurcationpoints . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 544
D.6 PseudoarclengthContinuation . . . . . . . . . . . . . . . . . . . . . . . . . . 546
E Change-of-CoordinateDerivativeTransformations 550
F CardinalFunctions 561
F.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 561
F.2 GeneralFourierSeries: EndpointGrid . . . . . . . . . . . . . . . . . . . . . . 562
F.3 FourierCosineSeries: EndpointGrid. . . . . . . . . . . . . . . . . . . . . . . 563
F.4 FourierSineSeries: EndpointGrid . . . . . . . . . . . . . . . . . . . . . . . . 565
F.5 CosineCardinalFunctions: InteriorGrid . . . . . . . . . . . . . . . . . . . . 567
F.6 SineCardinalFunctions: InteriorGrid . . . . . . . . . . . . . . . . . . . . . . 568
F.7 Sinc(x): Whittakercardinalfunction . . . . . . . . . . . . . . . . . . . . . . . 569
F.8 ChebyshevGauss-Lobatto(“Endpoints”) . . . . . . . . . . . . . . . . . . . . 570
F.9 ChebyshevPolynomials: Interioror“Roots”Grid . . . . . . . . . . . . . . . 571
F.10 LegendrePolynomials: Gauss-LobattoGrid . . . . . . . . . . . . . . . . . . . 572
G TransformationofDerivativeBoundaryConditions 575
Glossary 577
Index 586
References 595
