Table Of ContentMasterclass
Armin Iske
Approximation
Springer-Lehrbuch Masterclass
Armin Iske
Approximation
Armin Iske
Fachbereich Mathematik
Universität Hamburg
Hamburg, Deutschland
Springer-Lehrbuch Masterclass
ISBN 978-3-662-55464-7 ISBN 978-3-662-55465-4 (eBook)
https://doi.org/10.1007/978-3-662-55465-4
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie;
detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.
Springer Spektrum
© Springer-Verlag GmbH Deutschland 2018
Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt. Jede Verwertung, die nicht
ausdrücklich vom Urheberrechtsgesetz zugelassen ist, bedarf der vorherigen Zustimmung des Verlags.
Das gilt insbesondere für Vervielfältigungen, Bearbeitungen, Übersetzungen, Mikroverfilmungen
und die Einspeicherung und Verarbeitung in elektronischen Systemen.
Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk
berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne
der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von
jedermann benutzt werden dürften.
Der Verlag, die Autoren und die Herausgeber gehen davon aus, dass die Angaben und Informationen in
diesem Werk zum Zeitpunkt der Veröffentlichung vollständig und korrekt sind. Weder der Verlag noch
die Autoren oder die Herausgeber übernehmen, ausdrücklich oder implizit, Gewähr für den Inhalt
des Werkes, etwaige Fehler oder Äußerungen. Der Verlag bleibt im Hinblick auf geografische
Zuordnungen und Gebietsbezeichnungen in veröffentlichten Karten und Institutionsadressen neutral.
Verantwortlich im Verlag: Annika Denkert
Gedruckt auf säurefreiem und chlorfrei gebleichtem Papier
Springer Spektrum ist ein Imprint der eingetragenen Gesellschaft Springer-Verlag GmbH Deutschland
und ist Teil von Springer Nature
Die Anschrift der Gesellschaft ist: Heidelberger Platz 3, 14197 Berlin, Germany
Vorwort
Dieses Lehrbuch liefert eine grundlegende Einfu(cid:127)hrung in die Theorie und
Numerik der Approximation mit Bezu(cid:127)gen zu aktuellen Anwendungen der
Datenanalyse.DabeiwerdenklassischeThemenderApproximationmitrele-
vanten weiterfu(cid:127)hrenden Methoden der mathematischen Signalverarbeitung
verknu(cid:127)pft. Das Lehrbuch ist aus einer einsemestrigen Lehrveranstaltung zur
Approximation (im Umfang von 4 SWS Vorlesung und 2 SWS U(cid:127)bung)
entstanden, die ich seit 2006 regelm(cid:127)a(cid:25)ig an der Universit(cid:127)at Hamburg fu(cid:127)r
Studierende der mathematischen Bachelor-Studieng(cid:127)ange anbiete.
Verwendung und Voraussetzungen. Dieses Lehrbuch istgeeignetfu(cid:127)r
Studierende, die die mathematischen Grundlagen der linearen Algebra und
der Analysis in ihrem ersten Studienjahr bereits erfolgreich studiert haben.
WeitererelevanteGrundlagenu(cid:127)bernumerischeMethodenwerdenhierimvor-
bereitenden Kapitel 2 zur Verfu(cid:127)gung gestellt. Damit kann dieser Text paral-
lelzurNumerik(etwaim3.FachsemesterdesBachelor-Studiums)verwendet
werden. Anderenfalls sollte das Studium der grundlegenden Methoden und
Algorithmen aus Kapitel 2 selbst nach einer erfolgreichen Teilnahme an der
numerischen Mathematik eine willkommene Wiederholung sein.
Grundlegende Inhalte. Zu den unverzichtbaren Standardthemen der
Approximation geh(cid:127)oren Charakterisierungen und Konstruktionen von Best-
approximationen in normierten linearen R(cid:127)aumen. Hiermit beginnen wir un-
sere Einfu(cid:127)hrung in die Approximationstheorie (in Kapitel 3). Anschlie(cid:25)end
studieren wir zwei wichtige Spezialf(cid:127)alle: Die Approximation in euklidischen
R(cid:127)aumen(inKapitel4)sowiedieTschebysche(cid:11)-Approximation(inKapitel5).
LetzteresanalysiertdieApproximationvonstetigenFunktionenbezu(cid:127)glichder
Maximumnorm. Hieran anknu(cid:127)pfend beweisen wir asymptotische Aussagen
zurApproximationvonunivariatenstetigenFunktionen(inKapitel6).Dabei
spielt insbesondere die Approximation von stetigen periodischen Funktionen
mit Fourier-Partialsummen eine wichtige Rolle.
Die Kernthemen aus den Kapiteln 3-6 sollten zu den zentralen Bestand-
teilen einer grundlegenden Einfu(cid:127)hrung in die Approximation geh(cid:127)oren. Ins-
gesamt nehmen die Kapitel 3-6 etwa die H(cid:127)alfte des hier pr(cid:127)asentierten Lehr-
materials ein. In einer einsemestrigen Lehrveranstaltung zur Approximation
(imUmfangvon4+2SWS)sollteausreichendPlatzfu(cid:127)rweitereThemensein.
Hierzu bieten die Kapitel 7-9 verschiedene Vertiefungsm(cid:127)oglichkeiten an.
VI Vorwort
Weiterfu(cid:127)hrende Themen. In Kapitel 7-9 bieten wir weiterfu(cid:127)hrende
Themenan,mitdenenBezu(cid:127)gezuaktuellenEntwicklungenundAnwendungen
der Approximation dargestellt werden. In Kapitel 7 erkl(cid:127)aren wir zun(cid:127)achst
grundlegendeKonzeptederSignal-ApproximationmitFourier-Methodenund
Wavelets.InKapitel8folgteineumfassendereEinfu(cid:127)hrungindiemultivariate
Approximation mit gitterfreien positiv de(cid:12)niten Kernen. Hierzu (cid:12)ndet man
(in den Abschnitten 8.4-8.5) neue Resultate zur Konvergenz und Stabilit(cid:127)at
sowiezuUpdate-Strategien.Schlie(cid:25)lichstellenwir(inAbschnitt8.6)Bezu(cid:127)ge
zu maschinellen Lernmethoden her. In Kapitel 9 widmen wir uns mathe-
matischen Methoden der Computertomographie, wobei wir dieses wichtige
Anwendungsfeld aus dem Blickwinkel der Approximation betrachten. Dabei
beweisenwir(inAbschnitt9.4)neueKonvergenzresultatezurApproximation
von bivariaten Funktionen aus Radon-Daten.
Jedes der drei weiterfu(cid:127)hrenden Themen aus den Kapiteln 7-9 l(cid:127)asst sich
(nach Behandlung der Kernthemen aus den Kapiteln 3-6) jeweils nahtlos
in eine einfu(cid:127)hrende Lehrveranstaltung zur Approximation einfu(cid:127)gen. Zum
besseren Verst(cid:127)andnis einzelner Inhalte der Kapitel 8-9 wird allerdings zuerst
das Studium der Fourier-Methoden (in den Abschnitten 7.1-7.4) empfohlen.
Alternativ lassen sich die Texte der Kapitel 7-9 als Literaturquelle fu(cid:127)r ein
einschl(cid:127)agiges Seminar im Bachelor- oder Master-Studium verwenden.
U(cid:127)bungen. Grunds(cid:127)atzlich gilt in mathematischen Lehrveranstaltungen
eine aktive Teilnahme an begleitenden U(cid:127)bungen sowie eine selbst(cid:127)andige
Bearbeitung von U(cid:127)bungsaufgaben als notwendige Voraussetzung fu(cid:127)r einen
ansprechendenLernfortschrittmiterfolgreichemKursabschluss.Ein(vernu(cid:127)nf-
tiger)Kursu(cid:127)berApproximationisthierbeikeineAusnahme.ZudiesemZweck
bieten wir in den Kapiteln 3-9 U(cid:127)bungsaufgaben an, mit denen ausgew(cid:127)ahlte
Problemstellungen vertiefend analysiert werden. Die U(cid:127)bungsaufgaben sind
unterschiedlich in ihrem Umfang und Schwierigkeitsgrad. Allerdings sollte
jede der gestellten Aufgaben mit den hier erlernten Methoden l(cid:127)osbar sein.
ZurvertiefendenRe(cid:13)exiondereingefu(cid:127)hrtenalgorithmischenKonzeptebieten
wir Programmieraufgaben an, deren Bearbeitung dringend empfohlen wird.
Schlie(cid:25)lich machen wir u(cid:127)ber die Internetseite dieses Lehrbuchs
www.math.uni-hamburg.de/home/iske/approx.de.html
weiterfu(cid:127)hrende Materialien und aktuelle Informationen verfu(cid:127)gbar.
Biographische Daten. Zur historischen Einordnung einzelner Themen
undEntwicklungenhabenwirFu(cid:25)notenangelegt,dieaufPersonenverweisen,
mit deren Namen entsprechende Resultate und Begri(cid:11)e verbunden werden.
Zur besseren U(cid:127)bersicht haben wir hierzu ein Namensverzeichnis angeh(cid:127)angt.
DieZusammenstellungderhistorischenDatengreiftimWesentlichenaufdas
aktuelle online Archiv MacTutor History of Mathematics [60] sowie auf die
freie Enzyklop(cid:127)adie Wikipedia [80] zuru(cid:127)ck, wo man detailliertere Hinweise zu
den einzelnen biographischen Daten (cid:12)ndet.
Vorwort VII
Danksagungen. Dieses Buch ist in den letzten zehn Jahren aus einem
stetig wachsenden Skript zur Approximation entstanden, das ich fu(cid:127)r meine
Lehrveranstaltungenregelm(cid:127)a(cid:25)igu(cid:127)berarbeitetunderg(cid:127)anzthabe.DieQualit(cid:127)at
des Lehrskripts hat sehr wesentlich pro(cid:12)tiert von zahlreichen kritischen Fra-
gen und konstruktiven Kommentaren seitens der Studierenden.
DiepositivenstudentischenRu(cid:127)ckmeldungen,dieindenanonymenEvalu-
ationen der stark nachgefragten Lehrveranstaltung immer wieder erneuert
wurden, haben mich letztendlich dazu ermutigt, auf der Grundlage des
Lehrskripts ein Lehrbuch zu entwickeln. Ich danke "meinen" Hamburger
Mathe-Studies fu(cid:127)r die nachhaltige Unterstu(cid:127)tzung ganz herzlich!
Weiterhin wurde die Tauglichkeit dieses Textes von den Studierenden
MichaelvonBargen,JohannaB(cid:127)ocker,WinnigretEildermann,DominikKirst
und Elena Kosjutenko in einem einsemestrigen "Lehrbuchprojekt" kritisch
evaluiert. Diese fu(cid:127)nf Bachelor-Studierenden haben den Text unabh(cid:127)angig
voneinander sehr gru(cid:127)ndlich Korrektur gelesen und dabei vor allem die Les-
barkeitausStudierendensichtu(cid:127)berpru(cid:127)ft.Diesfu(cid:127)hrtezudidaktischmotivierten
Erg(cid:127)anzungen mit zus(cid:127)atzlichen Beispielen und detaillierteren Erkl(cid:127)arungen
sowiedurchgraphischeIllustrationen,diezumbesserenVerst(cid:127)andnisbeitragen
sollen. Ich danke den Studierenden unseres "Buchprojekts Approximation"
ganz herzlich fu(cid:127)r die wertvollen Hinweise und die kritischen Nachfragen.
Meine drei Doktoranden Matthias Beckmann, Benedikt Diederichs und
Niklas Wagner haben den kompletten Text sehr akribisch auf Konsistenz
undKorrektheits(cid:127)amtlicherFormulierungenundArgumentationenu(cid:127)berpru(cid:127)ft.
Dies fu(cid:127)hrte zu lebhaften Diskussionen u(cid:127)ber konzeptionelle und didaktische
Aspekte, woraus umfassende A(cid:127)nderungen resultierten. Ich bin meinen drei
Doktoranden (cid:127)au(cid:25)erst dankbar fu(cid:127)r deren unermu(cid:127)dlichen Flei(cid:25) und fu(cid:127)r die
Hartn(cid:127)ackigkeitindenkritischenAuseinandersetzungendervielenanregenden
Diskussionensowiefu(cid:127)rwertvolleImpulseundDenkanst(cid:127)o(cid:25)e,diedasLehrbuch
signi(cid:12)kantverbesserthabenundmichvoreinigen(hierungenannten)Fehlern
und Unsauberkeiten bewahrt haben. Daru(cid:127)ber hinaus danke ich Matthias
Beckmann und Benedikt Diederichs fu(cid:127)r die sehr eleganten Ausfu(cid:127)hrungen in
deren zus(cid:127)atzlichen Ausarbeitungen zu einzelnen Resultaten.
MeinganzbesondererDankgiltschlie(cid:25)lichMatthiasBeckmannfu(cid:127)rseinen
gro(cid:25)artigenEinsatzbeiderBegleitungderU(cid:127)bungen.MatthiasBeckmannhat
sehrwertvolleBeitr(cid:127)agezurWeiterentwicklungderU(cid:127)bungsaufgabengeleistet,
wobei seine detaillierten Musterl(cid:127)osungen von den Studierenden stets sehr
dankbar angenommen wurden. Weiterhin hat Matthias Beckmann die hier
verwendetennumerischenAlgorithmenimplementiertundsorgf(cid:127)altiggetestet.
Nicht zuletzt danke ich Dr. Annika Denkert und Agnes Herrmann von
SpringerSpektrum,Heidelberg,fu(cid:127)rdie(cid:127)au(cid:25)erstfreundliche,sehrprofessionelle
und stets geduldige Begleitung dieses Buchprojekts.
Hamburg, im Dezember 2017 Armin Iske
[email protected]
Inhaltsverzeichnis
1 Einfu(cid:127)hrung ::::::::::::::::::::::::::::::::::::::::::::::: 1
1.1 Voru(cid:127)berlegungen, Grundbegri(cid:11)e und Notationen............ 2
1.2 Grundlegende Fragestellungen und Ausblick ............... 5
1.3 Approximationsmethoden zur Datenanalyse................ 7
1.4 Hinweise zu klassischer und aktueller Literatur ............. 8
2 Grundlegende Methoden und Algorithmen ::::::::::::::: 9
2.1 Lineare Ausgleichsrechnung.............................. 10
2.2 Regularisierungsmethoden ............................... 14
2.3 Interpolation mit algebraischen Polynomen ................ 19
2.4 Dividierte Di(cid:11)erenzen und Newton-Darstellung............. 28
2.5 Fehlerabsch(cid:127)atzungen und optimale Stu(cid:127)tzstellen............. 41
2.6 Interpolation mit trigonometrischen Polynomen ............ 47
2.7 Die diskrete Fourier-Transformation ...................... 52
3 Bestapproximationen ::::::::::::::::::::::::::::::::::::: 61
3.1 Existenz............................................... 64
3.2 Eindeutigkeit .......................................... 70
3.3 Duale Charakterisierung................................. 84
3.4 Direkte Charakterisierung ............................... 87
3.5 U(cid:127)bungen .............................................. 99
4 Euklidische Approximation ::::::::::::::::::::::::::::::: 103
4.1 Konstruktion von Bestapproximationen ................... 104
4.2 Orthogonalbasen und orthogonale Projektionen ............ 107
4.3 Fourier-Partialsummen.................................. 110
4.4 Orthogonalpolynome.................................... 119
4.5 U(cid:127)bungen .............................................. 134
5 Tschebysche(cid:11)-Approximation::::::::::::::::::::::::::::: 139
5.1 Ans(cid:127)atze zur Konstruktion von Bestapproximationen ........ 140
5.2 Stark eindeutige Bestapproximationen..................... 152
5.3 Haarsche R(cid:127)aume ....................................... 158
5.4 Der Remez-Algorithmus................................. 167
5.5 U(cid:127)bungen .............................................. 179
X Inhaltsverzeichnis
6 Asymptotische Aussagen ::::::::::::::::::::::::::::::::: 185
6.1 Der Satz von Weierstra(cid:25)................................. 186
6.2 Vollst(cid:127)andige Orthogonalsysteme und Riesz-Basen........... 194
6.3 Konvergenz von Fourier-Partialsummen ................... 204
6.4 Jackson-S(cid:127)atze.......................................... 217
6.5 U(cid:127)bungen .............................................. 231
7 Basiskonzepte zur Signal-Approximation:::::::::::::::::: 237
7.1 Die kontinuierliche Fourier-Transformation................. 239
7.2 Die Fourier-Transformation auf dem L2(R) ................ 251
7.3 Das Abtast-Theorem von Shannon........................ 255
7.4 Die multivariate Fourier-Transformation................... 257
7.5 Das Haar-Wavelet ...................................... 260
7.6 U(cid:127)bungen .............................................. 271
8 Approximation mit positiv de(cid:12)niten Kernen:::::::::::::: 275
8.1 Multivariate Lagrange-Interpolation ...................... 276
8.2 Hilbert-R(cid:127)aume mit reproduzierendem Kern ................ 283
8.3 Optimalit(cid:127)at der Interpolationsmethode.................... 289
8.4 Orthonormalsysteme, Konvergenz und Updates............. 293
8.5 Stabilit(cid:127)at der Interpolationsmethode ...................... 302
8.6 Kern-basierte Lernmethoden ............................. 306
8.7 U(cid:127)bungen .............................................. 313
9 Computertomographie:::::::::::::::::::::::::::::::::::: 317
9.1 Die Radon-Transformation............................... 319
9.2 Die ge(cid:12)lterte Ru(cid:127)ckw(cid:127)artsprojektion........................ 325
9.3 Konstruktion von Tiefpass-Filtern ........................ 329
9.4 Fehlerabsch(cid:127)atzungen und Konvergenz ..................... 335
9.5 Implementierung der Rekonstruktionsmethode ............. 338
9.6 U(cid:127)bungen .............................................. 345
Literaturverzeichnis :::::::::::::::::::::::::::::::::::::::::: 351
Stichwortverzeichnis :::::::::::::::::::::::::::::::::::::::::: 355
Namensverzeichnis ::::::::::::::::::::::::::::::::::::::::::: 359
1 Einfu(cid:127)hrung
Aktuelle Anwendungen in den Natur-, Ingenieur- und Finanzwissenschaften
erfordern leistungsf(cid:127)ahige mathematische Methoden zur Analyse von gro(cid:25)en
Datenmengen.MitderrapidewachsendenKomplexit(cid:127)atrelevanterAnwender-
daten und bei beschr(cid:127)ankten Rechenkapazit(cid:127)aten werden e(cid:14)ziente numerische
Algorithmen gesucht, die komplexe Systeme mit m(cid:127)oglichst wenigen Parame-
ternsimulieren.BeiderIdenti(cid:12)kationderParametersowiebeiderAnpassung
der Daten kommen moderne Methoden der Approximation zur n(cid:127)aherungs-
weisen Darstellung mathematischer Funktionen entscheidend zum Tragen.
Dieses Lehrbuch liefert eine Einfu(cid:127)hrung in die Theorie und Numerik der
Approximation, wobei die Approximation von reellwertigen Funktionen
f :(cid:10) R
!
u(cid:127)berkompaktenParametergebieten(cid:10) Rd,d 1,einezentraleRollespielt.
(cid:26) (cid:21)
Allerdingsbeschr(cid:127)ankenwirunsnichtausschlie(cid:25)lichaufdieApproximation
vonFunktionen.Vielmehrnehmenwirallgemeinan,dassf ineinemlinearen
Raum liege, f . Bei der Konstruktion einer konkreten Methode zur
F 2 F
Approximationanf legenwirzun(cid:127)achsteinegeeigneteTeilmenge fest,
S (cid:26)F
mit deren Elementen wir f approximieren. Zur n(cid:127)aherungsweisen Darstellung
von f sind wir prinzipiell interessiert an der Auswahl einer bestm(cid:127)oglichen
Approximation (kurz Bestapproximation) s ,
(cid:3)
2S
s f;
(cid:3)
(cid:25)
die unter allen s n(cid:127)achstm(cid:127)oglich an f liegt.
2S
IndieserkurzenEinfu(cid:127)hrungerkl(cid:127)arenwirzun(cid:127)achstwichtigeGrundbegri(cid:11)e
der Approximation. Anschlie(cid:25)end geben wir konkrete Beispiele fu(cid:127)r relevante
Funktionenr(cid:127)aume und an. Zur weiteren Motivation skizzieren wir
F S (cid:26) F
schlie(cid:25)lich in einem Ausblick ausgew(cid:127)ahlte Fragestellungen und Resultate der
Approximation, die sp(cid:127)ater im Detail diskutiert werden.
© Springer-Verlag GmbH Deutschland 2018 1
A. Iske, Approximation, Springer-Lehrbuch Masterclass,
https://doi.org/10.1007/978-3-662-55465-4_1
