Table Of ContentAndreas Meister
Numerik linearer
Gleichungs-
systeme
Eine Einführung in moderne Verfahren
Mit MATLAB®-Implementierungen
von C. Vömel
5. Aufl age
Numerik linearer Gleichungssysteme
Andreas Meister
Numerik linearer
Gleichungssysteme
Eine Einführung in moderne Verfahren.
Mit MATLAB®-Implementierungen
von C. Vömel
5., überarbeitete Auflage
AndreasMeister
FachbereichMathematik
undNaturwissenschaften
UniversitätKassel
Kassel,Deutschland
ISBN978-3-658-07199-8 ISBN978-3-658-07200-1(eBook)
DOI10.1007/978-3-658-07200-1
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie;
detailliertebibliografischeDatensindimInternetüberhttp://dnb.d-nb.deabrufbar.
SpringerSpektrum
©SpringerFachmedienWiesbaden1999,2005,2008,2011,2015
DasWerkeinschließlichallerseinerTeileisturheberrechtlichgeschützt.JedeVerwertung,dienichtaus-
drücklichvomUrheberrechtsgesetzzugelassenist,bedarfdervorherigenZustimmungdesVerlags.Das
giltinsbesonderefürVervielfältigungen,Bearbeitungen,Übersetzungen,MikroverfilmungenunddieEin-
speicherungundVerarbeitunginelektronischenSystemen.
DieWiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. indiesem Werk be-
rechtigtauch ohnebesondere Kennzeichnung nicht zuder Annahme, dasssolcheNamenimSinneder
Warenzeichen- undMarkenschutz-Gesetzgebung alsfreizubetrachtenwärenunddahervonjedermann
benutztwerdendürften.
GedrucktaufsäurefreiemundchlorfreigebleichtemPapier.
SpringerSpektrumisteineMarkevonSpringerDE.SpringerDEistTeilderFachverlagsgruppeSpringer
Science+BusinessMedia
www.springer-spektrum.de
Fu¨r Jonas, Anika, Lara und Jannik
vii
Vorwort
Im Rahmen der Numerik linearer Gleichungssysteme befassen wir uns mit der effizien-
ten L¨osung großer, linearer Systeme, wodurch ein wichtiges Teilgebiet der Numerischen
Linearen Algebra betrachtet wird, das in den letzten Jahren immer gr¨oßere Bedeutung
gewonnen hat.
Der in den vergangenenzwei Dekaden vollzogene drastische Anstieg der Leistungsf¨ahig-
keit von Personal Computern, Workstations und Großrechneranlagenhat zu einer weit-
verbreiteten Entwicklung numerischer Verfahren zur Simulation praxisrelevanter Pro-
blemstellungen in der Medizin, der Physik, den Ingenieurwissenschaften und vielen wei-
terenBereichengefu¨hrt.NebenderMethodederFinitenElemente,dieinh¨arentaufeinli-
nearesGleichungssystemfu¨hrt,ben¨otigenauchdieh¨aufigverwendetenFinite-Differenzen-
undFinite-Volumen-VerfahreninKombinationmiteinemimplizitenZeitschrittverfahren
einenAlgorithmuszurL¨osunglinearerGleichungssysteme.So istes nichtverwunderlich,
dass die Forschungsaktivit¨aten auf dem Gebiet der Gleichungssysteml¨oser einen deut-
lichen Aufschwung erfahren und zur Entwicklung einer Vielzahl effizienter Verfahren
gefu¨hrt haben.
Das vorliegende Buch basiert auf den Inhalten einer vom Autor am Fachbereich Mathe-
matikderUniversit¨atHamburggehaltenenvierstu¨ndigenVorlesung,diesichimKontext
dererw¨ahntenEntwicklungenmitderHerleitungundAnalyseklassischersowiemoderner
Methoden zur L¨osung linearer Gleichungssysteme befasste.
Aufgrund der in diesem Gebiet vorliegenden Vielzahl unterschiedlicher direkter und ite-
rativer Verfahren,ist es innerhalb einer vierstu¨ndigen Vorlesung sicherlichnicht m¨oglich
alle existierenden Algorithmen vorzustellen. Ziel dieses Manuskriptes ist es daher, dem
interessierten Leser einen U¨berblick u¨ber weite Bereiche dieses Gebietes zu vermitteln,
die fu¨r praktische Anwendungen wichtigen Methoden zu diskutieren, verwandte Algo-
rithmen durch Bemerkungen und Literaturhinweise zu integrieren und die Erarbeitung
weiterer Verfahren zu erleichtern.
DievorausgesetztenGrundkenntnissebeschr¨ankensichhierbeigezieltaufu¨blicheInhalte
derAnalysisundlinearenAlgebramathematischerVorlesungenindenerstenzweiSeme-
sterneinesHochschulfaches,dadiebeschriebenenMethodenweitu¨berdie Grenzeneines
MathematikstudiumsvongroßemInteressesind.ZurUnterstu¨tzungeinesSelbststudiums
werdenzudemalleben¨otigtenGrundlagenineinemeigenst¨andigenKapitelbereitgestellt.
Nachdem das Auftreten linearer Gleichungssysteme im ersten Kapitel anhand einiger
Modellbeispiele beschrieben wird, stellen wir im zweiten Kapitel die fu¨r die folgenden
Methoden ben¨otigten Grundlagen der linearen Algebra zur Verfu¨gung. Das dritte Kapi-
tel widmet sich den direkten Verfahren, die h¨aufig in modernen Gleichungssysteml¨osern
involviertsind oder teilweise in unvollst¨andigen Versionen als Vorkonditionierer verwen-
det werden. Der Schwerpunkt liegt auf der Beschreibung iterativer Verfahren, die im
anschließenden vierten Kapitel vorgestellt werden. Hierbei wird stets besonderen Wert
aufeineMotivationsowieeineu¨bersichtliche,einheitlicheundmathematischabgesicherte
Herleitung der iterativen Gleichungssysteml¨oser gelegt. Neben den Splitting-Methoden,
wie zum Beispiel dem Jacobi- und Gauß-Seidel-Verfahren,der Richardson-Iterationund
viii Vorwort
denRelaxationsverfahren,beschreibenwirzun¨achstdieZweigittermethodeundanschlie-
ßend das Mehrgitterverfahren sowie dessen vollst¨andige Variante. Die Herleitung des
CG-Verfahrens nehmen wir durch eine Kombination der zuvor beschriebenen Verfah-
ren des steilsten Abstiegs und der konjugierten Richtungen vor. Desweiteren betrachten
wir vom GMRES-Verfahren u¨ber die BiCG-Methode bis zum QMRCGSTAB-Verfahren
eine großeBandbreite moderner Krylov-Unterraum-Methoden,die zur L¨osung vonGlei-
chungssystemenmiteinerunsymmetrischenundindefinitenMatrixgeeignetsind.Dasab-
schließendefu¨nfte Kapitelisteinerausfu¨hrlichenBeschreibungundUntersuchungm¨ogli-
cher Pr¨akonditionierungstechnikengewidmet, da die dargestellten Verfahren bei praxis-
relevanten Problemstellungen in der Regel erst in Kombination mit einem geeigneten
Vorkonditionierer eine stabile und effiziente Gesamtmethode liefern.
Die pr¨asentierten Methoden finden ihre Anwendung in unterschiedlichsten numerischen
Verfahren,dieinverschiedenstenProgrammiersprachenentwickeltwurden.Daherwurde
gezielt eine Darstellung der Algorithmen gew¨ahlt, die eine Umsetzung in ein beliebiges
Computer Programm erm¨oglichen, weshalb die Verwendung einer expliziten Program-
miersprache vermieden wurde. Viele der pr¨asentierten Verfahren sind bereits in Softwa-
repaketenwie zum Beispiel LAPACK [3], LINSOL [77], MATLAB [1] und Templates [8]
verfu¨gbar.
Bedanken m¨ochte ich mich an dieser Stelle bei Frau Monika Jampert, die weite Tei-
le meines handschriftlichen Manuskriptes in ein LATEX-Skript verwandelt hat und bei
Dipl. Math. Dirk Nitschke fu¨r seine Unterstu¨tzung bei allen LATEX-Fragen. Zudem gilt
meinDankDr.ChristophB¨asler,Dipl.Math.MichaelBreuss,MartinLudwig,Christian
Nagel, Dipl. Math. Stefanie Schmidt und Dipl. Math. Christof V¨omel fu¨r das intensive
Korrekturlesenund die vielen konstruktivenHinweise und Bemerkungen,die sich in vie-
len Bereichen positiv ausgewirkt haben. Besonders bedanken m¨ochte ich mich an dieser
Stelle bei Prof. Dr. Thomas Sonar,der durch seine ermutigende Unterstu¨tzung und jah-
relange fachliche Begleitung wesentlich zur Entstehung dieses Buches beigetragen hat.
Hamburg, im September 1999 Andreas Meister
Vorwort zur zweiten Auflage
Innerhalbder zweitenAuflage wurdenneben der Korrekturentdeckter Fehler auchtext-
liche Erweiterungenund erg¨anzendeBemerkungeneingefu¨gt,die hoffentlicheine bessere
Lesbarkeit zur Folge haben. Mein Dank gilt hierbei vielen Lesern, die durch zahlreiche
Hinweise und konstruktive Kritik wesentlich zur Verbesserung beigetragen haben.
Eine zentrale Erweiterung stellen die im erg¨anzten Anhang aufgefu¨hrten MATLAB-
Implementierung zu g¨angigen Krylov-Unterraum-Methoden dar, die von Dr. C. V¨omel
entwickelt wurden. Fu¨r diese hilfreiche Unterstu¨tzung m¨ochte ich mich an dieser Stelle
recht herzlich bedanken. Durch diese Erg¨anzung ergibt sich fu¨r den interessierten An-
wendereineM¨oglichkeitzurunmittelbarenNutzungderdiskutiertenVerfahren,dieeinen
tieferen Einblick in die jeweiligen Eigenschaften der betrachteten Methode im Kontext
individueller Problemstellungen er¨offnet.
ix
U¨berKommentare,Verbesserungsvorschl¨ageundKorrekturhinweise,diemirbespielswei-
seu¨bermeineEmail-Adressemeister@mathematik.uni-kassel.dezugesendetwerdenk¨onnen,
wu¨rde ich mich sehr freuen. Desweiteren besteht unter
http://www.mathematik.uni-kassel.de/~meister/buch_online
ein Online-Service zum Buch. Neben aktuellen Informationen und Korrekturhinweisen
k¨onnen dieser Seite auch die angesprochenen MATLAB-Implementierungen entnommen
werden.
Kassel, im November 2004 Andreas Meister
Vorwort zur dritten Auflage
Neben geringfu¨gigen Korrekturen von Tippfehlern wurden im Rahmen dieser Auflage
zahlreiche U¨bungsaufgaben erg¨anzt, die sich jeweils am Ende der Kapitel 2 bis 5 befin-
den. Bei einigen Problemstellungen konnte ich dabei auf U¨bungen aus meinem eigenen
Studium zuru¨ckgreifen. Den damaligen Aufgabenstellern gilt daher ru¨ckwirkend mein
herzlicher Dank. Die zugeh¨origen L¨osungen k¨onnen dem unter
http://www.vieweg.de/tu/8y
bereitgestellten Online-Service entnommen werden. Hier findet der interessierte Leser
zudemHinweise zuthemenbegleitendenKompaktkursensowiedie imBuchaufgefu¨hrten
MATLAB-Implementierungen.
Kassel, im Oktober 2007 Andreas Meister
Vorwort zur vierten Auflage
InnerhalbdieserAuflagewurdemitdemVerfahrennachHouseholdereineweitereM¨oglich-
keit zur Berechnung einer QR-Zerlegung aufgenommen. Zudem wurden eine kleine An-
zahl an Tippfehler beseitigt und einige Erg¨anzungen bei den mathematischen Aussagen
vorgenommen. Die bereitgestellten Zusatzmaterialien sind unter
http://www.viewegteubner.de
zufinden.GedanktseiandieserStelleallenaufmerksamenLesern,diemitkonstruktiven
Vorschl¨agen zur besseren Lesbarkeit beigetragen haben.
Kassel, im Dezember 2010 Andreas Meister
x Vorwort
Vorwort zur fu¨nften Auflage
Neben der Beseitigung kleinerer Tippfehler wurde in dieser Auflage eine deutliche Er-
weiterung im Bereichder Mehrgitterverfahrenvorgenommen.Auf der Basis der Fourier-
Moden ergibt sich ein tieferer Einblick in die Wirkungsweise der einzelnen Komponen-
ten, der ein besseres Gesamtverst¨andnis der Methode erm¨oglichen soll. Mein besonde-
rer Dank gilt dabei Herrn Raphael Hohmann fu¨r seine Unterstu¨tzung in diesem Gebiet,
HerrnDr.StefanKopeczfu¨rvielehilfreicheAnmerkungenunddieBereitstellungzahlrei-
cher numerischer Resultate sowie Frau Veronika Diba fu¨r das akribische Korrekturlesen.
Natu¨rlich verbleiben dennoch alle vorliegendenFehler in der Verantwortung des Autors.
Die verfu¨gbaren Zusatzmaterialien sind unter
http://www.springer.com/springer+spektrum/mathematik/book/978-3-658-07199-8
zu finden.
Kassel, im September 2014 Andreas Meister
xi
Inhaltsverzeichnis
1 Beispiele fu¨r das Auftreten linearer Gleichungssysteme 1
2 Grundlagen der linearen Algebra 7
2.1 Vektornormen und Skalarprodukt . . . . . . . . . . . . . . . . . . . . 7
2.2 Lineare Operatoren, Matrizen und Matrixnormen. . . . . . . . . . . . 13
2.3 Konditionszahl und singul¨are Werte . . . . . . . . . . . . . . . . . . . 25
2.4 Der Banachsche Fixpunktsatz . . . . . . . . . . . . . . . . . . . . . . . 29
2.5 U¨bungsaufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
3 Direkte Verfahren 36
3.1 Gauß-Elimination . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
3.2 Cholesky-Zerlegung . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
3.3 QR-Zerlegung. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
3.3.1 Das Gram-Schmidt-Verfahren . . . . . . . . . . . . . . . . . . . . . 49
3.3.2 Die QR-Zerlegung nach Givens . . . . . . . . . . . . . . . . . . . . 55
3.3.3 Die QR-Zerlegung nach Householder . . . . . . . . . . . . . . . . . 59
3.4 U¨bungsaufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
4 Iterative Verfahren 69
4.1 Splitting-Methoden . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72
4.1.1 Jacobi-Verfahren . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
4.1.2 Gauß-Seidel-Verfahren . . . . . . . . . . . . . . . . . . . . . . . . . 82
4.1.3 Relaxationsverfahren . . . . . . . . . . . . . . . . . . . . . . . . . . 85
4.1.3.1 Jacobi-Relaxationsverfahren . . . . . . . . . . . . . . . . 86
4.1.3.2 Gauß-Seidel-Relaxationsverfahren . . . . . . . . . . . . . 89
4.1.4 Richardson-Verfahren . . . . . . . . . . . . . . . . . . . . . . . . . 97
4.1.5 Symmetrische Splitting-Methoden . . . . . . . . . . . . . . . . . . 101
4.2 Mehrgitterverfahren . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106
4.2.1 Zweigitterverfahren. . . . . . . . . . . . . . . . . . . . . . . . . . . 126
4.2.2 Der Mehrgitteralgorithmus . . . . . . . . . . . . . . . . . . . . . . 136