Table Of ContentTeubner Skripten zur
Numerik
Michael Griebel
Multilevelmethoden als Iterationsverfahren
Ober Erzeugendensystemen
Teubner Skripten zur
Numerik
Herausgegeben von
Prof. Dr. rer. nat. Hans Georg Bock, Universitat Heidelberg
Prof. Dr. rer. nat. Wolfgang Hackbusch, Universitat Kiel
Prof. Dr. phil. nat. Rolf Rannacher, Universitat Heidelberg
Die Reihe soli ein Forum fOr Einzel- sowie Sammelbeitrage zu aktuellen
Themen der Numerischen Mathematik und ihrer Anwendungen in Natur
wissenschaften und Technik sein. Das Programm der Reihe reicht von der
Behandlung klassischer Themen aus neuen Blickwinkeln bis hin zur
Beschreibung neuartiger noch nicht etablierter Verlahrensansatze. Es
umfaBt insbesondere die mathematische Fundierung moderner numeri
scher Methoden sowie deren Aufbereitung fOr praxisrelevante Anwen
dungen. Dabei wird bewuBt eine gewisse Vorlaufigkeit und Unvollstan
digkeit der Stoffauswahl und Darstellung in Kauf genommen, um den
Leser schnell mit aktuellen Entwicklungen auf dem Gebiet der Numerik
vertraut zu machen. Dadurch soli in den Texten die Lebendigkeit und
Originalitat von Vorlesungen und Forschungsseminaren erhalten bleiben.
Hauptziel ist es, in knapper aber fundierter Weise Ober aktuelle Entwick
lungen zu informieren und damit weitergehende Studien anzuregen und
zu erleichtern.
Multilevelmethoden als
Iterationsverfahren uber
Erzeugendensystemen
Von Dr. rer. nat. Michael Griebel
Technische Universitat MOnchen
83
B. G. Teubner Stuttgart 1994
Dr. rer. nat. Michael Griebel
1960 geboren in Augsburg. Von 1979 bis 1985 Studium der Informatik und Ma
thematik an der Techn. Universitat MOnchen, Diplom 1985. Von 1985 bis 1993
Wiss. Mitarbeiter am Institut fOr Informatik der TU MOnchen, Lehrstuhl Prof. Dr.
C. Zenger, 1989 Promotion. Von 1990 bis 1993 Wiss. Assistent, 1993 Habilitati
on, seit 1993 Wiss. Oberassistent am Institut fOr Informatik der TU MOnchen.
Seit 1992 Referent des Bayerischen Forschungsverbundes fOr Technisch-Wis
senschaftliches Hochleistungsrechnen (FORTWIHR).
ISBN-13: 978-3-519-02718-8 e-ISBN-13: 978-3-322-89224-9
DOl: 10.1007/978-3-322-89224-9
Die Deutsche Bibliothek - CIP-Einheitsaufnahme
Griebel, Michael:
Multilevelmethoden als Iterationsverfahren Ober
Erzeugendensystemen / von Michael Griebel. - Stuttgart :
Teubner, 1994
(Teubner-Skripten zur Numerik)
Das Werk einschlieBlich aller seiner Teile ist urheberrechtlich geschOtzt. Jede Verwertung auBer
halb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlages un
zulassig und strafbar. Das gilt besonders fOr Vervielfaltigungen, Obersetzungen, Mikrover
filmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen.
© B. G. Teubner Stuttgart 1994
Vorwort
Die bei der numerischen Simulation verschiedener physikalischer und techni
scher Vorgange auftretenden Differentialgleichungen fUhren nach Linearisierung
und Diskretisierung zu sehr groBen linearen Gleichungssystemen, deren Be
handlung mittels traditioneller direkter oder iterativer Losungsverfahren selbst
auf modernsten Computern entweder gar nicht, oder nur mit unertraglich
groBem Rechenaufwand und langer Rechenzeit moglich sind.
1m letzten Jahrzehnt sind nun effiziente Verfahren entwickelt worden, die den
Losungsvorgang entscheidend beschleunigen. Hierbei sind hauptsachlich Mehr
gittermethoden sowie Multilevel-Vorkonditionierer zu nennen, beide mit je
weils verschiedenen Herleitungs- und Betrachtungsweisen sowie unterschied
lichen Beweismethoden. Daneben ist durch den Einsatz paralleler Rechen
systeme eine weitere Beschleunigung des Losungsvorgangs moglich geworden.
Hierbei haben sich Gebietszerlegungsverfahren, unter anderem in Verbindung
mit oben erwahnten Methoden, als besonders geeignet erwiesen.
In dies em Buch stellen wir nun eine neue Sichtweise und Interpretationsmoglich
keit fUr Mehrgitterverfahren, Multilevel-Vorkonditionierer und Gebietszerle
gungsmethoden fUr elliptische Probleme VOL Dazu verwenden wir ein Erzeu
gendensystem, das die Knotenbasen verschiedener Diskretisierungslevel umfaBt.
Der Ritz-Galerkin-Ansatz fiihrt dann zu einem semidefiniten Gleichungssystem
mit optimaler Kondition der Ordnung 0(1), wenn man von den fiir Iterations
verfahren i.a. bedeutungslosen verschwindenden Eigenwerten absieht. Die oben
erwahnten effizienten Verfahren (Mehrgitter, Multilevel-Vorkonditionierer) las
sen sich nun als traditionelle iterative Methoden (GauB-Seidel, Jacobi-Vorkon
ditionierer) iiber diesem semidefiniten System interpretieren. Bei der Konver
genzanalyse dieser modernen Methoden gehen jetzt im Prinzip die gleichen
Terme ein, wie schon bei der Analyse traditioneller Iterationsverfahren.
Weiterhin ermoglicht diese Sichtweise, das starre levelorientierte Vorgehen zu
durchbrechen, das dem Mehrgitterprinzip zugrunde liegt. Dadurch konnen
ortsorientierte Iterationsverfahren entwickelt werden. Durch das Zusammen
fassen der zu einem Punkt gehOrigen Basisfunktionen verschiedener Level ent
stehen zur Gebietszerlegungsmethode verwandte Block-Iterationsverfahren mit
gitterweitenunabhangigen Konvergenzraten. Die vorgestellten Verfahren be
sitzen auf Grund ihres substantiell reduzierten Kommunikationsaufwandes im
Vergleich zu konventionellen Multilevelmethoden gewisse Vorteile bei der Par-
VI
allelisierung, die sich insbesondere auf parallelen Rechensystemen mit rela
tiv langsamen Startup-Zeiten, wie Netze von Arbeitsplatzrechnern, auswirken.
Dariiber hinaus hat sich der Erzeugendensystemansatz als niitzliches Konstruk
tionsprinzip bei der Entwicklung neuartiger Multilevelmethoden ("multiple
coarse-grid" -Verfahren, diinne Gitter) erwiesen.
Sicherlich ist die hier vorgestellte Technik noch nicht in einem finalen Zustand
und es bleiben viele Fragen offen (Ubertragung auf echte Anwendungsprobleme
wie etwa Navier-Stokes, Robustheit bei singular gestorten Problemen, Zu
sammenspiel mit Upwind-Diskretisierung und Streamline-Diffusion-Methoden
fUr Konvektions-Diffusionsprobleme, Anwendung auf allgemeine Gebietsfor
men und Zerlegungsgitter) und sicherlich mag fUr den Spezialisten einiges be
kannt erscheinen (es besteht eine enge Verwandtschaft zu Teilraumkorrektur
methoden), aber zumindest ich habe mittels der hier geschilderten Technik
die Unterschiede und Gemeinsamkeiten von Mehrgitterverfahren, Multilevel
Vorkonditionierern und Gebietszerlegungsmethoden genauer verstanden. rch
hege schlieBlich die Hoffnung, daB sich in Zukunft vielleicht auch neue effizi
ente rterationsverfahren mit Hilfe der in diesem Buch vorgestellten Sichtweise
erarbeiten lassen.
An dieser Stelle mochte ich mich bei meinen Kollegen R. Hiptmair, D. Roschke
und T. Stortkuhl sowie bei T. Grauschopf, Prof. W. Hackbusch, Prof. P. Os
wald, Prof. R. Rannacher und T. Schiekofer fUr niitzliche Hinweise bedanken.
Weiterhin bedanke ich mich bei Dr. H. Bungartz fUr die kritische Durchsicht
und griindliche Korrektur des Manuskripts dieser Arbeit und bei S. Zimmer,
der mir bei der Erstellung der Abbildungen und Tabellen entscheidend geholfen
hat. Besonderer Dank gilt Prof. C. Zenger, der mir diese Arbeit durch seine
langjahrige Forderung iiberhaupt erst ermoglicht hat.
Augsburg, im Dezember 1993 Michael Griebel
Inhaltsverzeichnis
Inhaltsverzeichnis
1 Einleitung 1
2 Das semidefinite Siystem 7
2.1 Zerlegung des Approximationsraumes 8
2.2 Das Erzeugendensystem ....... 12
2.3 Die Ritz-Galerkin-Diskretisierung und das semidefinite System 18
3 Iterative Methoden fur das semidefinite System 24
3.1 Ein Uberblick tiber iterative Methoden ..... . 24
3.2 Jacobi- und Gau13-Seidel-artige Iterationsverfahren . 29
3.3 Zur Konvergenz der Verfahren . . . . . . . . . . . . 34
4 Gradientenorientierte Verfahren fUr das semidefinite System 43
4.1 Das Residuum und vorkonditionierte Gradientenverfahren 43
4.2 BPX-Vorkonditionierer und verwandte Vorkonditionierer 45
4.3 Konditionsbetrachtungen. 48
4.4 Effiziente Realisierung .. 50
5 Levelweise GauB-Seidel-Iteration fUr das semidefinite System 54
5.1 Levelorientierte Partitionierung des semidefiniten Systems 54
5.2 Gau13-Seidel-Iteration und Mehrgitterverfahren . 58
5.3 Konvergenzbetrachtungen ............ 62
6 Punktweise GauB-Seidel-Iteration fUr das semidefinite System 65
6.1 Punktorientierte Partitionierung des semidefiniten Systems 65
6.2 Konvergenzbetrachtungen .................. 71
7 Gebietsorientierte Block-GauB-Seidel-Verfahren 75
7.1 Gebietsweise Blockpartitionierung des semidefiniten Systems 75
7.2 Zur Vorkonditionierung des Schur-Komplements . . . . . . . 79
VIII Inhaltsverzeichnis
8 Numerische Experimente zur Konvergenz der Verfahren 84
9 Zur Parallelisierung 93
9.1 Parallelisierung levelartiger Algorithmen 94
9.2 Parallelisierung punkt- und gebietsorientierter Algorithmen . 99
9.3 Aufwandsbetrachtungen .................... 105
10 Zur Robustheit 110
10.1 Robustheit von Mehrgitterverfahren . 111
10.2 Robustheit von Multilevel-Vorkonditionierern 113
10.3 Punktorientierte Verfahren und robuste Verallgemeinerungen 117
11 Mittels Semivergroberung erweitertes Erzeugendensystem 122
11.1 Das erweiterte Erzeugendensystem ................ 123
11.2 Iterative Verfahren fUr das erweiterte semidefinite System und
numerische Experimente zur Konvergenz der einzelnen Verfahren 131
11.2.1 Gradientenorientierte Verfahren und Vorkonditionierung 133
11.2.2 Levelorientierte GauB-Seidel-Verfahren . . . . . . 142
11.2.3 Punkt- und gebietsorientierte iterative Methoden 147
12 AbschlieBende Bemerkungen 153
Literatur 154
Abbildungsverzeichnis 166
Tabellenverzeichnis 169
Sachverzeichnis 172
1 Einleitung
Zur numerischen Simulation technischer und naturwissenschaftlicher Vorgange,
wie sie etwa im Bereich der Stramungsmechanik, bei der Optimierung dyna
mischer Systeme, bei Schmelzprozessen und der Kristallziichtung oder bei der
Herstellung von Halbleitern auftreten, werden die zu untersuchenden Ablaufe
zunachst mathematisch durch geeignete partielle Differentialgleichungen mo
delliert. Die resultierenden Probleme werden anschliefiend auf einem maglichst
feinen Gitter diskret be~rachtet. Dadurch entstehen nach Linearisierung sehr
groBe, diinn besiedelte IGleichungssysteme, die erst durch moderne Hochlei
stungsrechner iiberhaupt aufgestellt und behandelt werden konnen. Die dabei
auftretenden Anforderuhgen an Speicherplatz und Rechenleistung sind enorm.
Direkte Verfahren zur Losung dieser Gleichungssysteme wie etwa die Band
Gau:B-Elimination, aber auch das effizientere "nested dissection" -Verfahren,
konnen sowohl aufgrund ihres erhOhten Speicherplatzbedarfs bei der Faktorisie
rung der Systemmatrix als auch wegen des damit verbuildenen Rechenaufwands
nicht eingesetzt werden. Traditionelle iterative Methoden wie das GauB-Seidel
und Jacobi-Verfahren oder die effizientere SOR-Iteration benatigen zwar kei
nen zusatzlichen Speicherplatz, die Zahl der Iterationsschritte, die notwendig
sind, um die Lasung bis auf eine vorgegebene Genauigkeit zu bestimmen, steigt
jedoch mit der Verfeinerung der Gitterweite. Dies macht solche Iterationsver
fahren bei hinreichend feinen Gittern unertraglich langsam.
Mit der Entwicklung der Mehrgittermethode (MG) entstanden erstmals Itera
tionsverfahren, fUr die die Zahl der Iterationsschritte, die notwendig sind, um
die Lasung bis auf eine vorgegebene Genauigkeit zu bestimmen, unabhangig
von der Gitterweite der Diskretisierung ist. In diesem Sinn sind Mehrgitter
verfahren optimal. Ihr Rechenaufwand ist direkt proportional zur Zahl der
Unbekannten des zu lOsenden linearen Gleichungssystems. Erreicht wird diese
Verbesserung durch die Betrachtung des Problems nicht nur auf einem (fein
sten) Gitter, sondern auf einer Sequenz uniform verfeinerter Gitter. Durch
geeignete Korrekturen auf den groberen Gittern wird dabei das auf dem fein
sten Gitter arbeitende Iterationsverfahren entscheidend beschleunigt. Ahnli
che Eigenschaften besitzen auch die in jiingster Zeit entwickelten Multilevel
Vorkonditionierer (BPX).
Eine weitere Reduktion der Rechenzeit ist nun durch den Einsatz leistungsfahi
ger Parallelrechner maglich. Die Berechnung laBt sich somit auf die vorhan-
2 1 Einleitung
denen Prozessoren verteilen. Dazu mussen allerdings von mehreren Prozesso
ren benotigte Daten zwischen den Prozessoren ausgetauscht werden. Dabei
begegnen wir folgender Schwierigkeit: Die Ausfuhrungszeit einer Gleitpunkt
operation ist im allgemeinen urn mehrere Grofienordnungen kleiner als die Zeit,
die fUr das Ubertragen einer Gleitpunktzahl zwischen zwei Prozessoren benotigt
wird. Zudem ist allein schon der Aufbau einer Verbindung zwischen zwei Pro
zessoren - die sogenannte Startup-Phase der Kommunikation - relativ aufwen
dig. Ziel bei der Parallelisierung von Multilevelverfahren ist es deswegen, Algo
rithmen zu entwickeln, bei denen die Kommunikationsanforderungen so gering
wie moglich sind.
In dieser Arbeit verwenden wir im Gegensatz zum konventionellen Vorgehen,
bei dem bei der Diskretisierung eine Basis benutzt wird und ein Iterationsver
fahren fUr das resultierende definite System durch Grobgitterkorrekturschritte
oder mittels eines Multilevel-Vorkonditionierers beschleunigt wird, bei der Dis
kretisierung der Differentialgleichung jetzt ein Erzeugendensystem. Es enthalt
nicht nur die Knotenbasen des feinsten Diskretisierungslevels, sondern umfaBt
zusatzlich auch die Knotenbasen aller groberen Diskretisierungslevel. Der Ritz
Galerkin-Ansatz fUhrt dann bei der Diskretisierung zu einem semidefiniten li
near en Gleichungssystem mit optimaler Kondition 0(1), wenn man von den
verschwindenden Eigenwerten absieht. Dieses System ist durch iterative Ver
fahren los bar. Die Losung ist jedoch nicht eindeutig, sondern im allgemeinen
yom Startwert der Iteration abhiingig. Trotzdem lafit sich aus jeder Losung
des semidefiniten Systems leicht die eindeutige Losung des zugehOrigen defini
ten Systems auf dem feinsten Diskretisierungslevel gewinnen.
Es stellt sich heraus, daB Multilevelverfahren fur das zum feinsten Diskretisie
rungslevel gehOrige definite System gerade als traditionelle iterative Verfahren
fUr das zum Erzeugendensystem gehOrige semidefinite Problem interpretiert
werden konnen. So entspricht die GauB-Seidel-Iteration bei levelweiser Durch
laufreihenfolge gerade dem Mehrgitterverfahren mit GauB-Seidel-Glatter. Der
einfache Jacobi-Vorkonditionierer entspricht dem BPX-Vorkonditionierer. Die
Verwendung des Erzeugendensystems ermoglicht somit eine einfachere Sicht
weise von Multilevelalgorithmen, die die Zusammenhange und Unterschiede
der einzelnen Verfahren deutlicher und durchschaubarer macht.
Daruber hinaus wird es moglich, die den Multilevelverfahren innewohnende
starre levelorientierte Sichtweise zu durchbrechen. Das semidefinite System er
laubt den Ubergang zur punkt- und damit gebietsorientierten Sichtweise. Dabei
gruppieren wir diejenigen Unbekannten des semidefiniten Systems zusammen,
