Lineare und Ganzzahlige Programmierung (Algorithmische Diskrete Mathematik II): Skriptum zur Vorlesung im WS 2009/2010

335 Pages·2010·3.348 MB·German

by  Martin Grötschel

Lineare und Ganzzahlige
Programmierung
(Algorithmische Diskrete Mathematik II)
Skriptum zur Vorlesung im WS 2009/2010
Prof. Dr. Martin Gro¨tschel
Institut fu¨r Mathematik
Technische Universita¨t Berlin
Versionvom18.August2010
MARTIN GRO¨TSCHEL SKRIPTUM ADM II, WS 2009/2010
2
Vorwort
Die Vorlesung Lineare und Ganzzahlige Programmierung“ ist die zweite Vor-
”
lesung (ADM II) im Zyklus des Studienschwerpunktes Algorithmische Diskre-
”
te Mathematik“ an der TU Berlin in den Studienga¨ngen Mathematik, Techno-
und Wirtschaftsmathematik. Detaillierte Kenntnis der vorausgegangenen Vorle-
sung Graphen- und Netzwerkalgorithmen“ wird nicht vorausgesetzt. Graphen-
”
und Netzwerke und damit zusammenha¨ngende Probleme werden lediglich als
Beispielmaterialverwendet.
IndieserVorlesungwerdendieGrundlagenderlinearenOptimierung(auchlinea-
reProgrammierung genannt) behandelt, also einige Aspekte der linearenAlgebra
und der Polyedertheorie. Natu¨rlich steht die Entwicklung von Algorithmen zur
Lo¨sung derartiger Optimierungsprobleme im Vordergrund. Sehr ausfu¨hrlich wer-
den der Simplexalgorithmus und seine Varianten behandelt, aber ebenso werden
wirInnere-Punkte-VerfahrenunddieEllipsoidmethodediskutieren.
Im zweiten Teil der Vorlesung geht es um ganzzahlige und gemischt-ganzzahlige
Optimierung. Wir beginnen mit der Behandlung von Relaxierungen und dualen
Heuristiken, besprechen dann Branch&Bound-Verfahren und fu¨hren Schnittebe-
nenverfahrenein.
Oktober2009 M.Gro¨tschel
MARTIN GRO¨TSCHEL SKRIPTUM ADM II, WS 2009/2010
Vorbemerkungen
Literatur
Die Literatur zum Thema Lineare Programmierung“ ist u¨berwa¨ltigend umfang-
”
reich.HierzurufemaneinfacheinmaldieDatenbankMATHdesZentralblattsfu¨r
Mathematik auf und starte eine Suche nach Bu¨chern, die die Wo¨rter linear und
programmingimTitelenthalten.Manerha¨ltderzeitu¨ber200Referenzen.Fast40
Bu¨cher enthalten die beiden Wo¨rter lineare Optimierung und fast 30 die Wo¨rter
lineareProgrammierunginihremTitel.
Eine Google-Suche am 11. Oktober 2009 nach linear programming“ liefert der-
”
zeit ungefa¨hr 1.6 Millionen Ergebnisse. Der (bei meiner Suche) am ho¨chsten be-
werteteEintragwardieWikipedia-Erla¨uterung.UnterdenerstenzehnErwa¨hnun-
genwarauch LinearProgrammingFAQs“,siehe
”
http://www-unix.mcs.anl.gov/otc/Guide/faq/,
welcheaufdenNEOSWiki-Serverfu¨hrt:
http://wiki.mcs.anl.gov/NEOS/index.php/NEOS_Wiki,u¨berden
manu.a.zuderfolgendenvonBobFourergepflegtenSeitekommt:
http://www.faqs.org/faqs/linear-programming-faq/,
die eine wirklich gute Quelle mit vielfa¨ltigen und ausgezeichneten Informatio-
nen zur linearen Optimierung ist. Unter der Rubrik Textbooks“ ist hier eine Rei-
”
he guter Bu¨cher zum Thema zusammengestellt worden. Ich empfehle aus dieser
Auswahl:
• Dantzig, George B., Linear Programming and Extensions, Princeton Uni-
versity Press, 1963. Dies ist der Klassiker“ des Gebiets, auch heute noch
”
eineinteressanteQuelle,und1998imPaperback-Formaterneuterschienen.
• Chva´tal, Vasek, Linear Programming, Freeman, 1983. Dies ist ein ausge-
zeichnetes Einfu¨hrungsbuch, das sich insbesondere an Leser mit geringer
mathematischerVorbildungrichtet.
• Padberg, Manfred, Linear Optimization and Extensions, Springer, 2001.
Wenn sie wissen mo¨chten, was die Berliner Luftbru¨cke mit linearer Op-
timierungzutunhat,dannsolltenSieeinmalindiesesBuchschauen.
• Schrijver, Alexander, Theory of Linear and Integer Programming, Wiley,
1986. Dieses Buch fasst den Kenntnisstand bis zum Jahre 1985 so gut wie
vollsta¨ndig zusammen, ein herausragendes Buch, das sich an den fortge-
schrittenenLeserrichtet.
MARTIN GRO¨TSCHEL SKRIPTUM ADM II, WS 2009/2010
• Vanderbei, Robert J., Linear Programming: Foundations and Extensions.
KluwerAcademicPublishers,1996.Einescho¨ne,PraxisbezogeneDarstel-
lung von Simplex- und Innere-Punkte-Methoden, Source-Codes zu den im
Buchpra¨sentiertenVerfahrensindonlineverfu¨gbar,siehe
http://www.princeton.edu/˜rvdb/LPbook/
• Wright, Stephen J., Primal-Dual Interior-Point Methods. SIAM Publicati-
ons, 1997. Innere-Punkte-Methoden sind erst Mitte der 80er Jahre entdeckt
und popula¨r geworden. Wrights Buch behandelt die wichtigsten Verfah-
rensklassendiesesAnsatzes.
Leider wird die letztgenannte Webseite seit 2005 nicht mehr fortgeschrieben, so
dasseinigederLinksinzwischenveraltetundeinigeneuereReferenzennichtvor-
handensind.
Polyedertheorie ist ein wichtiger Aspekt der Vorlesung. Sehr gute Bu¨cher hierzu
sind:
• Gru¨nbaum, Branko, Convex Polytopes, Springer-Verlag, Second Edition,
2003
• Ziegler, Gu¨nter M., Lectures on Polytopes, Springer-Verlag, Revised Editi-
on,1998
EinArtikel,derdieenormenFortschrittebeiderpraktischenLo¨sunglinearerPro-
grammeseitAnfangder90erJahrebeschreibt,ist:
• RobertE.Bixby,SolvingReal-WorldLinearPrograms:ADecadeandMore
ofProgress,OperationsResearch50(2002)3-15.
Fortschritte in den letzten Jahren im Bereich der ganzzahligen und gemischt-
ganzzahligenOptimierungsinddokumentiertin
• Robert E. Bixby. Mary Fenelon, Zonghao Gu, Ed Rothberg, und Roland
Wunderling,Mixed-IntegerProgramming:AProgressReport,erscheint2004
in: Gro¨tschel, M. (ed.), The Sharpest Cut, MPS/SIAM Series on Optimiza-
tion.
i
MARTIN GRO¨TSCHEL SKRIPTUM ADM II, WS 2009/2010
Lineare Optimierung im Internet: Vermischtes
Umfangreiche Literaturverweise, Preprint-Sammlungen, Hinweise auf Personen,
die sich mit Optimierung und Spezialgebieten davon bescha¨ftigen, verfu¨gbare
Computercodes, Beispiele zur Modellierung von praktischen Problemen, Test-
beispiele mit Daten linearer Programme, etc, findet man u.a. auf den folgenden
Internet-Seiten:
• http://www.optimization-online.org/
(Optimization Online is a repository of e-prints about optimization and re-
latedtopics.)
• http://www-neos.mcs.anl.gov/
(Dies ist die Hauptseite des NEOS-Servers mit vielen Links zu Optimie-
rungsseiten)
• http://miplib.zib.de
(Testbeispielefu¨rgemischt-ganzzahligeOptimierungsprobleme)
• http://elib.zib.de/pub/Packages/mp-testdata/(Verwei-
seaufSammlungenvonTest-BeispielenwiedieNetlib-LP-Testprobleme.)
Im Internet gibt es auch verschiedene Einfu¨hrungen in die lineare Optimierung,
insbesondere solche, die sich an Anfa¨nger richten. Leider sind die URLs selten
stabil,sodasssiehiernichtaufgelistetwerden.
Wieobenerwa¨hnt,wirdindieserVorlesungbesondersvielWertaufdiegeometri-
scheFundierungderlinearenOptimierunggelegt.DieLo¨sungsmengenvonlinea-
ren Programmen sind Polyeder. Im Internet findet man viele Seiten, die Polyeder
bildlichdarstellen.HiersindzweiWebseitenmitanimiertenVisualisierungenvon
Polyedern:
• http://www.eg-models.de/(gehez.B.zuClassicalModels,Regu-
larSolidsoderDiscreteMathematics,Polytopes)
• http://mathworld.wolfram.com/topics/Polyhedra.html
Software
Ha¨ufig mo¨chte man Polyeder von einer Darstellungsform (z.B. Lo¨sungsmenge
vonUngleichungssystemen)ineineandereDarstellungsform(z.B.konvexeHu¨lle
ii
MARTIN GRO¨TSCHEL SKRIPTUM ADM II, WS 2009/2010
vonendlichvielenPunkten)verwandeln,umgewisseEigenschaftenbesserzuver-
stehen. Auch hierzu gibt es eine Reihe von Codes (die meisten stehen kostenlos
zumDownloadbereit).EineSammlungsolcherVerfahrenistzufindenunter:
•
http://elib.zib.de/pub/Packages/mathprog/polyth/index.html
Die Programmsammlung PORTA stammt aus einer Diplomarbeit, die Thomas
ChristofbeimirgeschriebenunddannmitanderenKollegen(u.a.A.Lo¨bel(ZIB))
weiterentwickelthat.DasdeutlichumfangreichereProgrammpaketPolymakevon
E.GawrilowundM.JoswigwurdeimmathematischenInstitutderTUBerlinent-
wickeltundwirdhierweitergepflegtundausgebaut.
Es gibt eine Vielzahl von Codes zur Lo¨sung linearer Programme und Modellie-
rungssprachen, mit Hilfe derer man praktische Probleme (einigermaßen) bequem
in Datensa¨tze verwandeln kann, die LP-Lo¨ser akzeptieren. Eine kommentierte
U¨bersichthierzuistzufindenunter:
• http://wiki.mcs.anl.gov/NEOS/index.php/Optimization_
Software_Guide
EineweitereListefindetmanunter:
• http://elib.zib.de/pub/Packages/mathprog/linprog/
index.html
Die Zeitschrift OR/MS Today vero¨ffentlicht regelma¨ßig U¨bersichten u¨ber kom-
merzielleundfreiverfu¨gbareSoftwarezurLo¨sunglinearerProgramme.Dieletzte
A¨nderungderU¨bersichtdatiertvom25.09.2009:
• http://lionhrtpub.com/orms/surveys/LP/LP-survey.html
In dieser Vorlesung haben wir Zugang zu dem kommerziellen Code CPLEX der
Firma ILOG (2009 von IBM u¨bernommen). Nach Ansicht vieler ist dies derzeit
derweltweitbesteCodezurLo¨sunglinearerundganzzahligerProgramme(Ihnen
stehtallerdingsnichtdieallerneuesteVersionzurVerfu¨gung).
DieseitkurzemaufdemMarktagierendeFirmaGurobibietetfu¨rUniversitatsan-
geho¨rigefreienZugangzuihrenCodes,siehe:
iii
MARTIN GRO¨TSCHEL SKRIPTUM ADM II, WS 2009/2010
• http://www.gurobi.com/html/download_academic.html.
NeuesteTestsvonHansMittelmannzeigen,dassderGurobiCodezurweltweiten
Spitzenklassegeho¨rt,siehe:
• http://plato.asu.edu/ftp/lpcom.html.
Vom Konrad-Zuse-Zentrum (ZIB) wird ein fu¨r akademische Zwecke kostenlos
verfu¨gbarerCodenamensSoPlexzurLo¨sungvonLPsangeboten,siehe:
• http://www.zib.de/Optimization/Software/Soplex
Dieses Programm stammt aus der Dissertation von Roland Wunderling aus dem
Jahre 1997 an der TU Berlin und wird am ZIB weiterentwickelt. Es ist sogar als
SourceCodeverfu¨gbar.
AlsModellierungssprache(z.B.zurErzeugungvonDatenimlp-odermps-Format,
die von den meisten LP-Lo¨sern gelesen werden ko¨nnen) wird in der Vorlesung
Zimpl angeboten. Dieses Programm wird von Thorsten Koch (ZIB) entwickelt
undgepflegt,siehe:
• http://www.zib.de/koch/zimpl/
ZumSchlussnocheinHinweisaufallgemeineOptimierungsprobleme.HansMit-
telmannunterha¨lteineWebseite,siehe
• http://plato.la.asu.edu/guide.html
diedabeihilft,fu¨reinvorliegendesOptimierungsproblemgeeigneteSoftwareaus-
findigzumachen.
iv
Inhaltsverzeichnis
1 Einfu¨hrung 1
1.1 EinBeispiel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Optimierungsprobleme . . . . . . . . . . . . . . . . . . . . . . . 11
1.3 Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
1.3.1 Grundmengen . . . . . . . . . . . . . . . . . . . . . . . . 15
1.3.2 VektorenundMatrizen . . . . . . . . . . . . . . . . . . . 16
1.3.3 KombinationenvonVektoren,Hu¨llen,Unabha¨ngigkeit . . 21
2 Polyeder 23
3 Fourier-Motzkin-EliminationundProjektion 31
3.1 Fourier-Motzkin-Elimination . . . . . . . . . . . . . . . . . . . . 31
3.2 LineareOptimierungundFourier-Motzkin-Elimination . . . . . . 39
4 DasFarkas-LemmaundseineKonsequenzen 43
4.1 VerschiedeneVersionendesFarkas-Lemmas . . . . . . . . . . . . 43
4.2 Alternativ-undTranspositionssa¨tze . . . . . . . . . . . . . . . . 46
4.3 Trennsa¨tze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
5 DerDualita¨tssatzderlinearenProgrammierung 53
v
MARTIN GRO¨TSCHEL SKRIPTUM ADM II, WS 2009/2010
6 GrundlagenderPolyedertheorie 65
6.1 TransformationenvonPolyedern . . . . . . . . . . . . . . . . . . 65
6.2 Kegelpolarita¨t . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
6.3 Darstellungssa¨tze . . . . . . . . . . . . . . . . . . . . . . . . . . 71
6.4 AndereDarstellungsformenvonPolyedern . . . . . . . . . . . . . 74
7 Seitenfla¨chenvonPolyedern 77
7.1 Die γ-Polareundgu¨ltigeUngleichungen . . . . . . . . . . . . . . 78
7.2 Seitenfla¨chen . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
7.3 Dimension . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
7.4 FacettenundRedundanz . . . . . . . . . . . . . . . . . . . . . . 87
8 EckenundExtremalen 95
8.1 Rezessionskegel,Linienraum,Homogenisierung . . . . . . . . . . 96
8.2 CharakterisierungenvonEcken . . . . . . . . . . . . . . . . . . . 100
8.3 SpitzePolyeder . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
8.4 ExtremalenvonspitzenPolyedern . . . . . . . . . . . . . . . . . 105
8.5 EinigeDarstellungssa¨tze . . . . . . . . . . . . . . . . . . . . . . 107
9 DieGrundversionderSimplex-Methode 113
9.1 Basen,Basislo¨sungen,Entartung . . . . . . . . . . . . . . . . . . 115
9.2 Basisaustausch(Pivoting),Simplexkriterium . . . . . . . . . . . . 120
9.3 DasSimplexverfahren . . . . . . . . . . . . . . . . . . . . . . . . 127
9.4 DiePhaseI . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139
10 VariantenderSimplex-Methode 145
10.1 DerrevidierteSimplexalgorithmus . . . . . . . . . . . . . . . . . 145
10.2 Spalten-undZeilenauswahlregeln . . . . . . . . . . . . . . . . . 147
vi