Algorithmes d'approximation

421 Pages·2006·1.96 MB·French

by  Vijay V. Vazirani

Algorithmes d’approximation
Springer
Paris
Berlin
Heidelberg
New York
Hong Kong
London
Milan
Tokyo
Vijay V. Vazirani
Algorithmes d’approximation
Traduit de l’anglais par Nicolas Schabanel
Vijay V. Vazirani Ph. D.
Georgia Institute of Technology
College of Computing
801 Atlantic Avenue
Atlanta, GA 30332-0280
USA
Traducteur
Nicolas Shabanel
Chargé de Recherches au CNRS
Laboratoire de l’informatique du parallélisme
École normale supérieure de Lyon
46, avenue d’Italie
69364 Lyon Cedex 07
France
Traduit de l’édition anglaise:
Approximation Algorithmsby Vijay V. Vazirani
© Springer-Verlag Berlin Heidelberg, 2001, Corr. 2nd printing 2003
ISBN : 3-540-65367-8
ISBN-10 : 2-287-00677-X Springer Paris Berlin Heidelberg New York
ISBN-13 : 978-2-287-00677-7 Springer Paris Berlin Heidelberg New York
© Springer-Verlag France, Paris, 2006
Imprimé en France
Springer-Verlag France est membre du groupe Springer Science + Business Media
Cet ouvrage est soumis au copyright. Tous droits réservés, notamment la reproduction et la représentation la
traduction, la réimpression, l’exposé, la reproduction des illustrations et des tableaux, la transmission par voie
d’enregistrement sonore ou visuel, la reproduction par microfilm ou tout autre moyen ainsi que la conserva-
tion des banques de données. La loi française sur le copyright du 9 septembre 1965 dans la version en vigueur
n’autorise une reproduction intégrale ou partielle que dans certains cas, et en principe moyennant le paiement
de droits. Toute représentation, reproduction, contrefaçon ou conservation dans une banque de données par
quelque procédé que ce soit est sanctionnée par la loi pénale sur le copyright.
L’utilisation dans cet ouvrage de désignations, dénominations commerciales, marques de fabrique, etc. même
sans spécification ne signifie pas que ces termes soient libres de la législation sur les marques de fabrique et la
protection des marques et qu’ils puissent être utilisés par chacun.
SPIN: 10918210
Maquette de couverture : Jean-François Montmarché
Mise en page: Nicolas Puech
`
A mes parents
«Cet ouvrage aborde les d´eveloppements th´eoriques majeurs permettant
d’obtenir des solutions approch´ees aux probl`emes difficiles d’optimisation
combinatoireouded´enombrement.Ilcomporteunepr´esentation´el´egantede
lath´eoriecombinatoire,denombreuxalgorithmesaussiutilesqu’int´eressants
etdesr´esultatsremarquablesconcernantlacomplexit´edesprobl`emestrait´es.
La clart´e de l’expos´e et la s´election judicieuse des exercices rendent cet ou-
vrage attractif et accessible pour tous les lecteurs ayant un gouˆt pour les
math´ematiques et l’algorithmique.»
Richard Karp, Professeur a` l’Universit´e de Californie, Berkeley
«Suite au d´eveloppement des techniques fondamentales d’optimisation
combinatoire des ann´ees 1960 et 1970, une question importante consistait
`a d´evelopper une th´eorie algorithmique de l’approximation. Dans les ann´ees
1990,lesprogr`esconjointsr´ealis´estantdanslaconceptiond’algorithmesd’ap-
proximation que dans la d´ecouverte de preuves ´etablissant la complexit´e de
l’approximationdecertainsprobl`emes,ontconduit`auneth´eorie´el´egante.La
n´ecessit´eder´esoudredesinstancesdeplusenplusgrandespourdesprobl`emes
difficiles,commeceuxpos´esparInternetoulag´enomique,arenforc´el’int´erˆet
pour cette th´eorie. Il s’agit d’un domaine de recherche tr`es actif qui voit sa
boˆıte `a outils s’enrichir de jour en jour.
C’est un plaisir de recommander l’ouvrage de Vijay Vazirani, complet et
bien ´ecrit, qui traite de ce sujet d’actualit´e. Je suis certain qu’il sera tr`es
utile au lecteur qui y trouvera aussi bien une introduction a` l’algorithmique
de l’approximation qu’un texte de r´ef´erence sur de nombreux aspects du
domaine.»
L´asl´o Lova´sz, Directeur de recherche, Microsoft Recherche
Pr´eface
Bien que cela puisse paraˆıtre paradoxal, toute science exacte
est domin´ee par la notion d’approximation.
Bertrand Russell (1872-1970)
La plupart des probl`emes d’optimisation naturels sont NP-difficiles, et
tout particuli`erement ceux qui ont des applications r´eelles importantes. Sui-
vant la conjecture largement admise P (cid:1)= NP, leur r´esolution exacte impli-
querait un temps de calcul prohibitif. Caract´eriser la difficult´e de l’approxi-
mation de ces probl`emes par des algorithmes de temps polynomial est donc
un sujet d’´etude in´evitable en informatique et en math´ematiques. Cet ou-
vrage dresse un tableau de la th´eorie de l’algorithmique d’approximation a`
ce jour. Il est raisonnable de penser que cette image ´evoluera dans le temps.
L’expos´e se divise en trois parties. La premi`ere partie pr´esente des al-
gorithmesd’approximationcombinatoirespourdesprobl`emesfondamentaux
en mettant en œuvre une grande diversit´e de techniques algorithmiques. La
diversit´edecestechniquespeutparaˆıtred´econcertanteaupremierabord.La
nature est en effet riche et nous ne pouvons pas esp´erer qu’un nombre limit´e
d’astuces permette de r´esoudre la tr`es grande vari´et´e des probl`emes NP-
difficiles. Nous avons volontairement ´evit´e de trop cat´egoriser les diff´erentes
techniques, afin de ne pas restreindre leurs port´ees. Au contraire, nous avons
tent´e d’extraire aussi pr´ecis´ement que possible les caract´eristiques indivi-
duelles de chaque probl`eme, ainsi que les relations entre ces probl`emes et les
solutions algorithmiques propos´ees.
Ladeuxi`emepartieestconsacr´eeauxapproximationsreposantsurlapro-
grammation lin´eaire. Deux techniques fondamentales y sont pr´esent´ees : la
m´ethode de l’arrondi et la m´ethode primal-dual. La qualit´e de la solution
approch´ee d´epend principalement du programme lin´eaire choisi et de sa re-
laxation. Il n’y a pas de recette miracle pour trouver une bonne relaxation
d’un probl`eme, de mˆeme qu’il n’en existe pas pour d´emontrer un th´eor`eme
en math´ematiques (les lecteurs familiers avec la th´eorie de la complexit´e re-
connaˆıtront la question sous-jacente P(cid:1)=NP).
VIII Algorithmes d’approximation
La derni`ere partie d´etaille quatre th´ematiques importantes. La premi`ere
est la recherche d’un vecteur non nul le plus court dans un module (cha-
pitre27).Diff´erentesraisonsfontqueceprobl`emem´erited’ˆetretrait´e`apart.
La deuxi`eme th´ematique ´etudie le d´enombrement approch´e des solu-
tions d’un probl`eme, ce qui est une question tr`es diff´erente de celle de l’ap-
proximation de la valeur d’une solution d’un probl`eme d’optimisation. Le
d´enombrement des solutions de presque tous les probl`emes NP-complets
connus est #P-complet. Il est int´eressant de constater qu’`a l’exception
d’une poign´ee de probl`emes, c’est ´egalement vrai pour les probl`emes de P.
Une th´eorie tr`es avanc´ee a ´et´e propos´ee pour obtenir des algorithmes de
d´enombrement efficaces pour les probl`emes de P. La plupart de ces algo-
rithmes utilisent des m´ethodes de Monte Carlo a` base de chaˆınes de Markov
(MCMC), un sujet qui n´ecessiterait un livre a` lui tout seul et qui ne sera
donc pas trait´e ici. Le chapitre 28 pr´esente deux solutions algorithmiques
combinatoires, qui n’utilisent pas la m´ethode MCMC, pour deux probl`emes
fondamentaux de d´enombrement.
La troisi`eme th´ematique est consacr´ee aux r´esultats r´ecents qui ont
confirm´e le fondement d’une th´eorie propre de l’algorithmique d’approxima-
tion en quantifiant la difficult´e de l’approximation pour plusieurs probl`emes
cl´es.Lechapitre29passeenrevuecesr´esultats.Leprincipalpointtechnique,
le th´eor`eme PCP, y est admis. Nous ne connaissons malheureusement pas de
preuve simple de ce th´eor`eme `a l’heure actuelle.
Nous avons regroup´e dans le dernier th`eme de nombreux probl`emes ou-
verts de ce jeune champ de recherche. Cette liste n’est pas exhaustive. Elle
estplutoˆtcentr´eeautourdessujetsd’´etudeactuellementactifs.Onacherch´e,
durant quarante ans, des algorithmes exacts pour ces probl`emes, sans r´eelle
avanc´ee.E´tantdonn´equeparmilesprobl`emesnaturels,lesalgorithmespoly-
nomiaux sont plutoˆt l’exception que la r`egle, il est raisonnable de croire que
l’importancedel’algorithmiqued’approximationvacroˆıtreconsid´erablement
dans les ann´ees `a venir.
Le probl`eme de couverture par ensembles minimum occupe une place
particuli`ere dans la th´eorie de l’approximation et donc dans cet ouvrage.
Sa d´efinition tr`es simple permet d’introduire `a la fois des concepts cl´es
et quelques techniques algorithmiques de base des parties I et II. La
troisi`emepartiecompl`eteletraitementdeceprobl`emecentralparunr´esultat
d´emontrant la difficult´e de son approximation, dont la preuve est assez
´elabor´ee.Labornedonn´eeparcer´esultatestasymptotiquement´egale`acelle
du meilleur algorithme d’approximation pour ce probl`eme — ce qui est une
raison suppl´ementaire de pr´esenter cette preuve plutˆot difficile.
Le travail du sculpteur Michel-Ange est un mod`ele pour notre approche
delaconceptionetdelapr´esentationdesalgorithmes.Unepartessentielledu
travail du sculpteur consiste en effet a` ´etudier les pierres int´eressantes d’une
carri`ere, pour en d´ecouvrir les formes qu’elles ´epousent naturellement. Puis,
letravailauciseauconsistea`suivrecesformesdemani`erenaturelle,ouencore
minimale. Par analogie, nous commenc¸ons par ´etudier un probl`eme formul´e
Pr´eface IX
clairementetsimplement(peut-ˆetreuneversionsimplifi´eeduprobl`emeorigi-
nal). La plus grande partie du travail d’un algorithmicien est de comprendre
quelle est la structure combinatoire d´eterminante sur le plan algorithmique.
L’algorithme s’articule ensuite autour de cette structure de fac¸on minimale.
Lapr´esentationdesalgorithmess’inscritdanscetteanalogie,eninsistantsur
lad´ecouvertedesstructuresdesprobl`emespuisenpr´esentantlesalgorithmes
sous une forme minimale.
Nous avons essay´e de r´ediger chaque chapitre de fac¸on concise et simple,
quitte a` ne pr´esenter souvent que le r´esultat principal. Les g´en´eralisations et
r´esultatssimilairessontlaiss´esenexercices.Nousavons´egalement´et´eamen´es
`a proposer en exercices des r´esultats importants qu’il n’a pas ´et´e possible
de d´evelopper en d´etail dans ce volume. Des indications sont donn´ees pour
certains exercices sans pour autant que cela soit significatif de leur difficult´e.
Cet ouvrage correspond a` un ou plusieurs cours d’algorithmes d’approxi-
mation de fin de licence ou de mast`ere. Il contient plus du double de ce
qui peut ˆetre pr´esent´e en un semestre, permettant ainsi `a l’enseignant de
choisirlibrementlessujetsabord´es.Uncoursdelicenced’introductiona`l’al-
gorithmique, a` la th´eorie des graphes et sur la th´eorie de la NP-compl´etude
devrait ˆetre un pr´erequis suffisant pour la plupart des chapitres. Par souci
de compl´etude, le lecteur trouvera en annexe divers rappels des principaux
r´esultats et d´efinitions utilis´es : th´eorie de la complexit´e en annexe A, pro-
babilit´es en annexe B, programmation lin´eaire au chapitre 12, programma-
tion semi-d´efinie au chapitre 26, modules au chapitre 27. Nous avons choisi
d’accorder une part sans doute disproportionn´ee `a l’autor´eductibilit´e dans
l’annexe A car cette notion est rarement trait´ee ailleurs. Cet ouvrage peut
´egalement compl´eter un cours d’algorithmique fondamentale en 1er ou 2`eme
cycle (tout particuli`erement les premiers chapitres des parties I et II). Les
chapitres de ces deux parties sont de difficult´e croissante.
Afin de toucher un public aussi large que possible, nous avons d´ecid´e de
ne publier cet ouvrage dans aucune des s´eries sp´eciales de Springer — pas
mˆeme la prestigieuse s´erie jaune (nous n’avons cependant pas pu r´esister `a
l’ajout d’une touche de jaune sur la couverture de l’´edition originale). Tous
les commentaires et toutes les corrections sont les bienvenus. Nous avons
cr´e´e une adresse ´electronique a` cet effet pour l’´edition en langue franc¸aise :
algo [email protected].
Enfin, quelques mots a` propos de l’impact concret de ces r´esultats. Sa-
chantqu’enpratiquelesgensontlesyeuxriv´essurdesmargesd’erreurentre
2 % et 5 %, quelle est l’utilit´e d’algorithmes a` un facteur 2, voire a` O(logn)
de l’optimal? De mˆeme, quel est l’int´erˆet d’am´eliorer la qualit´e de l’approxi-
mation d’un facteur 2 a` 3/2?
Consid´eronscesdeuxquestionsenexplicitanttoutd’abordleurcaract`ere
fallacieux. La garantie de performance est une borne sur la performance
1 L’adresse ´electronique d´edi´ee aux remarques concernant l’´edition originale est :
[email protected].
X Algorithmes d’approximation
de l’algorithme pour la pire instance. Il vaut peut-ˆetre mieux voir le fac-
teur d’approximation comme une mesure qui encourage a` explorer plus en
d´etails la structure combinatoire du probl`eme, afin de d´ecouvrir des outils
plus puissants pour l’exploiter. Il est reconnu qu’il est d’autant plus difficile
de trouver des instances critiques atteignant les bornes que les algorithmes
offrentdemeilleuresgaranties.Pourcertainsalgorithmesr´ecents,l’obtention
de telles instances a fait l’objet d’un article a` elle seule (par exemple, voir
section 26.7). Des exp´erimentations ont confirm´e que ces algorithmes sophis-
tiqu´esontlamarged’erreursouhait´ee,de2%`a5%,surlesinstancestypiques
rencontr´ees en pratique, mˆeme si leur pire cas est bien au-del`a. Enfin, les al-
gorithmes prouv´es th´eoriquement doivent ˆetre consid´er´es comme une base
algorithmique qu’il faut adapter soigneusement aux instances se pr´esentant
dans des applications sp´ecifiques.
Nous esp´erons que ce livre catalysera la croissance de cette th´eorie et de
son impact en pratique.
Remerciements
Celivres’appuiesurlescoursquej’aidonn´es`al’IndianInstituteofTech-
nology de Delhi durant les sessions de printemps 1992 et 1993, `a Georgia
Tech durant les sessions de printemps 1997, 1999 et 2000 et `a DIMACS du-
rant l’automne 1998. Les notes de cours du printemps 1992 constitu`erent la
premi`erepierredecetouvrage.Ilestint´eressant deremarquer queplusdela
moiti´e de notre propos repose sur des r´esultats de recherche issus des ann´ees
qui ont suivi.
De tr`es nombreux amis — et membres de ma famille — m’ont aid´e. Je
souhaite tout d’abord remercier Naveen Garg, Kamal Jain, Ion Ma˘ndoiu,
Sridhar Rajagopalan, Huzur Saran et Mihalis Yannakakis — mes collabora-
tions intenses avec eux m’ont permis de formuler les id´ees pr´esent´ees dans
cet ouvrage. J’ai eu la chance de b´en´eficier de l’aide et des conseils de Ion
Ma˘ndoiusurdenombreuxpoints—sesqualit´esartistiquesfurentd’ungrand
secourspourlapr´esentationdudocumentetdesesfigures.Merciencore,Ion!
Je souhaite exprimer ma gratitude envers les tr`es nombreux experts du
domaine pour leur aide g´en´ereuse sur le choix des th`emes `a aborder et leur
pr´esentation, pour leurs commentaires sur les manuscrits, pour avoir assur´e
lacorrectionetlacompl´etudedesr´ef´erences,ainsiquepourlaconceptiondes
exercices et de la liste des probl`emes ouverts. Merci `a Sanjeev Arora, Alan
Frieze, Naveen Garg, Michel Goemans, Mark Jerrum, Claire Kenyon, Samir
Khuller,DanieleMicciancio,YuvalRabani,SridharRajagopalan,DanaRan-
dall,TimRoughgarden,AminSaberi,LeonardSchulman,AminShokrollahi,
et Mihalis Yannakakis. Un merci tout particulier a` Kamal Jain, E´va Tardos,
et Luca Trevisan.
De nombreuses autres personnes m’ont aid´e par la pertinence de leurs
commentaires. Je souhaite remercier Sarmad Abbasi, Cristina Bazgan, Ro-