Table Of ContentLecture Notes in Mathematics 5651
Editors:
A. Dold, Heidelberg
B. Eckmann, ZUrich
.F Takens, Groningen
Subseries: Fondazione C.I.M.E., Firenze
Adviser: Roberto Conti
L. B outet de Monvel C. de Concini
C. Procesi .P Schapira M. Vergne
,seludom-D
noitatneserpeR ,yroehT
dna mutnauQ spuorG
Lectures given at the 2nd Session of the Centro
Internazionale Matematico Estivo (C.I.M.E.)
held in Venezia, Italy, June 12-20, 1992
Editors: G. Zampieri, A. D'Agnolo
galreV-regnirpS
Berlin Heidelberg weN kroY
London Paris Tokyo
Hong Kong Barcelona
Budapest
Authors
Louis Boutet de Monvel
D6partement de Math6matiques, Universit6 Paris VI
,2 Place Jussieu, F-75252 Paris, France
Corrado De Concini
Scuola Normale Superiore
Piazza dei Cavalieri, 7, 1-56126 Pisa, Italy
Claudio Procesi
Dipartimento di Matematica, Universit~ "La Sapienza"
Piazzale Aldo Moro, 5, 1-00185 Roma, Italy
Pierre Schapira
Universit6 de Paris XIII, CSP Math6matique
F-93430 Villetaneuse, France
Mich~le Vergne
Ecole Normale Sup6rieure
45, rue d'Ulm, F-75005 Paris, France
Editors
Giuseppe Zampieri
Andrea D'Agnolo
Dipartimento di Matematica, Universita di Padova
Via Belzoni, 7, 1-35131 Padova, Italy
Mathematics Subject Classification (1991): Primary: 58, 71 Secondary: 22
ISBN 3-540-57498-0 Springer-Verlag Berlin Heidelberg New York
ISBN 0-387-57498-0 Springer-Verlag New York Berlin Heidelberg
This work si subject to copyright. All rights are reserved, whether the whole or part
of the material is concerned, specifically the rights of translation, reprinting, re-use
of illustrations, recitation, broadcasting, reproduction on microfilms or in any other
way, and storage in data banks. Duplication of this publication or parts thereof is
permitted only under the provisions of the German Copyright Law of September 9,
1965, in its current version, and permission for use must always be obtained from
Springer-Verlag. Violations are liable for prosecution under the German Copyright
Law.
(cid:14)9 Springer-Verlag Berlin Heidelberg 1993
Printed in Germany
Typesetting: Camera-ready by author/editor
46/3140-543210 - Printed on acid-free paper
PREFACE
In this CIME session we aimed at proposing to a wide audience the
language and the techniques of various fields (such as D-modules, K-
theory, equivariant cohomology, microlocal study of sheaves and quan-
tization of groups) converging to recent common results on index
theorems and representation theory.
The contents of the lectures can be roughly divided into two
groups:
D-modules and microlocal study of sheaves .P( Schapira and J.-P.
Schneiders), K-theory and D-modules .L( Boutet de Monvel), G-equiva-
riant cohomology .N( Berline and M. Vergne)
The theory of quantum groups, with particular emphasis to the
quantization of some remarkable Poisson groups (C. De Concini and
C. Procesi).
The last ingredient of the school was the magic of Venice.
A. D'Agnolo
G. Zampieri
Paris, March 19th, 1993
This CIME Session was held at Ca Dolfin under the sponsorship of
the University of Venice. The organizers wish to heartily acknowledge
the President of the University of Venice, Prof. G. Castellani, for
the excellency of his hospitality.
TABLE OF CONTENTS
L. BOUTET DE MONVEL, Indice des syst~mes diff~rentiels ........ 1
C. DE CONCINI, C. PROCESI, Quantum Groups ................... 31
P. SCHAPIRA, J.P. SCHNEIDERS~ Index theorems for R-constructible
sheaves and D-modules ............ 141
N. BERLINE, M. VERGNE, The equivariant Chern character and index
of G-invariant operators ................. 157
INDICE DES SYSTI~,MES DIFFERENTIELS
L. BOUTET DE MONVEL
Dans ces notes nous nous proposons de d6crire la formule d'indice d'Atiyah et Singer
pour les syst6mes d'op6rateurs diff6rentiels et son extension au cas relatif due ~ Mal-
grange et l'auteur. Cette formule d6crit le nombre de solutions d'un syst6me d'6quations
diff~rentielles -- ou plus exactement, parce qu'il s'agira pratiquement toujours de com-
plexes elliptiques d'op6rateurs diff~rentiels, la caract6ristique d'Euler, somme altern6e de
nombres de Betti de la cohomologie du syst6me -- en terrnes d'invariants topologiques
plus simples attach6s ~ ce syst6me. 1I y a une version absolue du th6orbme d'indice, off
l'indice est un nombre entier, et des versions avec param6tres, off l'indice est un fibr6
virtuel sur l'espace des param6tres, ou avec action de groupe compact 1~o l'indice est une
repr6sentation du groupe, ou relative oh l'indice est un nouveau syst6me diffSrentiel dont
on d6crit des invariants topologiques en fonction de ceux de l'ancien. L' 6nonc6 que nous
d6crivons ici tient compte en outre plus explicitement des supports, en s'inspirant de la
d6finition du micro-support des faisceaux constructibles et de la description de la formule
de l'inclice qu'en d6duit P.Schapira dans ses conf6rences.
w INTRODUCTION, DESCRIPTION DU PROBLEME
Formellement l'indice d'un complexe d'op6rateurs lin6aires est d6fini comme suit: on se
donne un complexe, c'est s dire une suite
a : ... +---- Ek ~ Ek+l ---+ ''"
d'espaces vectoriels complexes E k et d'applications lin6aires a k E L(Ek; Ek+l), telle que
ak+l Oak = 0 pour tout k (une application lin6alre a : E0 +-- E1 s'identifie s un complexe de
longueur 2, concentr~ en degr6s 0, 1). La cohomologie de a est le complexe de diff~rentielle
nulle H(a) = kera/Ima (Hk(a) = kerak/Imak-1). Si H(a) est de dimension finie, i.e. si
les Hk(a) sont de dimension finie, et nuls sauf pour un hombre fini d'indices k C Z, l'indice
(ou caract6ristique d'Euler) de a est la somme altern~e:
Ind a = ~(-1) k dim Hk(a)
(on a Ind a = ~-'~(-1) k dim E k si le complexe a est lui m6me de dimension finie)
Les complexes dont on s'occupera ici ne sont pas abstraits mais ont une origine ou une
signification g6om6trique: ce sont des complexes d'op6rateurs diff6rentiels sur une vari6t6
et la formule d'indice d'Atiyah et Singer relie leur indice s des invariants g6om6triques de
a.
La formule d'indice pour un syst6me elliptique d~6quations aux d6riv6es partielles a son
origine dans le th6or6me de Riemann-Roch de la g6om6trie complexe, plus pr6cis6ment
sous la forme que lui ont donn6 Hirzebruch, et Grothendieck dans le cas relatif. Voici une
description de cette formule, en termes de K-th6orie, rfsumant celle de Baum, Fulton, Mac
Pherson: soient X un espace analytique projectif eomplexe, et Z C X une partie compacte.
A tout faisceau coh6rent M de Oi-modules ~ support dans Zest associ6 un 616ment M du
groupe de Grothendieck K Z ~n/X~ k ~) qui est le groupe engendr6 par les classes d'isomorphismes
M de Ox-modules coh~rents ~ support dans Z et les relations M -- M' + M" s'il
existe une suite exacte 0 ~-- M' ~--M~--- M" ~ 0. 1I existe un homomorphisme canonique
K~n(X) ~-- K~~ ffo K~~ est le groupe d'Atiyah des "fibres vectoriels virtuels
support dans Z', qui d~crit les propri~t~s additives et invariantes par d~formation des
complexes de fibr6s vectoriels topologiques exacts en dehors de Z (ce groupe sera d~fini
plus en d~tail an w Suivant Baum, Fulton, Mac Pherson, le th~or~me de Pdemann-Roch
relatif exprime que cet homomorphisme commute aux images directes propres (il commute
aussi aux images inverses). Ce th~or~me doit ~tre compl~t~ par la description de l'image
directe K-th~orique, qui est d~finie au moyen du th~or~me de p~riodicit~ de Bott. On
exprime aussi le th~or~me d'indice en termes de cohomologie au moyen de Fisomorphisme
de Chern:
ch : K~z~ | q --~ H~'(X, q)
qui permet de traduire en termes de cohomologie ce qui ne d~pend pas de la torsion. Le
thfior~me de Riemann-Roch "classique" de Hirzebruch est la traduction en termes coho-
mologiques (via le caract~re de Chern) du cas particulier de l'~nonc~ ci-dessus lorsque le
but est un point (K(point) = Z).
Les fonctions holomorphes sont les solutions du syst~me elliptique des fiquations de
Cauchy-Riemalm et on salt que pour eelles-ci, les sem@ro@ht de finitude sur une vari6t~
compacte sont un cas particulier d'un th6or~me de finitude analogue pour les solutions
des systbmes elliptiques d'6quations aux d6riv6es partielles lin6aires (la d6finition sera
rappel6e plus loin); il 6tait alors naturel de chercher k g6n6raliser aux systbmes elliptiques
la formule de Riemalm-Roch de Hirzebruch. Les objets qui nous int6resseront d'abord ici
sont les syst~mes elliptiques d'6quations diff6rentielles lin6aires sur une vari6t6 compacte,
ou un peu plus g6n6ralement les syst~mes dont l'espace des solutions est de dimension finie.
Un syst~me, ou eomplexe~ d'6quations diff6rentielles lin6aires peut ~tre d6crit comme
suit: on se donne une vari6t6 X, complexe, ou r6elle de classe C ~176 une suite de fibr6s
vectoriels complexes E = (E~), j E Z (Ej = 0 saul pour un nombre fini d'indices j), et
une suite P = (Pj) d'op6rateurs de type Ej *--- Ej+~ telle que Pj+I o Pj -= 0 pour tout j
(nous consid~rerons (E, P) = ((E/), (Pj)) comme un objet gradu~ et ~crirons simplement
P~ = 0). Un op~rateur P de type E0 *--- 1E peut toujours ~tre consid~r~ comme un
complexe de longueur 2. On consid~re alors le faisceau gradu~ de cohomologie de P :
H(P) = ker(P)/Ira(P) (Hi(p) = ker Pj/Im Pj_a) et leurs espaces de sections globales.
Par exemple si Pest un op~rateur de type E0 *--- Ea, assimil~ ~ un complexe de longueur
,2 H~ = ker Pest l'espace des solutions de l'~quation Pf = 0, et l'espace Ha(P) des
sections de E1 rood Im P mesure l'obstruction ~ la r~solution de l'~quation Pf = g (il est
aussi ~troitement lie k l'espace des solutions de l'~quation adjointe P*g = 0).
Les complexes d'op~rateurs qui se p%sentent naturellement sont souvent localement
exacts, et ont ~t~ construits pour caleuler la cohomologie, au sens g~om~trique, de X
coefficients darts le faiseeau des solutions d'un syst~me d'@quations diff@rentielles (parce
que le faisceau des fonetions C ~ ou analytiques sur une vari~t~ C ~ ou analytique rfielle
est cohomologiquement trivial). Ainsi sur une vari~tfi X %elle, le faisceau constant Cx
(dont les sections sont les fonctions localement constantes) est le faisceau des solutions
de l'6quation df = 0, et la cohomologie H*(X,C) est celle du complexe de De Rham
de la diff~rentielle ext~rieure op~rant sur les formes diff~rentielles; si X est une vari~t&
complexe, les fonctions holomorphes sont les solutions des ~quations de Cauchy-Riemann:
Of = 0, et la cohomologie H*(X, Ox) ~ coefficients dans le faisceau Ox des fonctions holo-
morphes est celle du complexe de Dolbeault, de la diff~rentielle ext~rieure antiholomorphe
O. Le Laplacien, ou plus g~n~ralement l'op&rateur de Laplace-Beltrami operant sur les
formes diff~rentielles d'une vari~t~ Riemannienne, est un exemple plus ancien d'op~rateur
elliptique; il est subordonnfi .5 l'exemple pr~c~dent: A =-dd* + d*d.
On d~finit le symbole d'un op~rateur, ou d'un complexe d'ope~rateurs diff~rentiels: si
Pest d'ordre rn son symbole est le polynSme O'p homog~ne de degr~ m qu'on obtient en
ne gardant que les termes de plus haut degr~ m lorsqu'on 6crit P comme polyn6me des
d6rivations O/Oxj, dans n'importe quel systbme de coordonn6es. On a, pour toute fonction
C ~ 0~ et toute section u de E
~-**P(~'*~) = ~(dv)~ + O(<-')
plus g6n6ralement si (E, P) est un complexe d'opfrateurs diff6rentiels, ap s'interpr~te
comme un complexe de fibr6s vectoriels sur le fibr6 cotangent T'X, de type zr-lE --* ~r-lE,
oh r7 est la projection T*X ~ X et 7r-lE d6signe le rel~vement de E .5 T*X (dans la suite
nous 6crirons E au lieu de 7r-lE). Si X est une vari6t6 r6elle, on dit alors que Pest ellip-
tique si pour tout covecteur imaginaire pur ~ # 0, le symbole ap(() est une suite exacte
d'espaces vectoriels 1 . L'ellipticit6 est une propri6t6 simple d'un systbme P qui, jointe s une
condition de compacit6 du domaine sur lequel on calcule ces solutions (par exemple que la
vari&t6 de base soit compacte), assure que les groupes de cohomologie sont de dimension
finie. La dimension individuelle de ehacun des groupes de cohomologie Hi(P) d'un com-
plexe elliptique P n'est pas stable par d6formation ou par petite perturbation, et peut 8tre
difficile .5 calculer; mais l'indice, ou caract6ristique d'Euler: x(P) = Y~(-1) j dim HJ(P),
est tr~s stable, de mfime que la condition de finitude (ellipticit6). Pour un syst&me elliptique
P il est alors naturel d'imaginer que l'indice ne d6pend que de caract&res topologiques plus
grossiers du symbole ap, etest donn6 par une extension de formule analogue s la formule
de Riemann-Roch. Les deux exemples ci-dessus (d et O) sont elliptiques et le th6orbme
de Riemann-Roch de la g6om~trie complexe apparaltra ainsi comme cas particulier du
th6orhme d'indice pour les systbmes elliptiques, appliqu~ s O.
Comme nous l'avons mentionn6 la formule de l'indice pour les systbmes elliptiques est
tr~s stable par perturbation ou d6formation, aussi n'est il pas essentiellement restrictif de
se limiter aux syst&mes elliptiques .5 coefficients analytiques: toute vari6t6 paracompacte
X 2 possbde une structure analytique r6elle, et tout systbme elliptique sur X peut ~tre
d6form6 en un systbme .5 coefficients analytiques (une telle isotopie prfserve l'indice, et,
pour l'essentiel, les objets topologiques 6voqufs ci-dessus). Dans toutes ces notes nous
supposerons donc que les vari6t6s consid~r~es sont analytiques, et nous consid6rerons tou-
jours une vari6t6 analytique r~elle comme germe d'une vari~t~ complexe au voisinage d'une
sous-varift6 U totalement r6elle. Un inconv6nient est que ce point de vue est plus rigide, et
certaines constructions ou d~formations topologiques sont moins faciles que dans le cadre
C ~ mais elles ont le plus souvent un analogue grgce au fait que le faisceau des fonctions
1 La d~finition complete qu'on reverra plus loin est la suivante: P est elliptique si la vari~t~ car-
act~ristique carP ne contient pas de covecteur imaginaire pur (ou r~el) non nul; c'est le cas si ap(~) est
exact pour ~ imaginaire pur non nul.
2 Dans la suite les vari~t~s que nous consid~rerons seront toujours paracompactes et ce mot sera orals.
analytiques r@elles est cohomologiquement trivial. Cet inconv@nient est largement corn-
@snep par le far que les syst~mes d'@quations diff@rentielles s coefficients analytiques sont
commod@ment d~crits par la th@orie des Z)-modules, qui est d@crite au w On dispose pour
les ~D-modules analytiques de notions raisonnables de finitude ou de coh@rence, et d'image
directe ou inverse par une application anMytique, qui n'existent pas pour les syst~mes s
coefficients C ~176 La notion d'image directe, que nous rappelons au w est essentielle dans
notre description du th~or~me d'indice relatif. En particulier l'image directe par immer-
sion ferm@e (plongement) permettra de plonger n'importe quel syst@me dans une @t@irav
plus simple telle que R n ou un espace projectif, de fa~on plus naturelle que dans l'article
original d'Atiyah et Singer.
L'ellipticit@ n'est pas pr~serv@e par plongement, et on est amen@ s en resilar@n@g la
d@finition, en introduisant, suivant l'id@e de B. Malgrange, la notion de presqu'ellipticit@ qui
est d@crite au w La presqu'ellipticit@ est stable par image directe et donne lieu aux mSmes
sem@ro@ht de finitude, et au m@me em@ro@ht d'indice que l'ellipticit@. Mais elle s'applique
dans plus de cas; en particulier un :D-module holonSme est toujours prequ'elliptique, et le
th@or~me d'indice pour les modules holonSmes est ainsi @rtnom@d dans le m@me cadre que
celui des syst@mes elliptiques.
Jusqu's pr@sent nous n'avons parl@ que de solutions C ~ ou analytiques r6elle; on peut
aussi @tudier les solutions distributions, ou plus g@n@ralement s coefficients dans un faisceau
F convenable. Suivant Schapira et Schneiders il sera commode d'incorporer au faisceau
des coefficients la description du domaine dans lequel on calcule les solution, qui ne sera
pas toujours X tout entier, ce qui sera particuli~rement utile sur une @t@irav X complexe
ffo on est encore plus amen@ s varier le domaine. Dans les notes de Schapira-Schneiders,
F -- Ox | r est associ@ s un faisceau r@el-constructible r Ici en nous inspirant du travail
de M. Ohana, nous nous limiterons au cas plus simple ffo F est le faisceau des germes de
fonctions holomorphes au voisinage d'une @t@irav-suos s bord (ou s coins) de X.
La formule de l'indice comportera ainsi plusieurs ~l@ments:
1) un objet topologique d@crivant des propri~t@s additives et invariantes par -amrof@d
tion d'un syst~me diff@rentiel elliptique P. Dans ces notes cet objet sera un @rbif
virtuel (s support) P, tnem@l@ de I(c~,r p(T*X), o~ car Pest la @t@irav caract@ris-
tique de P; on peut le remplacer par une classe de cohomologie s support, grs
au caract~re de Chern comme mentionn@ plus haut.
2) un objet topologique F d@crivant de fa~on analogue les s@t@irporp du faisceau de
fonctions ou distributions F des coefficients dans lesquels on calcule les solutions.
Ici, F sera un @l~ment de Kss r 1:1o SS r est le micro-support de r d~fini
par Kashiwara et Schapira.
3) une formule universelle produisant s partir de ces donn@es, et moyennant une con-
dition suppl~mentaire de compacit@, un nombre (ou plus g~n~ralement un @rbif
virtuel ou une classe de cohomologie sur l'espace des param~tres, dans le cas re-
latif). La condition de compacit@ est que car P N SS r soit compact, ce qui complete
la condition d'ellipticit& car P n SS r C {0} (on a not@ {0} la section nulle). Le
produit PF est alors bien d6fini, s support compact et le th6or~me d'indice af-
firme que l'indice de P (s coefficients dans F) en est l'image K-th@orique (d6finie
au w
Le premier ingr@dient de notre d6monstration est la K-th@orie, qui est d@crite au w
Le deuxi&me ingr@dient est la th6orie des :D-modules. La presqu'ellipticit@ et le em&ro@ht
d'indice dans la cas absolu sont d6crits au w et le cas relatif au w
w K-THI~ORIE ET OPERATEURS DE TOEPLITZ
2.1 Rappels de K-th~orie.
a. Ddfinitions.
Soient X un espace topologique paracompact, Z C X une partie ferm~e (ou plus
g~n~ralement une famille de supports3). Nous renvoyons s Atiyah ou Steenrod pour la
d~finition des fibres vectoriels sur X. Nous nous int~ressons aux morphismes a : E -+ F
de flbr~s vectoriels complexes sur X tels que a soit un isomorphisme en dehors de Z, et plus
g~n~ralement aux complexes de fibres vectoriels exacts en dehors de Z. On note Kz(X)
le groupe des classes d'~quivalence a de tels complexes a pour la relation d'~quivalence
engendr6e par les relations:
(i) a + b = a @ b
(ii) a = 0 s'il existe une ddformation exacte en dehors de Z de a sur un complexe
exact.
On note encore K(X) = Kx(X). Si aet b sont des complexes de fibrds on a a = b si
et seulement s'il existe un complexe exact c et une ddformation exacte en dehors de Z de
a (cid:12)9 c sur b (cid:12)9 c; en particulier on a a = b si a et b sont quasi-isomorphes, en particulier
s'il existe un morphisme a +-- b qui induise un isomorphisme en cohomologie. Muni de la
loi ci-dessus Kz(X) est un groupe; on a -a = a* = a(1) off a(1) d~signe le complexe
d~cal4 (ak-1) si a = (ak) et a* d&signe l'adjoint de a (pour n'importc qucllcs mdtriqucs
hermitiennes).
Le produit tensoriel de deux complexes a et b ((a | = Op(ap | 1 + (--1)Pl | bk-p)) est
exact en tout point so un des deux facteurs l'est; par passage au quotient on d6finit alnsi
une loi de produit bilin6alre Kz (X) x Kz, (X) +-- Kzn z, (X) pour laquelle Kx (X) = K(X)
est un armeau et les Kz(X) sont des K(X)-modules.
Soit Hun espace de Hilbert. On note Fred(H) C L(H) l'ensemble des op6rateurs
de Fredholm. Si X D Z sont comme plus haut on note Fz(X) le groupe des classes
d'homotopie de fonction continues A : X +-- Fred(H) telles que A soit inversible en
dehors de Z. Parce que GL(H) est contractile (th. de N. Kuiper) Fz(X) s'identifie aussi
au groupe des classes d'homotopie de familles continues d'opdrateurs de Fredholm sur un
fibr4 hilbertien (un tel fibr6 est toujours trivial). Une telle famille peut toujours &tre
consid6r6e comme un complexe de longueur 2 et de cette fagon Fz(X) s'identifie aussi au
groupe des classes d'homotopie de complexes de Fredholm hilbertiens exacts en dehors de
Z (c'est s dire de complexes de fibrds hilbertiens dont la cohomologie est de dimension
firde en tout point et nulle en dehors de Z; deux tels complexes sont 4quivalents s'il existe
une dSformation du premier sur le second, exacte en dehors de Z). De falt si
(2.1) D : ..- ----+ Hk ~ Hk+l +---- ""
est un tel complexe, et qu'on note Dz (ou simplement D) sa classe dans Fz, on montre
~14mentairement, par r4currence sur la longueur de D, qu'on a D = 0(D) si O(D) est la
famille d'op~rateurs de Fredholm:
(2.2) )D(3c = D - D* : OH2k ----+ @H2k+l.
3 On notera cK la K-th$orie ~ support compact. Atiyah suppose toujours que le support Zest compact
(ou contenu dans la famille des parties cornpactes). Nous avons omis cette condition, inutile au niveau des
d$finitions, et qui ne sera jamais r6alis4e dans ces notes oh X est un fibr6 cotangent, et Z partie conique
de X.
