Zufälligkeit und Wahrscheinlichkeit: Eine algorithmische Begründung der Wahrscheinlichkeitstheorie

218 Pages·1971·2.182 MB·German

by  Claus Peter Schnorr (auth.)

Lecture Notes ni
Mathematics
A collection of informal reports and seminars
Edited yb .A Dold, Heidelberg dna .B Eckmann, Z0rich
812
Claus Peter Schnorr
t.#tisrevinU SaarbrScken, SaarbrOcken/Deutschland
Zuf~lligkeit dnu
Wahrscheinlichkeit
Eine algorithmische gnudnJ(rgeB
der Wahrscheinlichkeitstheorie
galreV-regnirpS
Berlin. grebledieH weN kroY
AMS Subject Classifications (1970): 02E 10, 02E 15, 02F 20, 60A 05, 68A 20
ISBN 3-540-05566-5 Spfinger-Verlag Berlin • Heidelberg • New York
ISBN 0-387-05566-5 Springer-Verlag New'York • Heidelberg • Berlin
This work is subject to copyright. All rights are reserved, whether the whole or part of the material is concerned,
specifically those of translation, reprinting, re-use of illustrations, broadcasting, reproduction by photocopying machine
or similar means, and storage in data banks.
Under § 45 of the German Copyright waL where copies are made for other than private use, is a fee payable to the publisher,
the amount of the fee to be determined by agreement with the publisher.
© by Springer-Verlag Berlin • Heidelberg .1791 Library of Congress Catalog Card Number74-171873. Printed in Germany.
Offsetdruck: Julius Beltz, Hemsbach/Bergstr.
Inhalts~bersicht
Vorwort und Einteitung . . . . . . . . . . . . . . . . . I
Erstes Kapitel: Vort~ufige Einftihrun~ des KoL-
tektivs unter BerGcksichtlgung der historischen
Entwicklung . . . . . . . . . . . . . . . . . . . . . . .4
1. Kritik der Ma~-Wahrscheintichkeltstheorie ..... 5
2. Der naive Begriff dee Kollektivs nach V0N MISES 10
3. Erste Ans~tze zur wlderspruchefreien Definition
der KoLLektive und ihre Kritik durch VILLE .... 21
Zweites Kapitet: Eine 0bermenge der statistischen
Zufattsgesetze (ZufaLLsfotgen im Sinne von MARTIN-
LOF) . . . . . . . . . . . . . . . . . . . . . . . . . . 29
4. Hyperzuf~tLige FoLgen . . . . . . . . . . . . . . . 32
5. Hyperzuf~LLige FoLgen und das Prlnzlp vom aus-
geschtossenen SpieLsyetem . . . . . . . . . . . . . 38
6. Charakterisierung hyperzuf~LLiger FoLgen dutch
Invarianzeigenechaften . . . . . . . . . . . . . . 45
7. Weitere Einw~nde gegen den Begriff der ZufaLts-
foLge im Sinne yon MARTIN-LOF . . . . . . . . . . . 52
Drittes Kapitet: Die statistischen ZufatLsgesetze
(EndgUttige Definition der zuf~LLigen Fotgen) ...... 60
8. Charakterisierung der ZufalLsfotgen dutch kon-
struktive Nutlmengen nach L.E.J. BROUWER ..... 63
9. Charakterisierung yon ZufatlsfoLgen dutch das
Prinzip vom ausgeschtossenen Spietsystem ..... 70
10. Darstettung des starken Gesetzes der gro~en
Zahlen dutch MartingaLe . . . . . . . . . . . . . . 78
11. Invarianzelgenschaften yon ZufaLtsfotgen ..... 83
12. Charakterlsierung der ZufaLtsfoLgen dutch In-
varianzeigenschaften . . . . . . . . . . . . . . . 89
13. Einige modifizlerte Spielsysteme . . . . . . . . . 92
14. Zufattsfotgen ats optimate Fotgen fur die Bank • • 98
15. Die Programmkomptexit~t nach KOLMOGOROFF ..... 107
IV
Viertes Kapitet: Ktassifikation der Zufaltsge-
setze nach ihrer Ordnung und ihrer aLgorlthmi-
schen Komptexit~t (Theorie der PseudozufatLsfot-
gen) . . . . . . . . . . . . . . . . . . . . . . . . . . 120
16. Die Ordnung eine8 Zufattsgesetzes ........ 123
17. ZufaLlsgesetze von exponentieL~er Ordnun~ .... 129
18. Voraussagbare und quasi-rekursive FoLgen ..... 140
19. Dutch endliche Automaten darstettbare Zu-
fallsgesetze . . . . . . . . . . . . . . . . . . . 146
20. Raum- und Zeitkomplexit~t rekursiver Funk-
tionen . . . . . . . . . . . . . . . . . . . . . . 150
21. Die KompLexit~t von ZufaLlsgesetzen und der
Zufatlsgrad von Folgen . . . . . . . . . . . . . . 159
22. Invarianzeigenschaften der Komptexlt~tskLassen
von Pseudozufattsfotgen . . . . . . . . . . . . . 169
FGnftes Kapitel: ZufatLsfotgen zu atLgemelnen Wahr-
scheintichkeitsr~umen . . . . . . . . . . . . . . . . . 173
23. Berechenbare Wahrscheinlichkeitsma~e auf [0,1} 173
24. VerteiLungsunabh~ngige SequentiaLtests ...... 176
25. VerteiLungsunabh~ngige Invarianzeigenschaften
von ZufaLlsfotgen . . . . . . . . . . . . . . . . 183
26. ZufaLLsfoLgen zu Wahrschein~ichkeitsma~en
auf R . . . . . . . . . . . . . . . . . . . . . . . 192
I Anhang Gber rekursive Funktionen . . . . . . . . . 200
II Bezeichnungen und AbkUrzungen . . . . . . . . . . 202
III Stichwortverzeichnls . . . . . . . . . . . . . . . 205
IV Literaturverzeichnis . . . . . . . . . . . . . . . 209
Zuf~Ltigkeit und Wahrscheintichkeit
(Ein Ansatz zur Neubegr~ndung der Wahrscheintich-
keitstheorie.)
Vorwort und EinLeitung
Die Probtematik um den Begriff der ZufattsfoLge war, nachdem erste
Ans~tze u.a. von VON MISES, TORNIER, WALD, CHURCH und VILLE nicht zum
ZieL ftthrten, fast in 7ergessenheit geraten. Erst nachdem die Logi-
echen Begrlffe der Rekursivit~t bzw. der Berechenbarkeit Eingang in
welts Kreise von Mathematikern gefunden hatten, wurde das Interesse
in Jdngster Zeit, angeregt dutch neue Ans~tze, wieder wach. Die Bedeu-
tung der vortiegenden Theorle tiegt sicher darin, da B sie Hinweise zur
Konstruktion yon PseudozufatLsfotgen und somit zur SimuLation yon Zu-
fa~Lsprozessen gibt. Es ist zu hoffen, da B damit der Sch~sse~ gefun-
den ist, dis noch nlcht pr~zisierten Monte-Carto-Methoden mathematisch
exakt zu behandetn. Vertockend an dleser Theorie ist aber auch die
BrGcks, wetche zwischen der ktasslschen Wahrscheintichkeltstheorie und
der mathematischen Logik geschLagen wird, die notwendlgerweise zur
VerknUpfung von statistischen und atgorithmischen Argumenten ftthrt.
Diese Notwendigkeit, verschiedene Denkweisen miteinander zu verbin-
den, bereitete abet anf~ngtich gro~e Schwierigkeiten. Sp~testens nach
den Arbeiten yon VILLE E49] (1939) und CHURCH [6] (1941) waren einer-
seits die wahrscheinlIchkeitstheoretischen, andererseits die togischen
Grundlagen zur endg~ttigen Kt~rung des Begriffes der ZufaLlsfoLge ge-
geben. Denn die VILLE'sche Formutierung des Prinzips vom ausgeschtos-
senen Spietsystem, wetche durch MartingaLe ausgedrGckt wird, fUhrt,
wenn man noch in geeigneter Weiss konstruktivisiert, zu diesem Be-
griff. Es ist daher erstauntich, da B dleser - so gesehen - retativ
- 2 -
kleine Schritt erst drei~ig Jahre sp~ter in SCHNORR [40 S erfotgte.
Dieser tetzten Arbeit glngen ArtikeL von KOLMOGOROFF [21], CHAITIN
[4S und MARTIN-LOF E27S voraus, wetche aufbauend auf der algorlthmi-
schen Denkweise unter Benutzung des Konzepts der Kompliziertheit yon
Rechenprozessen scheinbar vSttig neue Vorstetlungen von regeLtosen
FoLgen er~ffneten. Diese ArtikeL tassen zun~chst keinen formalen Zusam-
menhang mit den eingangs genannten Arbeiten erkennen.
Es ist das ZieL dieses Buches, dlese Zusammenh~nge zwischen den
verschiedenen Zug~ngen zum Begriff der Zuf~lLigkeit herauszuarbeiten.
Es zeigt slch, da B die VON MISES'sche Idee der Invarianzeigenschaften
(in der Form yon Auswahlregetn), das Prinzlp vom ausgeschtossenen
SpieLsystem sowie die Gedanken yon L.E.J. BROUWER zu einer konstrukti-
yen Ma~theorie jeweits zu ~qulvatenten Definitionen der Zuf~lLigkeit
fUhren.
Es erschien mir sinnvotl, in Eapitet I den historischen Ausgangs-
punkt kurz zu erl~utern. In Kapitet II wird die Definition der ZufatLs-
fotgen nach MARTIN-LOF behandelt. Es werden weitere ~quivatente Dar-
stetlungen dieses Zufaltsbegriffes angegeben, um die hierln zugrunde
getegte WitLkUr sichtbar zu machen. In den KaplteLn III und IV, dem
KernstUck des Buches, findet sich nicht nut eine zusammenfassende Dar-
steltung melner frtLheren Arbeiten, sondern auch eine Reihe noch nicht
verSffenttichter Resultate. Z.B. wird durch die $~tze (15.9) und
(15.10) eine noch nicht bekannte Charakterisierung der zuf~ttigen
Folgen dutch ihre Programmkomptexlt~t gegeben. Durch Satz (17.8) wird
der V0N MISES'sche Ansatz in der CHURCH'schen Fassung harmonisch in
die Theorie eingebettet. In Paragraph 2~ werden ZufaLLsfoLgen durch
verteiLungsunabh~ngige Invarianzelgenschaften (in Anatogie zu den
VON MISES'schen Auswahlregeln) beschrieben.
Dem vorliegenden Buch ging elne Vortesung voraus, die ich im Som-
mer 1970 an der Universit~t SaarbrUcken gehatten habe. Das Buch Ist
-3-
insofern unvottst~ndig, ats im wesenttichen nut bln~re Zufattsfotgen
behandelt werden. Denn ein votlst~ndiger Aufbau der ktassischen Wahr-
scheintichkeltstheorie ist im Rahmen einer konstruktiven Ma~theorie
ohne weiteres mSgLich, Dies wird in Paragraph 26 angedeutet. Eine
ausfQhrliche Darstettung der konstruktlven Ma~theorie w~rde Jedoch
den Rahmen dieser Abhandlung sprengen.
Ich danke aLLen, weLche durch wertvotLe Ratschl~ge und durch ihr
Interesse die Arbelt an diesem Buch vorangetrieben haben. Insbesonde-
re danke ich den Herren H. Stimm, P. Krebs und .P Fuchs fur das Durchte-
sen der Korrekturen und vor atlem Fraulein Wagner fur das sorgf~lti-
ge Tippen des Manuskrlpts.
C.P. Schnerr SaarbrUcken, Juml 1971
Erstes KapiteL
VorL~ufige EinfUhrung des KoILektlvs unter Ber~cksichtigung
der historischen Entwicklung
In Paragraph I legen wir dar, da B auch vom Standpunkt der heute ~b-
lichen Ma~-Wahrscheinlichkeitstheorie eine Pr~zisierun~ des Be~riffs
der ZufallsfoLge w~nschenswert ist. Diese ist notwendi~, wenn man die
wohLbekann~Schwierigkeit Uberwinden will, den ma~theoretischen Wahr-
scheinLichkeitsbegriff physikalisch zu interpretieren. Andererseits
kann man erwarten, da B auf der Grundlage der Zuf~LLigkeit auch bisher
nicht behandeLte ProblemsteLlun~en wie die Simulation yon Zufallspro-
zessen in den Rahmen der WahrscheinLichkeitstheorie einbezo~en werden
k~nnen.
In Paragraph 2 behandeln wir den historischen Ansatz zur Pr~zisie-
rung der KoLlektive, wie ihn VON MISES 1919 entwarf. Wir gehen kurz auf
die VorsteLlungen ein, die diesem Konzept zugrunde Lie~en, und zeigen
die wesentlichen Probleme auf, weLche durch diesen Ansatz aufgeworfen
werden. An diesen offenen Fragen orientierte sich dann die weitere
Entwicklung in den 30-er Jahren, deren wichti~ste Z~ge wit in Para-
graph 3 schildern. Sie Ist dadurch gekennzeichnet, dab dutch die Ergeb-
nisse vor aLLem yon WALD zwar eine widerspruchsfreie Fassung des Kotlek-
tivbegriffs gelang, jedoch stetLte VILLE im Jahre 1937 durch seine Kri-
tik den VON MISES'schen Zugang zum Be~riff der ZufatLsfolge noch ein-
mal grunds~tzlich in Frage.
-5 -
.I Kritik der MaS-WahrscheinLichkeitstheorie
Wir wotLen hier kurz ert&utern, inwieweit die ktassische MaS-Wahr-
schein~ichkeitstheorie unbefriedigend ist. Der Leser, dem die mit der
Interpretation des Begriffs der Wahrschein~ichkeit zusammenh~ngende
ProbZematik bekannt ist, kann diesen Paragraphen Ubersch~aKen. Wit
geben kurz die dbLiehe axiomatische GrundLeKung der WahrscheinLich-
keitstheorie an.
Definition (1.1)
Ein WahrscheinLichkeitsraum ist nach KOLMOGOROFF [20] ein TripeL
Q = (X,3,U) mit folKenden Eigenschaften:
(I) X ist eine Menge, der Stichprobenraum.
(2) 3 ist eine ~-ALgebra yon Teilmengen von X, weLche die ~eere Menge
enth~It. Die Eiemente yon ~ hei~en Ereignisse oder me,bare Mengen.
ist also ein System von Tei~menKen yon X, so ds~ mit A und B
auch die Vereinigung A UB, der Durchschnitt A nB und die Komple-
mente A ,c c B in 3 liegen. Mit einer Fol~e (A. IiEN) mit F 6 A.
1 1
Liegt auch N6~i i A in .8
(3) u:3 ~ R ist ein nicht negatives, ~-additives, normiertes Ma~. Da-
bei ist R die Menge der ree%len Zahlen. D.h., f~r die Funkhlon
~:~ - R gi~t ~(A) ~ 0(A e~), ferner u(X) = Iund
U(iaNU Ai ) = ~ a(A i) sofern A.~l und Ain j.A = @ (i~j).
igN
u(A) heist die Wahrscheintichkeit von A. U heist ein Wahrschein-
Lichkeitsma~, oder kurz VerteiLun~. Im folgenden nehmen wir stets an,
da~ U zus~tztich ein Lebesguema~ ist. D.h., aus Ae~ mit u(A) = o
und BoA fotgt stets B ~ und somit ~(B) = o. Bekannttich %&St sich
jedes Wahrscheintichkeitsma8 zu einem Lebes~uema8 erweitern.
Das obige Axiomensystem wurde 1933 von KOLMOGOROFF vorgeschtagen
und hat sich nicht zuLetzt wegen seiner syntaktischen Einfachheit ge-
-6 -
genUber anderen Vorstel~ungen durchgesetzt. Inha~t~Ich jedoch sind
diese Axlome woh~ weniger elnfach. Die Wahrscheln~ichkeit ~(A) be-
deutet soviel wie den Grad der Gewi~heit des Ereignisses A. Dieser
Grad der Gewi~heit elnes Ereignisses wird als eine jedem Ereignis
zukommende Grundeigenschaft aufgefa~t, ~hnlich dem Gewicht, der Aus-
dehnung und der Farbe von KSrpern. Man wird slcher~Ich zu~eben, da~
der Grad der Gewi~heit, sofern er slch nlcht durch einfachere Begriffe
erl~utern ~t, nicht sehr anschau~ich ist. Z.B. ist unklar, was der
Grad der Gewi~heit I/2 fur ein einma~iges Ereignis bedeutet. Die In-
terpretation des Wahrschein~ichkeitsbegriffes, so argumentiert man,
~iegt eben au~erhalb der mathematischen Aufgabenste~lun~. Dennoch
~egt man imp~izit meist die Vorste~ung zu~runde, da~ Ereignisse mlt
einem hohen Grad der Gewi~heit h~ufig auftreten° w~hrend so~che mit
einem k~einen Grad der Gewi~heit recht se~ten sind. Diese mehr an-
schau~iche Interpretation der Wahrscheinlichkeit kommt aber in den
Ko~mogoroff'schen Axiomen nicht zum Ausdruck. Sie kann daher auch
nicht aus ihnen abgebeitet werden. Um dies zu er~utern, diskutieren
wir kurz das starke Gesetz der gro~en Zah~en~ierzu benStigen wir den
Begriff des Produktraumes ~.
Zu einem Wahrscheinlichkeitsraum ~ = (X,~,~) deflnlert man in ka-
nonischer Weise den (abz~d~bar unend~ichen) Produktraum ~ = (X~,~,~).
Dabei ist ~ X die Menge der abz~h~bar unendlichen Foemen Uber X. FUr
zaX schreiben wir z = z~z2...zi.., mit z i~ X.
Mit X* bezeichnen wit die Menge a~er endlichen Fo~gen mit E~emen-
ten aus X. A~X* sei die ~eere Forge. Die Aneinanderreihung einer
Forge e x X* und ~ y X*~X ~ wird a~s Produkt xy geschrieben. Dies im-
p~iziert in natUrlicher Weise ein Produkt AB~X ~ von Mengen A~X* und
B~X ~
Die ~-A~gebra ~ von O und das Ma~ ~ werden fo~genderma~en defi-