Neuro-Fuzzy-Methoden: Einführung in Theorie und Anwendungen

311 Pages·1998·13.6 MB·German

by  Dr.-Ing. Hans-Heinrich Bothe (auth.)

Hans-Heinrich Bothe
Ne uro-Fuzzy-Methoden
Springer-Verlag Berlin Heidelberg GmbH
Hans-Heinrich Bothe
Neu ro-Fuzzy-Methoden
Einführung in Theorie und Anwendungen
Mit 149 Abbildungen
Springer
Dr.-Ing. Hans-Heinrich Bothe
Institut für Elektronik
Technische Universität Berlin
Einsteinufer 17
10587 Berlin
und
Universität Bern
Institut fiir Informatik und angewandte Mathematik
Neuroinformatik Gruppe
Neubrückstraße 10
CH-3012 Bern
ISBN 978-3-540-57966-3
Die deutsche Bibliothek -CIP Einheitsaufnahme
Bothe, Hans-Heinrich
Neuro-Fuzzy-Methoden: Einführung in Theorie und Anwendungen 1 Hans-Heinrich
Bothe.-Berlin; Heidelberg ; New York ; Barcelona; Budapest ; Hong Kong ; London ;
Mailand; Paris ; Santa Clara ; Singapur; Tokio:
Springer, 1998
ISBN 978-3-540-57966-3 ISBN 978-3-642-58859-4 (eBook)
DOI 10.1007/978-3-642-58859-4
Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbe
sondere die der übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbil
dungen und Tabellen, der Funksendung, der Mikroverfilmung oder Vervielfältigung
auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen,bleiben,auch
bei nur auszugsweiser Verwertung, vorbehalten. Eine Verfielfältigung dieses Werkes
oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzli
chen Bestimmungen des Urheberrechtsgesetzes der Bundesrepublik Deutschland vom
9. September 1965 in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich
vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des
Urhebe rrechtsge setzes.
@ Springer-Verlag Berlin Heidelberg 1998
Originally published by Springer-Verlag Berlin Heidelberg New York in 1998
Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw.in
diesem Buch berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme,
daß solche Namen im Sinne der Warenzeichen-und Markenschutz-Gesetzgebung als
frei zu betrachten wären und daher von jedermann benutzt werden dürften.
Sollte in diesem Werk direkt oder indirekt auf Gesetze, Vorschriften oder Richtlinien
(z.B. DIN,VDI, VDB) Bezug genommen oder aus ihnen zitiert worden sein, so kann der
Verlag keine Gewähr für die Richtigkeit oder Aktualität übernehmen. Es empfiehlt
sich, gegebenenfalls für die eigenen Arbeiten die vollständigen Vorschriften oder Richt
linien in der jeweils gültigen Fassung hinzuzuziehen.
Satz: Reproduktionsfähige Vorlage des Autors
Umschlaggestaltung: Struve8tPartner, Sickingen
SPIN: 10130849 68/3020 -5 4 3 21 0 -Gedruckt auf säurefreiem Papier
Honore Daumier, 1808-1879
Lithographie im Besitz des Museum of Fine Arts, Boston! MA:
"M. Babinet prevenu par sa portiere de la visite de la comete."
Danksagung
Weddingen.
im Spatsommer 1959
Meinen Kolleginnen und Kollegen, die am Entstehen dieses Buches mit beteiligt
waren, mOchte ich rur ihre gro8e Hilfsbereitschaft danken. Ohne unsere wertvollen
Diskussionen hiitte die Fertigstell ung sicherlich liinger gedauert. Besonders erwahnen
mochte ich Peter Endt und Jiirgen Hafner von der Technischen Universitiit Berlin,
Antonio C.S. de Lima, Marcelo G. Rodrigues und Rolando A.M. Perez von der Uni
versidade Federal do Rio de Janeiro sowie meine neuen Kollegen an der Universimt
Bern. Vor allem danke ich Susanne von Aichberger yom Hahn-Meitner-Institut
Berlin, Thomas BoB von der Universitiit VIm sowie Vlrike Witt von der Eschke
Schule Berlin rur ihr intensives und oft miihevolles Korrekturlesen weiter Teile
dieses Buches.
Ich vergesse auch jene nicht, die mir wahrend der gesamten Arbeit am Manuskript
kontinuierlichen Zuspruch zuteil werden lieBen, die aufVieles verzichten muBten und
somit gleichfalls ihren Anteil am Zustandekommen dieses Buches haben. Dafiir
bedanke ich mich bei UIIi. Anna und bei meinen Eltern. Irmgard uod Heinrich.
Den Mitarbeiterinnen und Mitarbeitern des Springer-Verlags bin ich fiir ihr sehr
gro8es Entgegenkommen und ihre hohe Flexibilitiit sehr verbunden.
Zuletzt sollen auch die umsichtigen, freundlichen und zuvorkommenden Mitarbei
terinnen und Mitarbeiter des Berliner 'Cate Campus' und des Berner 'Bierhiibeli'
erwahnt werden, die durch Versorgung mit Speis' und Trank zum korperlichen Wohl
befinden des Autors beigetragen haben.
Bern und Berlin. im August 1997
Hans-Heinrich Bothe
Vorwort
Fuzzy Logie und Ktinstliehe Neuronale Netzwerke sind zwei Gebiete, die sich seit
knapp 10 Jahren im Bereich der Technik einen wichtigen Platz geschaffen haben und
deren Inhalt die Steuerungstechnik vieler Systeme zur Zeit nachhaltig beeinflussen.
Die klassische Systemtechnik, die sieh bisherweitgehend mit Iinearisierten Systemen
befaSt hat, heute aber auch durch adaptive Algorithmen Nichtlinearitaten bertick
sichtigen kann, hat durch die Fuzzy Logic und die Anwendung neuronaler Strukturen
eine Erweiterung erfahren, die in der Forschung und Entwicklung geregelter tech
nischer S ysteme noch gar nicht voll erfaBt werden konnte. Mancherorts werden diese
Methoden noch sehr kritisch angesehen.
Die Literatur jeweils tiber Fuzzy Logie und Ktinstliche Neuronale Netzwerke ist
schon sehr ausgedehnt. Herr Dr. Bothe hat mit seinem ersten -erfolgreichen -Buch
"Fuzzy Logic" einen bedeutenden Beitrag zum Verstandnis der Anwendung
unscharfer Logik geleistet. Das vorliegende Buch soli zeigen, wie durch Kombination
beider Methoden ein Nutzen fiir die Modellierung und Regelung hochgradig nicht
linearer Systeme gezogen werden kann, deren Berechnung durch k1assische
Methoden an Grenzen stOllt.
Die Grundlage des Buches sind Vorlesungen sowie Forschungsarbeiten, die
Dr. Bothe am Institut ftir Elektronik -jetzt Institut fiir Elektronik und Lichttechnik
durchfiihrt. Die Vorlesungen werden von Studenten der Elektrotechnik und Infor
rnatik besucht, was bisher vielfach zu Studien-und Diplomarbeiten Anregung gab.
Die k1are GJiederung des Buches wird nieht nur Studierenden, sondem auch
Ingenieuren in der Industrie eine gute Grundlage zur Anwendung und weiteren
Entwicklung der Behandlung nichtlinearer technischer Systeme geben.
Ich mochte dem Buch ein engagiertes und auch kritisches Lesepublikum
wtinschen, damit es zu einer erweiterten Sichtweise der Technik und zu tieferem
Technikverstandnis beitriigt.
Berlin, im September 1997 Prof. Dr.-Ing. Dietrich Naunin
Professor am Institut flir Elektronik und Lichttechnik
der Technischen Universitat Berlin
Inhaltsverzeichnis
1 EINFUHRUNG .............................................. 5
1.1 Fuzzy-Inferenzmethoden ................................ 7
1.2 Kiinstliche Neuronale Netzwerke ......................... 10
1.3 Neuro-Fuzzy-Methoden ................................ 11
2 Fuzzy-METHODEN ......................................... 14
2.1 Grundideen ......................................... 15
2.1.1 Unscharfe Mengen .................................... 17
2.1.2 Operationen auf unscharfen Mengen ...................... 21
2.1.3 Linguistische Variablen ................................. 25
2.1.4 Unscharfe Zahlen und das Erweiterungsgesetz. .............. 26
2.1.5 Unscharfe Relationen .................................. 29
2.2 UbertragungsverhaJten von Fuzzy-Systemen .............. 33
2.2.1 Fuzzy-Systeme als Approximatoren ....................... 35
2.2.2 Eingangskodierung (Fuzzifikation) ........................ 38
2.2.3 Fuzzy-Inferenz durch Approximatives SchlieBen ............. 38
2.2.4 Ausgangskodierung (Defuzzifikation) ..................... 49
2.2.5 Versteckte Variablen ................................... 51
2.2.6 Automatische Adaption ................................. 52
2.3 AnwendungsbeispieJe ................................. 57
2.3.1 Klassifikation ........................................ 57
2.3.2 Reglerentwurf ........................................ 67
3 KUNSTLICHE NEURONALE NETZWERKE ........................ 70
3.1 BioJogiscbes Vorbild .................................. 71
3.1.1 Neuronen ............................................ 71
3.1.2 Neuronenverbande ..................................... 76
3.1.3 Funktionsweise des menschlichen Gehims .................. 78
3.1.4 Signalverarbeitung in der Retina .......................... 82
3.2 Grundideen Kiinstlicher Neuronaler Netzwerke ........... 86
3.2.1 Netzwerktopologie .................................... 87
3.2.2 Lemverfahren ........................................ 89
3.2.3 Stabilimts-Plastizitiits-Dilemma .......................... 91
3.3 Neuronenmodelle. .................................... 93
3.3.1 Adaptive Linearkombination (Adaline) .................... 93
3.3.2 Lineares Schwellwert-Gatter (LSG) ....................... 94
3.3.3 Schwellwertfunktionen ................................. 99
3.3.4 Sigma-Pi-Neuronenmodell .............................. 102
3.3.5 Polynomiales Schwellwertgatter. ......................... 102
3.3.6 Stochastisches Schwellwertgatter ......................... 103
3.3.7 Neuronenfelder ....................................... 104
3.3.8 Fuzzy-Neuronenmodell ................................. 106
3.4 Einschichtige KiinstIiche Neuronale Netzwerke ........... 108
3.4.1 Fehlerkorrektur-Lemregeln flir einzelne Zellen .............. 111
3.4.2 Gradientenabstiegs-Lemregeln flir einzelne Zellen ........... 117
3.4.3 Besmrkendes Lemen flir einzelne Zellen ................... 126
3.4.4 Uniiberwachtes Lemen ................................. 128
3.4.5 Wettbewerbslemen .................................... 132
3.4.6 Lemende Vektorquantisierung (LVQ) ..................... 136
3.4.7 Selbstorganisierende Karten (SOM) ....................... 138
3.5 Mehrschichtige Kiinstliche Neuronale Netzwerke .......... 144
3.5.1 Assoziativspeicher. .................................... 144
3.5.2 Adaptive Resonanztheorie (ART) ......................... 151
3.5.3 Radialbasisfunktions-Netzwerke (RBFN) ................... 162
3.5.4 Fehler-Backpropagation rur mehrschichtige
vorwlirtsgerichtete KNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
3.5.5 MaBnahmen zur Verbesserung des Lemalgorithmus .......... 176
3.5.6 Time-Delay-Neuronale-Netzwerke (TDNN) ................ 183
3.5.7 Globale Minimierung der KNN-Komplexitiit ................ 187
3.6 Anwendungsbeispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188
3.6.1 NETtalk ............................................. 188
3.6.2 NETface ............................................ 190
3.6.3 Glove-Talk .......................................... 193
4 Fuzzy-METHODEN UND KUNSTUCHE NEURONALE NETZWERKE •••• 196
4.1 Optimierung der ZugehOrigkeitsfunktionen . . . . . . . . . . . . . . . . . 197
4.2 Bestimmung von Fuzzy-Regeln .......................... 199
5 Hybride NEURO-Fuzzy-METHODEN ••••••••••••••••••••••••••• 209
5.1 Fuzzy-Lemende Vektorquantisierung (FLVQ) ............... 209
5.2 Fuzzy-Kohonen-Clustering-Netzwerk (FKCN) .............. 215
5.3 Fuzzy ART und Fuzzy ARTMAP ......................... 218
5.4 Neural Network-based Fuzzy Logic Control (NNFLC) ........ 221
5.5 Adaptive-network-based Fuzzy Inference System (ANFlS). .... 230
5.6 Neural Network-driven Fuzzy Reasoning (NNDFR) .......... 236
5.7 Generalized Approximative Reasoning-based
Intelligent Control (GARIC) ............................. 241
5.8 FUzzy Net (FUN) ..................................... 247
5.9 NEural Fuzzy CONtroller (NEFCON) ..................... 250
6 Fuzzy-NEURONALE NETZWERKE ••••••••••••••••••••••••••••• 257
7 GENETISCHE ALGORITHMEN ••••••••••••••••••••••••••••••••• 260
Literalurverzeichnis •••••••••••••••••••••••••••••••••••••••••••• 264
Anhang: Iris-Dalensatz ••••••••••••••••••••••••••••••••••••••••• 295
SymboJe und Abkiirzungen •••••••••••••••••••••••••••••••••••••• 296
Sachverzeichnis• ••••••••••••••••••••••••••••••••••••••••••••••• 299