Data Mining: Theoretische Aspekte und Anwendungen

375 Pages·1998·15.98 MB·German

by  Gholamreza Nakhaeizadeh

Beiträge zur Wirtschaftsinformatik
Band 5: G.A. Kainz Band 17: M. Rundshagen
Computergestötzte Distribuierung ComputergesUttzte Konsistenz..
von Informations-und sicherung in der objektorientierten
Kommunikationssystemen Systemanalyse
1993, ISBN 3-7908-0664-1 1996, ISBN 3-7908-0903-9
Band 18: H. Boden
Band 6: D. Steinmann
MulticUszipJinire Optimierung
Ebasatzmöglichkeiten von
und Cluster-Computing
Expertensystemen in integrierten
1996, ISBN 3-7908-0935-7
Systemen ~ Produktionsplanung
und -steuenmg (PPS)
1993, ISBN 3-7908-0665-X Band 19: Z.-Y. Xu
Prinzipien des Entwurfs und der
ReaHsienmg eines Organisations
Band 7: J. Walther informationssystems
Rechnergestötzte QuaJitätssicherung 1996, ISBN 3-7908-0936-5
und CIM
1993, ISBN 3-7908-0684-6 Band 20: H. Schmidt
Objektorientierte Entwicklung
Band 8: o. Petrovic wiederverwendbarer Bausteine
fiir betrieb6che Anwendungssysteme
Workgroup Computing -
1997, ISBN 3-7908-0976-4
Computergestötzte Teamarbeit
1993, ISBN 3-7908-0705-2
Band 21: S. Kuhlins
ObJektorientiertes Design fiir e++
Band 12: T. Myrach 1997, ISBN 3-7908-0983-7
Konzeption und Stand des Einsatzes
von Data Dictionaries Band 22: R. Rieg
1995, ISBN 3-7908-0822-9 An:hitektur und DatenmodeU eines
koordinationsorientierten
ControUing-Informationssystems
Band 13: J. Schmalzl 1997, ISBN 3-7908-101O-X
ArchitekturmodeUe zur Planung der
Informationsverarbeitung von
Band 23: K. Baumann
Kreditinstituten
1995, ISBN 3-7908-0840-7 Unterstützung der objektorientierten
Systemanalyse durch Softwaremaße
1997, ISBN 3-7908-1018-5
Band 14: D. Schreiber
Objektorientierte Entwicklung Band 24: S. Marx
betriebHcher Informationssysteme Datenmanagement in
1995, ISBN 3-7908-0846-6 wissensbasierten Statistiksystemen
1997, ISBN 3-7908-1027-4
Band 15: B. Reuter
Band 25: EJ. Brüggemann
Direkte und indirekte Wirkungen
Objektorientierte und verteilte
rechnenmterstfitzter Fertigungs
Lösung von Optimienmgsproblemen
systeme
1997, ISBN 3-7908-1034-7
1995, ISBN 3-7908-0850-4
Band 26: L. M. Kolbe
Band 16: S. Hesse Informationstecbnlk fiir den
Strategische Datenbanken privaten Haushalt
1996, ISBN 3-7908-0884-9 1998, ISBN 3-7908-~052-5
Gholamreza Nakhaeizadeh (Hrsg.)
Data Mining
Theoretische Aspekte und Anwendungen
Mit 81 Abbildungen
und 57 Tabellen
Physica-Verlag
Ein Unternehmen
des Springer-Verlags
Reihenherausgeber
Wemer A. Müller
Martina Bihn
Herausgeber
Prof. Dr. Gholamreza Nakhaeizadeh
Daimler-Benz AG
Forschung und Technik
Postfach 2360
D-89013 Ulm
ISBN 978-3-7908-1053-0 ISBN 978-3-642-86094-2 (eBook)
DOI 10.1007/978-3-642-86094-2
Die Deutsche Bibliothek - CIP-Einheitsaufnahme
Data mining: theoretische Aspekte und Anwendungen I Hrsg.: Gholamreza Nakhaeizadeh. -
Heidelberg: Physica-Verl., 1998
(Beiträge zur Wirtschaftsinformatik, Bd. 27)
Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere
die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und
Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielfliltigung auf anderen
Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugs
weiser Verwertung, voroehalten. Eine Vervielfliltigung dieses Welkes oder von Teilen dieses
Welkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Ur
heberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der jeweils
geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen
unterliegen den Strafbestimmungen des Urheberrechtsgesetzes.
© Physica-Verlag Heidelberg 1998
Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem
Welk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, daß solche
Namen im Sinne der Warenzeichen-und Markenschutz-Gesetzgebung als frei zu betrachten
wären und daher von jedermann benutzt werden dürften.
Umschlaggestaltung: Erlch Kirchner, Heidelberg
SPIN 10640218 8812202-5 4 3 2 1 0 - Gedruckt auf säurefreiem Papier
Vorwort
Die Extraktion von verwertbarem Wissen aus Daten ist ein Thema, das
angesichts der Menge des zur Zeit verfügbaren Datenmaterials mehr und mehr
an Aktualität gewinnt. In vielen Unternehmen und wissenschaftlichen
Institutionen existieren sehr große Datenbestände, deren genauere Analyse direkt
nutzbare Erkenntnisse verspricht. Oft genug bleiben die Daten jedoch ungenutzt,
da die Menge und ihr permanent wachsendes Volumen die Auswertung
erschwert. Schätzungsweise werden lediglich 5 bis 10 % der gesammelten und
generierten Daten analysiert.
Die Anwendung geeigneter Verfahren zur Wissensentdeckung in großen
Datenbeständen wird als Data Mining bezeichnet und ist der Kern eines
Prozesses, der in der Literatur als "Knowledge Discovery in Databases" (KDD)
beschrieben wird. Data Mining und KDD haben sowohl interessante Forschungs
als auch Anwendungsaspekte. Sie bringen einerseits als interdisziplinäre
Wissenschaft neue Herausforderungen für die Forschung auf Gebieten wie
Statistik, maschinelles Lernen und Datenbanken. Andererseits sind sie für
verschiedene praktische Anwendungen wie etwa Marketing, Logistik,
Risikometrie, Qualitätssicherung, Konstruktion und Produktionsmanagement von
Bedeutung. Die Beiträge des vorliegenden Buches sprechen diese beiden Aspekte
an.
Der Übersichtsbeitrag von Nakhaeizadeh, Wirth und Reinartz gibt einen
umfassenden Überblick über die verschiedenen Aspekte von Data Mining und
KDD. Die Autoren betonen die Interdisziplinarität der KDD und stellen
verschiedene Phasen des Prozesses der Wissensentdeckung vor, wobei manche
Phasen dieses Prozesses ausführlicher diskutiert werden. Ferner beschreiben sie
die Data Mining Ziele sowie die Data Mining Methoden. Ein Überblick über
mögliche Anwendungen der Wissensentdeckung in Datenbanken und über
verfügbare Werkzeuge sowie die Diskussion aktueller Forschungsfragen
schließen diesen Beitrag ab.
Der Beitrag von Breitner, Lockemann und Schlösser besteht aus zwei Teilen.
Im ersten Teil beschreiben die Autoren die vier Schritte der Umgebung eines
Data Warehouses und stellen das Konzept OLAP vor, welches sehr eng mit dem
Begriff der Multidimensionalität der Daten verbunden ist. Dieser Teil befaßt sich
ferner mit der Darstellung des Konzepts Data Mining sowie mit der
Beschreibung von Assoziationsregeln als Beispiel für Data Mining Verfahren.
Außerdem wird die Rolle der Informationsverwaitung für das Data Mining
behandelt. Im zweiten Teil betrachten die Autoren den KDD-Prozeß als
Geschäftsprozeß. Aus der Prozeßsicht erwachsen den Autoren zufolge neue
VI
Herausforderungen, die mit Hilfe von Informationstechniken unterstützt werden
können. Die Verfasser stellen dazu Ansätze aus ihren aktuellen Forschungen vor.
Sie befassen sich unter anderem mit der Vereinfachung sehr komplexer
Ableitungsketten sowie mit der automatischen Verwaltung von Ergebnissen, die
im Zuge der Prozeßausführung entstanden sind.
Der Prozeß der Wissens entdeckung ist sehr komplex. Aus diesem Grund ist
die Entwicklung von Systemen, welche die Benutzer bei der Durchführung
verschiedener Phasen des KDD-Prozesses unterstützen können, erforderlich. Der
Beitrag von Engels, Lindner und Studer basiert auf methodischen Arbeiten in
den Bereichen KDD und Knowledge Engineering und stellt einen ersten Ansatz
zur Benutzerunterstützung dar. Im von den Autoren vorgestellten Ansatz spielt
das Zerlegen von Aufgaben und die Anwendung von Problemlösungsmethoden
eine sehr große Rolle. Außerdem betonen die Autoren in Ihrem Ansatz die
Wichtigkeit einer halbautomatischen Konfigurierung einer Anfangslösung für ein
KDD-Problem.
Preprocessing ist eine sehr wichtige Phase des KDD-Prozesses. Die Beiträge
von Borgelt und Kruse sowie von Kauderer und Nakhaeizadeh befassen sich mit
verschiedenen Aspekten von Preprocessing. Borgelt und Kruse geben einen
Überblick über eine Reihe von Auswahlkriterien, welche die Korrelation
zwischen einem Attribut und der Zielvariable bei Klassifikationsaufgaben
berechnen. Solche Kriterien können unter anderem zur Attributauswahl bei der
Entwicklung von Entscheidungsbäumen verwendet werden. Die Autoren führen
zum Vergleich eine empirische Analyse durch und stellen fest, daß es sich lohnt,
mehrere oder gar alle Maße auszuprobieren, um einen möglichst guten
Entscheidungsbaum zu erhalten. Kauderer und Nakhaeizadeh diskutieren neben
der weit verbreiteten Binärkodierung die Skalierung als weitere Möglichkeit für
die Transformation von qualitativen Daten in quantitative Daten. Die
Auswirkungen solcher Transformationen auf die Leistungsfähigkeit von
Supervised Learning Algorithmen werden dann unter Verwendung realer
Kreditdaten aus dem Mobilfunkgeschäft untersucht.
Unter den Data Mining Aufgaben spielt die Segmentierung eine wesentliche
Rolle. Die Beiträge von Grimmer und Mucha sowie Schwenker befassen sich
mit dieser Aufgabe. Der Beitrag von Grimmer und Mucha ist ein
Übersichtsbeitrag und stellt diverse Verfahren der Clusteranalyse vor. Die
Autoren erläutern ferner verschiedene Distanzmaße und diskutieren ihre Eignung
für spezielle Clusterverfahren. Der Beitrag von Schwenker verwendet Adaptive
Verfahren der Clusteranalyse und der multidimensionalen Skalierung zur
Analyse und Visualisierung hochdimensionaler Datenmengen. Dazu verwendet
der Autor das System ACMMDS (Adaptive C-Means and Multi-Dimensional
Scaling), das zur Analyse und Visualisierung von großen und hochdimensionalen
Datenmengen geeignet ist und als eine Alternative zu Kohonen's System SOM
betrachtet werden kann. Unter Verwendung von zwei Datensätzen führt der
Autor empirische Untersuchungen durch.
VII
In vielen Fällen ist das Ziel des Data Mining eine Abhängigkeitsanalyse. Vier
Beiträge in diesem Band behandeln verschiedene Aspekte der
Abhängigkeitsanalyse. Während sich die Beiträge von Kischka, Huber und
Berthold sowie der Beitrag von v. Hasseln mit der statistik- und
graphenorientierten Abhängigkeitsanalyse befassen, beschäftigt sich der Beitrag
von Brockhausen und Morik mit der Anwendung eines logikbasierten Ansatzes.
Im Beitrag von Kischka steht die Nutzung der Ergebnisse der
Abhängigkeitsanalyse zur Generierung kausaler Aussagen im Vordergrund. Er
analysiert und vergleicht zwei Ansätze von Suppes und Rubin. Während der
Ansatz von Suppes auf der Wahrscheinlichkeitstheorie beruht, ist der Ansatz von
Rubin auf den einzelnen Merkmalsträger bezogen. Das Problem der Meßbarkeit
kausaler Effekte steht im Vordergrund. Kischka zeigt ferner die Beziehung dieser
Methoden zu graphentheoretischen Ansätzen und gibt Bedingungen an, die
erfüllt sein müssen, um Graphen kausal interpretieren zu können. Im Beitrag
von Huber und Berthold verwenden die Autoren Fuzzy Graphen - ein Konzept,
das von Zadeh geprägt wurde - zur datenbasierten Verhaltensanalyse bei
komplexen Systemen. Die Verhaltensanalyse wird als die Analyse bezeichnet,
welche sich mit Änderungen bestimmter am System beobachtbarer Zielgrößen in
Abhängigkeit von einzelnen Parametern befaßt. Das Ziel ist dabei, aus den
Daten ein Modell des Modells (Metamodell) zu erzeugen, so daß dieses Modell
ein vergleichbares Verhalten zeigt. Der vorgestellte Ansatz generiert automatisch
aus Daten einen Fuzzy Graphen. Die dadurch gewonnenen Wenn-Dann-Regeln
können zur Erkennung der Abhängigkeiten zwischen Modellparametern
verwendet werden. Die Autoren zeigen die Praktikabilität ihres Ansatzes anhand
eines komplexen Modells eines Feldbus-Systems.
Der IPF-Ansatz (Iterative Proportional Fitting) wird im Beitrag von v. Hassein
verwendet, um Abhängigkeiten durch probabilistische Netzwerke zu lernen. Die
Technik, die in diesem Beitrag verwendet wird, ist eine Methode, die als
Verallgemeinerung von Lernen in stochastischen neuronalen Netzen angesehen
werden kann. Die Gemeinsamkeiten solcher stochastischer Netze mit Bayes
Netzwerken werden ausgenützt, um einen Lernalgorithmus für probabilistische
Netzwerke zu definieren. Der Vorteil dieses Ansatzes besteht darin, daß die
Netzwerke nicht auf rein ungerichtete oder rein gerichtete Varianten beschränkt
sein müssen.
Brockhausen und Morik identifizieren zuerst drei Hauptströmungen, die zur
Zeit im Data Mining verfolgt werden, die sie jeweils als "Gehe weg von der
Datenbank", "Gehe weg von den Datenmassen" und "Vereinfache die
Lernaufgabe" bezeichnen. Die Autoren diskutieren dann die Frage, ob man sich
immer zwangsläufig für eine dieser drei Möglichkeiten entscheiden muß. Mit
ihrem vorgestellten Ansatz verneinen sie jedoch diese Frage. Sie wollen mit den
Daten in Datenbanken direkt umgehen, aus allen Tupeln lernen und das
schwierige Problem des Regellemens lösen. In ihrem Ansatz befassen sich die
VIII
Autoren mit einer kooperativen balancierten Arbeitsteilung zwischen zwei
Systemen für Hypothesengenerierung und Hypothesentest. Sie zeigen dadurch,
daß es möglich ist, nicht über alle Daten zu lernen und prädikatIogische
Hypothesen zu entdecken, sondern auch die Regellernaufgabe zu lösen.
In letzter Zeit spielt insbesondere bei Banken das Konzept Risikometrie eine
große Rolle. Der Kern der Risikometrie besteht jedoch aus quantitativen
Lernalgorithmen, die zur Berechnung von Volatilitäten verschiedener
Risikotypen verwendet werden. In diesem Zusammenhang steht der Begriff
"Value-at-Risk". Die Bestimmung des Value-at-Risk ist aus statistischer Sicht die
Punktschätzung eines unbekannten Parameters der Verlustverteilung. Der
Beitrag von Huschens argumentiert zuerst, warum diese Punktschätzung durch
eine Intervallschätzung ergänzt werden sollte. Der Autor gibt dann exakte und
asymptotische Konfidenzintervalle für die parametrische Schätzung des Value
at-Risk an und vergleicht die Ergebnisse.
Die Evaluierung der Data Mining Algorithmen und Modelle hat eine sehr
große Bedeutung im Prozeß der Wissensentdeckung. Vier Beiträge beschäftigen
sich mit diesem Thema. Der Beitrag von Jammemegg, Luptacik, Nakhaeizadeh
und Schnabl befaßt sich mit der Entwicklung einer Multikriterien-Metrik, welche
einen Vergleich verschiedener Data Mining Algorithmen unter Verwendung
aller positiven und negativen Eigenschaften ermöglicht. Zu den positiven
Eigenschaften zählen z. B. die Gültigkeit und Verständlichkeit des extrahierten
Wissens. Zu den negativen Eigenschaften gehören etwa die Zeit- und
RaurDkomplexität der Data Mining Algorithmen. Der vorgestellte Ansatz baut
auf das Konzept DEA (Data Envelopment Analysis) auf und definiert die
Effizienz eines Algorithmus als Verhältnis zwischen Inputs und Outputs. Die
Inputs werden durch negative Attribute und die Outputs durch die positiven
Eigenschaften der Data Mining Algorithmen charakterisiert. Der Ansatz führt zu
einem Ranking von Algorithmen. Im empirischen Teil ihrer Arbeit vergleichen
die Autoren ihre Ergebnisse mit den Ergebnissen des Esprit-Projekts StatLog.
Die Interessantheit kann als eine gewichtete Kombination der Eigenschaften
des entdeckten Wissens betrachtet werden. Zu ihnen gehören etwa die Validität,
Neuheit, Nützlichkeit, Verständlichkeit und Unerwartetheit. Der Beitrag von
Müller, Hausdorf und Schneeberger stellt einen Ansatz zur Bewertung, Filterung
und Sortierung von Data Mining Ergebnissen durch Anwendung multipler
subjektiver Interessantheitsfacetten vor. Die Autoren erarbeiten eine
ausdruckskräftige Sprache für die Repräsentation von Wissen über Benutzer. Sie
veranschaulichen ihre theoretischen Konzepte anhand eines Beispiels aus dem
Gebiet Medizin.
Der Beitrag von Utans greift die Problematik der Modellselektion auf und
stellt ein Verfahren zur Modellselektion für Neuronale Netze vor, welches im
Kern auf einer effizienten Form von Crossvalidation für nichtlineare Modelle
beruht und Variablenselektion mittels einer Sensitivitätsanalyse und
IX
Gewichtspruning einschließt. Der Autor führt in seinem Beitrag auch eine
empirische Analyse durch und überprüft seinen Ansatz unter Verwendung von
zwei Beispielen über die Vorhersage der Kreditwürdigkeitsbewertung von
Unternehmen und die Prognose des US-Index für die Industrieproduktion. Der
Beitrag von Anders beschäftigt sich mit einer ähnlichen Problernatilc.
Modellselektion beruht in seinem Beitrag jedoch auf statistischen
Hypothesentests. Die Herleitung solcher Tests baut jedoch auf einer
asyrnptotischen Beweisführung auf, welche im Fall von finiten Datenmengen in
Frage gestellt werden kann. Der Autor verwendet ein Beispiel und zeigt, daß die
entsprechenden Annahmen der asyrnptotischen Theorie bereits bei Vorliegen von
nur 200 Beobachtungen Gültigkeit besitzen. Nach Anders ist dies ein Hinweis
darauf, daß die Anwendung von Hypothesentests auch bei kleinen Datenmengen
zulässig ist und zu zuverlässigen Ergebnissen bei der Modellselektion führen
wird.
Insgesamt befassen sich vier Beiträge in diesem Band mit den
Anwendungsaspekten von Data Mining. Diese Beiträge beschäftigen sich
vorwiegend mit der Analyse von Finanzdaten. Der Beitrag von Baetge und
Uthoff geht auf die Anwendung von künstlichen Neuronalen Netzen zur
Entwicklung eines Bonitätsindex von Wirtschaftsauskünften ein. Solche
Auskünfte sind von qualitativer und quantitativer Art. Die Autoren verwenden
Backpropagation-Netze mit unterschiedlichen Pruning-Strategien und
vergleichen ihre Ergebnisse mit den bisherigen Ergebnissen, die durch den
Einsatz des Creditreform-Bonitätsindex erzielt worden sind. Das Konzept Multi
Task Learning (MTL) befaßt sich mit gleichzeitigem Lernen von verschiedenen
Konzepten mit dem Ziel, die vorhandenen Abhängigkeiten zwischen den
Konzepten zur Verbesserung der Lemergebnisse auszunutzen. Der Beitrag von
Bartlrnae und Schneckenburger verwendet die MTL-Methode für Neuronale
Netze. Die Evaluierung des Ansatzes wird anhand eines Prognosewettbewerbs
des deutschen Aktienrnarkts mit einfachen Partialmodellen durchgeführt.
Es gibt eine Reihe von empirischen Arbeiten, welche versuchen, das Konzept
von Kointegration mit neuronalen Netzen zu verknüpfen. Der Beitrag von
Rauscher kann in diesem Zusammenhang gesehen werden. Der Autor versucht
die rein lineare Kombination der kointegrierten Zeitreihen bereits in der ersten
Stufe des Engle/Granger-Verfahrens durch die Anwendung neuronaler Netze zu
verbessern. Im empirischen Teil der Arbeit vergleicht der Autor die
Leistungsfähigkeit von linearen und nichtlinearen Kombinationsarten im
Rahmen der Kointegration und prognostiziert den langfristigen DEMIUSD
Wechselkurs. Der Beitrag von Szczesny befaßt sich mit der Anwendung des
Shortfall-Ansatzes zur Risikomessung. Bei diesem Ansatz wird das Risiko einer
Kapitalanlage relativ zu einer vom Investor gewünschten Mindestrendite
gemessen. Diese Form der Risikomessung entspricht sehr gut den
Risikovorstellungen von Investoren. Die Autorin verwendet das Programmpaket
MAMBA, das auf der Basis des Shortfall-Ansatzes entwickelt worden ist, und
führt einige empirische Analysen durch.
x
Ich möchte mich bei allen Autoren herzlich bedanken, die durch ihre Beiträge
die Erstellung dieses Bandes ermöglicht haben. Viele der Autoren haben sich
auch bereit erklärt, die Beiträge anderer Kollegen zu begutachten. Ihre
konstruktiven Vorschläge haben zur Erhöhung der Qualität des Bandes einen
signifikanten Beitrag geleistet. In diesem Zusammenhang möchte ich mich bei
Siegfried Bell, Elmar Steurer, Alexander Vierlinger und Markus Wiese
bedanken, die mich durch die Begutachtung von Beiträgen unterstützt haben.
Außerdem bin ich Youssouf Yeo für seine Hilfe zur Erstellung des
Sachverzeichnisses zu Dank verpflichtet.
Ulm, im Juni 1997 Gholamreza Nakhaeizadeh