Systementwicklung und Soft a eenginee ing Softwareengineering Exkurs: Künstliche Intelligenz (KI) oder wann wird eine Maschine intelligenter als „ein Mensch“ sein? Michael H. Breitner (
[email protected]) Hans-Jörg von Mettenheim (
[email protected]) 15. Juli 2010, 12:30 Uhr 15.07.2010
#
1
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Ideen zur Gegenwart und Zukunft der KI • Ray Kurzweil (Futurologe, Homo S@piens, Econ Taschenbuch 1999,, 10 €,, 1998): ) „Im Jahr 2029 besitzt ein Computer um 1000 US-$ die Rechenleistung von annähernd 1000 menschlichen Gehirnen.“ • Ray Kurzweil (Zeit Interview, 2002): „Dabei verkennen sie [andere Wissenschaftler], daß sich die Geschwindigkeit des Fortschritts alle 10 Jahre verdoppelt. Manchmal geht es sogar noch schneller. … Die nächsten 100 Jahre werden Hunderte Mal mehr Fortschritt bringen als die letzten 100 Jahre. Und die waren schon ziemlich revolutionär revolutionär“ 15.07.2010
#
2
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Ideen zur Gegenwart und Zukunft der KI • Ray Kurzweil (Zeit Interview, 2002): „Dazu werden wir aber – mittels Gehirn-Scanning oder anderer Methoden – auch Software entwickeln, die die menschliche Intelligenz in all ihren Facetten im Computer abbildet, inklusive der Fähigkeit, komplexe Zusammenhänge und Emotionen zu verstehen und zu fühlen. … Etwa im Jahr 2019 dürfte ein PC d i dieselbe damit di lb Leistungskraft L i k f haben h b wie i ein i menschliches hli h Gehirn. … In der zweiten Hälfte dieses Jahrhunderts wird es k i keinen klaren kl Unterschied U t hi d zwischen i h menschlicher hli h und d maschineller Intelligenz mehr geben. Wir werden uns gegenseitig iti b befruchten, f ht unseren menschlichen hli h Geist G i t durch d h die intime Verbindung zwischen biologischer und nichtbiologischer i htbi l i h Intelligenz I t lli erweitern.“ it “ 15.07.2010
#
3
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Literatur zur Künstlichen Intelligenz • Gutes Buch, um einen Überblick über KI zu erhalten (ca. (ca 1050 Seiten) • Übersichtsartikel zu verschiedensten d Themen • Wichtige Teile der KI werden leider nur am Rande behandelt • Details fehlen i. d. R. • Preis: 80 € (teuer!) 15.07.2010
#
4
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Literatur zur Künstlichen Intelligenz
15.07.2010
#
5
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
www.gi-ev.de
15.07.2010
#
6
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Was ist (natürliche) Intelligenz? • D. Wechsler versteht unter Intelligenz die globale Befähigung eines Individuums, zweckvoll zu handeln, vernünftig zu denken und sich erfolgreich mit seiner Umwelt auseinanderzusetzen. • P. R. Hofstätter f ä d definiert fi i Intelligenz lli als l Fähigkeit ähi k i zum Auffinden von Ordnungen und Regelhaftigkeiten im übe fälligen Nebenüberzufälligen Neben und nd Nacheinander Nacheinande von on Ereignissen. E eignissen • Intelligenz ist eine Begabung (oder eine Gruppe von Begabungen) die Lebewesen in unterschiedlichem Maße Begabungen), besitzen können. • Intelligenz ist die Fähigkeit zur Lösung konkreter und abstrakter Probleme sowie zur Bewältigung neuartiger Situationen Situationen. 15.07.2010
#
7
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Was ist (natürliche) Intelligenz? • Intelligenz ist ein adaptiver Mechanismus aus niedrigeren biologischen Gleichgewichtsprozessen, der die wechselseitige Anpassung des Individuums an die Umwelt (Adaption, Akkommodation) und die aktive Angleichung der Umwelt an das Individuum (Assimilation) steuert. g erweist sich dabei als fort• Der Aufbau der Intelligenz schreitende Konstruktion von Operationssystemen mit g Elementen und Verhaltensanteilen. kognitiven • Intelligenz [lat. „intellegentia“ = Erkenntnisvermögen, Verstand] ist eine komplexe Fähigkeit zu Leistungen Leistungen, die durch spontanes Erfassen von Zusammenhängen in neuen Situationen erzielt werden werden. 15.07.2010
#
8
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Was ist (natürliche) Intelligenz? • Intelligenzrichtungen sind z. B. praktische Intelligenz, g , • p • theoretische Intelligenz, • ästhetische ä th ti h Intelligenz I t lli und d • künstlerische Intelligenz. • Intelligenztypen sind z. B. • synthetische Intelligenz, Intelligenz • analytische Intelligenz, • produktive Intelligenz und • reproduktive Intelligenz. Intelligenz 15.07.2010
#
9
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Was ist (natürliche) Intelligenz? • Einzelfähigkeiten der Intelligenz sind z. B. • Abstraktionsfähigkeit, g , • Kombinationsfähigkeit, • intellektuelle Beweglichkeit, Beweglichkeit • schlußfolgerndes Denken, • Auffassungsgeschwindigkeit und -genauigkeit, genauigkeit • Gedächtnis, • Sprachbeherrschung, • Raumvorstellung, • rechnerisches Denken und g auch Kreativität!). ) • Phantasie ((vgl. 15.07.2010
# 10
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Was ist (natürliche) Intelligenz? • Faktoren der Kreativität (unterscheide von Intelligenz!): • Geläufigkeit (Kenntnis verschiedener, ähnlicher Sachverhalte), • Flexibilität (Denken in verschiedenen Kategorien) und • Originalität (Seltenheit oder Entferntheit zum „Normalen“). • Kreativitätstests repräsentieren per definitionem nicht das Universum möglicher Leistungen (kreative Lösungen sind nicht i h absehbar!) b hb ) und d nur begrenzt b ein allgemeines ll Merkk mal Kreativität (Individuum kann selten auf Kommando k kreativ ti sein i und d nicht i ht universell i ll kreativ k ti sein). i ) • (Hoch-)Schulen fördern i. d. R. nur einige Bereiche der Intelligenz nicht aber die Kreativität (-> Intelligenz, ( > sehr schade!) schade!). 15.07.2010
# 11
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Kognitionswissenschaft • Kognitionswissenschaft (engl. Cognitive science) ist eine in den 70er Jahren zunächst im angelsächsischen Bereich entstandene Disziplin, die sich der Erforschung der menschlichen Geistestätigkeit widmet. Mit „kognitiv“ wird eine allgemeine Abgrenzung der Bereiche des Wahrnehmens,, Denkens und Vorstellens von anderen mentalen Bereichen vorgenommen, etwa des Fühlens, der Affekte oder des Wollens. Ein wesentliches Merkmal der Kognitionswissenschaft ist ihr interdisziplinärer Charakter, der durch die Mutterwissenschaften Philosophie, Philosophie Psychologie, Sprachwissenschaft, Neurowissenschaft (Neuronale Netze) und Informatik bestimmt wird wird. 15.07.2010
# 12
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Kognitionswissenschaft • Kognitive Theorien h betonen b die d Bedeutung d der d nicht h ausschließlich auf rein physiologische – dem behavioristischen Reiz Reiz-Reaktions-Schema Reaktions Schema entsprechende – Mechanismen zurückführbaren sprachlich-symbolischen Vermittlung beim Erkennen und Verstehen einer Situation und bei der Bildung der auf sie gerichteten Intentionen, d. h. g und Zwecksetzungen. g Erwartungen • Bereiche der kognitiven Modellierung und Untersuchungsgegenstand der Kognitionswissenschaft sind Prozesse • der visuellen und akustischen Wahrnehmung, • des Lernens, • der Gedächtnisorganisation und des Wissens, • des Sprachverstehens und • des d Problemlösens P bl lö und d Schließens. S hli ß 15.07.2010
# 13
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Was ist Künstliche Intelligenz? • KI ist eine wissenschaftliche h f l h Disziplin, l die d das d Ziell verfolgt, f l menschliche Wahrnehmungs- und Verstandesleistungen zu operationalisieren und durch Artefakte (lat., = Kunstprodukte), d. h. kunstvoll gestaltete technische – insbesondere informationsverarbeitende – Systeme, g zu machen, vgl. g G. Görz, u. a., 2003. Diese verfügbar Aufgabenteilung impliziert die Interdisziplinarität der KI: Obwohl durch ihre Genese in der Informatik verankert (ingenieurwissenschaftliche Komponente!) ist KI-Forschung nur in enger Zusammenarbeit mit Philosophie, Philosophie Psychologie, Linguistik und Neurowissenschaften möglich (kognitionswissenschaftliche Komponente!). Komponente!) 15.07.2010
# 14
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Baum der Künstlichen Intelligenz Künstliche Neuronale Netze Spracherkennung & -synthese Zeitreihenanalyse & -prognose Automatische Programmierung
Genetische Al Algorithmen ith
Robotik Bildverarbeitung
Expertensysteme
Verteilte und HPC-KI
Fallbasiertes Schließen
(Software-)Agenten
Fuzzy Logik
Phil Philosophie hi Psychologie P h l i
I Ingenieurwissenschaften i i h ft
(Computer-)Linguistik
Wirtschaftswissenschaften
Informatik (Neuro-)Biologie Mathematik
15.07.2010
# 15
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
E. Stiickel u. a., G Gabler Wirttschaftsinforrmatik Lexikon, 1997
Was ist Künstliche Intelligenz?
15.07.2010
# 16
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Was ist Künstliche Intelligenz? • KI ist die Untersuchung von Berechnungsverfahren, die es ermöglichen, wahrzunehmen, schlußzufolgern und zu handeln (P. H. Winston, 1992). • Englisch: artificial intelligence (= AI) • Erstes Zwischenfazit: Künstliche Intelligenz g ist am einfachsten durch Tätigkeiten von Maschinen bzw. zugehörige hö i Softwareapplikationen S f lik i beschreibbar! b h ibb !
15.07.2010
# 17
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Diplomarbeit Christian Fischer (2009)
15.07.2010
# 18
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Diplomarbeit Christian Fischer (2009)
15.07.2010
# 19
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Diplomarbeit Christian Fischer (2009)
15.07.2010
# 20
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Diplomarbeit Christian Fischer (2009)
15.07.2010
# 21
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Diplomarbeit Christian Fischer (2009)
15.07.2010
# 22
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Turing-Test (Alan Turing, 1950) • Die Frage der Intelligenz einer Maschine soll durch einen klarer definierten empirischen Test beantwortet werden. • Der Turing-Test vergleicht die Leistung einer (angeblich) intelligenten Maschine mit der eines menschlichen W Wesens, vielleicht i ll i ht der d beste b t und d einzige i i Standard St d d für fü intelligentes Verhalten. Bei dem Test, den Turing das „Imitationsspiel Imitationsspiel“ nannte, nannte werden Maschine und menschlimenschli cher Gegenspieler in Räumen untergebracht, die jeweils getrennt von einem zweiten Menschen sind sind, der Befrager ist ist. Der Befrager kann weder Maschine noch Menschen sehen oder direkt ansprechen. Er weiß nicht, wer Maschine und wer Mensch ist, und darf mit beiden nur über ein Texteingabegerät,, beispielsweise g p ein Terminal,, kommunizieren. 15.07.2010
# 23
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Turing-Test (Alan Turing, 1950) • Der Befrager kann beliebige Fragen stellen, auch wenn diese hinterhältig oder indirekt sind, um die Identität der M hi aufzudecken. Maschine f d k Der D Befrager B f kann k z. B. B b beide id Subjekte bitten, eine komplizierte arithmetische Berechnung auszuführen, auszuführen wobei er unterstellt unterstellt, daß die Maschine die korrekte Antwort wahrscheinlich eher findet als der Mensch. Die Maschine muß wissen, wann sie die korrekte Antwort auf solche Probleme verweigern muß, um menschlich zu erscheinen. • Um die Identität des Menschen auf Grund seiner Emotionalität herauszufinden, kann der Befrager beide Subjekte bitten, auf ein Gedicht oder ein Kunstwerk zu reagieren. Die Maschine muß dann Wissen über die emotionale Konstitution von menschlichen Wesen besitzen. besitzen 15.07.2010
# 24
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Turing-Test (Alan Turing, 1950) •
•
•
Gibt uns eine objektive Vorstellung von Intelligenz, d. h. das Verhalten eines bekanntermaßen intelligenten Wesens zu einer bestimmten b Menge von Fragen. Damit ist ein Standard für die Bestimmung von Intelligenz gegeben, b mit it dem d die di unvermeidlichen idli h Debatten D b tt über üb deren d "wahre" Natur umgangen werden. Verhindert die Ablenkung durch verwirrende und gegenwärtig nicht zu beantwortende Fragen, wie z. B. ob Computer die geeigneten internen Prozesse verwenden oder ob Maschinen sich tatsächlich ihrer Handlungen bewußt ist. Beseitigt Voreingenommenheit zu Gunsten lebender Organismen, da der Befrager gezwungen wird, sich nur auf den Inhalt der Antworten zu Fragen zu konzentrieren.
15.07.2010
# 25
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Künstliche Neuronale Netze • Der wichtigste Teilbereich der KI ist Künstliche Neuronale Netze (= KNN, engl. artificial neural networks = ANN). Betrachtet werden Verarbeitungsmodelle, die sich durch Lernfähigkeit, Darstellung und Verarbeitung von Unschärfe, hochgradig parallele Aktionen und Fehlertoleranz auszeichnen. Das Wissen ist in der Topologie und in den Gewichten der Kanten des Netzes gespeichert. • Veraltet ist heute die Ansicht, daß KNN zur Simulation gehirnähnlicher Strukturen verwendet werden können. In der Zukunft scheint dies jedoch realistisch („Gehirn Scanner“). Scanner ). 15.07.2010
# 26
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Literatur zu KNN • Umfassende Darstellung des überwachten Lernens mit Künstlichen Neuronalen Netzen (KNN) überwiegend aus mathematischer Sicht • Einführung in Neurosimulator FAUN (= Fast approximation with universal neural networks), vgl. Vorführung in der Vorlesung • Darstellung der FAUN-Hochleistungsrechnerversionen 15.07.2010
# 27
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Literatur zu KNN
15.07.2010
# 28
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Frank Rosenblatt & Perceptron 1957/58
15.07.2010
# 29
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Frank Rosenblatt & Perceptron 1957/58
15.07.2010
# 30
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Frank Rosenblatt & Perceptron 1957/58
15.07.2010
# 31
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Frank Rosenblatt & Perceptron 1957/58
15.07.2010
# 32
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Künstliche Neuronale Netze in der Praxis • • • • • • • • • • • • • • • •
Diverse Arten Di A t von Mustererkennung; M t k Diverse Arten von Bild- und Sprachverarbeitung; g von Druck- und Handschriften ((OCR, vgl. g OCR-Schriften); ) Erkennung Kreditprüfung und Kreditwürdigkeitsprüfung; Abschätzung der Insolvenzwahrscheinlichkeit von Unternehmen; Aufdeckung von Kreditkartenbetrug; Klassifikation der Risikobereitschaft von Anlegern; Kapitalmarkt-, Wechselkurs- und Aktienkursprognosen, usw.; I Immobilienanalyse; bili l Qualitätskontrolle von Produkten (optisch, mit Meßwerten, usw.); Marktsegmentierung und Bewertung von Marketingstrategien; Prognosen in Versorgungsunternehmen und im Bauspargeschäft; Absatzvorhersage in Supermärkten; Entdeckung von Ölvorkommen (Auswertung seismischer Wellen); Kontrolle und Optimierung von Produktionsprozessen; Produktionsplanung in einem industriellen Leitstand-System und Maximierung des Durchsatzes in Warenlagern u. u v. v a. a m.! m!
15.07.2010
# 33
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Künstliche Neuronale Netze in der Praxis • Diverse Arten von Mustererkennung; • Diverse Arten von Bild- und Sprachverarbeitung; • • • • • • • • • • • • • •
Erkennung von Druck- und Handschriften (OCR (OCR, vgl. vgl OCR-Schriften); Kreditprüfung und Kreditwürdigkeitsprüfung; Abschätzung der Insolvenzwahrscheinlichkeit von Unternehmen; Aufdeckung von Kreditkartenbetrug; Klassifikation der Risikobereitschaft von Anlegern; Kapitalmarkt-, Wechselkurs- und Aktienkursprognosen, usw.; Immobilienanalyse; Qualitätskontrolle von Produkten (optisch, mit Meßwerten, usw.); Marktsegmentierung und Bewertung von Marketingstrategien; Prognosen in Versorgungsunternehmen und im Bauspargeschäft; Absatzvorhersage in Supermärkten; Entdeckung von Ölvorkommen (Auswertung seismischer Wellen); Kontrolle und Optimierung von Produktionsprozessen; Produktionsplanung in einem industriellen Leitstand-System und Maximierung des Durchsatzes in Warenlagern u. v. a. m.!
15.07.2010
# 34
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Automatische KNN-Personenerkennung
15.07.2010
# 35
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Automatische KNN-Personenerkennung • 30x30 30 30 Pixel-Feld Pi l F ld (Vorverarbeitung (V b i bzgl. b l Lage L der d Augen) A )
Training 15.07.2010
# 36
Test
Falsch erkannt!
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
nicht ve ertraulich
Zielerkennung Patriot(artige)-Flugkörper
Eigenes Projekt mit EADS, München, und BGT, Überlingen, bis 1999
nicht vertraulich
15.07.2010
# 37
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Zielerkennung Patriot(artige)-Flugkörper
Tageslicht 15.07.2010
# 38
Radar
Infrarot
Eigenes Projekt mit EADS, München, und BGT, Überlingen, bis 1999 Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
www.scansoft.de
Spracherkennung und -synthese
15.07.2010
# 39
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
www.scansoft.de
Spracherkennung und -synthese
15.07.2010
# 40
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Künstliche Neuronale Netze in der Praxis • •
Diverse Arten von Mustererkennung; k Diverse Arten von Bild- und Sprachverarbeitung;
• Erkennung g von Druck- und Handschriften ((OCR,, vgl. g OCR-Schriften); • • • • • • • • • • • • •
Kreditprüfung und Kreditwürdigkeitsprüfung; Abschätzung der Insolvenzwahrscheinlichkeit von Unternehmen; Aufdeckung von Kreditkartenbetrug; Klassifikation der Risikobereitschaft von Anlegern; Kapitalmarkt WechselkursKapitalmarkt-, Wechselkurs und Aktienkursprognosen, Aktienkursprognosen usw.; usw ; Immobilienanalyse; Qualitätskontrolle von Produkten (optisch, mit Meßwerten, usw.); Marktsegmentierung und Bewertung von Marketingstrategien; Prognosen in Versorgungsunternehmen und im Bauspargeschäft; Absatzvorhersage in Supermärkten; Entdeckung von Ölvorkommen (Auswertung seismischer Wellen); Kontrolle und Optimierung von Produktionsprozessen; Produktionsplanung in einem industriellen Leitstand-System und Maximierung des Durchsatzes in Warenlagern u u. vv. a a. m m.!!
15.07.2010
# 41
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Dateneingabe und -speicherung OCR = O Optical c charactter reco ognition n (o optische Zeichen nerkennu ung)
www.agfa.co om/mds/docu ument/capturresys/docscan nners/highvollume/
mit OCR-Scannern OCR Scannern mit künstlichen, künstlichen neuronalen Netzen
15.07.2010
# 42
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
www.alamax.de/service/scannerstifte.php3
15.07.2010
# 43
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
OCR: Problem schlechter Zeichenscann
15.07.2010
# 44
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
OCR: Problem schlechter Zeichenscann OCR: Vorverarbeitung aus Handschriften
15.07.2010
# 45
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Überw wachte es Lerrnen
OCR: Klassifikation von Schriftzeichen
A Zell, A. Z ll Si Simulation l ti neuronaler l N Netze, t 3 3. A Auflage, fl 2000 15.07.2010
# 46
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Künstliche Neuronale Netze in der Praxis • • • • • • •
Diverse Arten von Mustererkennung; k Diverse Arten von Bild- und Sprachverarbeitung; Erkennung von Druck- und Handschriften (OCR, vgl. OCR-Schriften); Kreditprüfung und Kreditwürdigkeitsprüfung; Abschätzung der Insolvenzwahrscheinlichkeit von Unternehmen; Aufdeckung von Kreditkartenbetrug; Klassifikation der Risikobereitschaft von Anlegern;
• Kapitalmarkt-, Wechselkurs- und Aktienkursprognosen usw.; Aktienkursprognosen, usw ; • • • • • • • •
Immobilienanalyse; Qualitätskontrolle von Produkten (optisch, mit Meßwerten, usw.); Marktsegmentierung und Bewertung von Marketingstrategien; Prognosen in Versorgungsunternehmen und im Bauspargeschäft; Absatzvorhersage in Supermärkten; Entdeckung von Ölvorkommen (Auswertung seismischer Wellen); Kontrolle und Optimierung von Produktionsprozessen; Produktionsplanung in einem industriellen Leitstand-System und Maximierung des Durchsatzes in Warenlagern u u. vv. a a. m m.!!
15.07.2010
# 47
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Proje ekt mit Sparkkasse Goslar/H Harz bis 2001 1
Zinsprognose (Zinskurve 1988 - 2000)
15.07.2010
# 48
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Proje E ekt mit Sparka asse Goslar/H Harz bis 2001 1
Zinsprognose (bilineare Regression)
15.07.2010
# 49
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
ww ww.marke et-maker.d de
Eigenes Proje E ekt mit Sparka asse Goslar/H Harz bis 2001 1
Zinsprognose (Vorarbeiten mit MM)
15.07.2010
# 50
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Proje E ekt mit Sparka asse Goslar/H Harz bis 2001
Zinsprognose (Vorarbeiten mit MM)
15.07.2010
# 51
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Proje E ekt mit Sparkkasse Goslar/H Harz bis 2001 1
Zinsprognose (10-j. Pfandbriefe auf 12 M.)
15.07.2010
# 52
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Projekkt mit Sparkasse Goslar/Harz bis 2001
Zinsprognose (1-j. Pfandbriefe auf 3 M.)
15.07.2010
# 53
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Künstliche Neuronale Netze in der Praxis • • • • • • • • •
Diverse i Arten von Mustererkennung; k Diverse Arten von Bild- und Sprachverarbeitung; Erkennung von Druck- und Handschriften (OCR, vgl. OCR-Schriften); Kreditprüfung und Kreditwürdigkeitsprüfung; Abschätzung der Insolvenzwahrscheinlichkeit von Unternehmen; Aufdeckung von Kreditkartenbetrug; Klassifikation der Risikobereitschaft von Anlegern; Kapitalmarkt-, Wechselkurs- und Aktienkursprognosen, usw.; Immobilienanalyse;
• • • • •
Prognosen in Versorgungsunternehmen und im Bauspargeschäft; Absatzvorhersage in Supermärkten; E td k Entdeckung von Öl Ölvorkommen k (Auswertung (A t seismischer i i h Wellen); W ll ) Kontrolle und Optimierung von Produktionsprozessen; Produktionsplanung in einem industriellen Leitstand-System und Maximierung des Durchsatzes in Warenlagern u u. vv. a a. m m.!!
• Qualitätskontrolle von Produkten (optisch, mit Meßwerten, usw.); • Marktsegmentierung und Bewertung von M k ti Marketingstrategien; t t i
15.07.2010
# 54
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Optionspreismodelle (Nobelpreis für O ti Optionspreise: i 1997)
Myron S. Scholes (*1941)
Fischer Black (1940-95) Robert C. Merton (*1944) 15.07.2010
# 55
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Marktkonforme Optionspreismodelle • Definition: Ein Optionsgeschäft ist ein (Börsen)Termingeschäft, bei dem der Käufer einer Option das Recht erwirbt – nicht aber die Pflicht eingeht – innerhalb eines bestimmten Zeitraums (amerikanische O.) oder zu einem bestimmten Zeitpunkt (europäische O.) eine bestimmte Menge g eines bestimmten Handelsobjektes j (= ( Basiswert,, engl. Underlying) zu einem im Voraus festgelegten Kurs ((= Basispreis) zu kaufen (Kaufoption, engl. Call) beziehungsweise zu verkaufen (Verkaufsoption, engl. Put). Der Verkäufer (= Stillhalter) bekommt für das eingegangene Risiko der Verpflichtung ein Entgelt (= Optionspreis, = Optionsprämie). Optionsprämie) 15.07.2010
# 56
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Marktkonforme Optionspreismodelle • Der Optionspreis O hängt h ab b vom aktuellen k ll Marktpreis k i des d Basisobjektes, vom Basispreis, von der Restlaufzeit und von den Erwartungen von Käufer und Verkäufer bzgl. der zukünftigen Marktpreisentwicklung. Die Erwartungen sind sehr schwer zu quantifizieren, z. B. wird im theoretischen/ g deterministischen Black/Scholes-Modell eine sogenannte zukünftige Volatilität geschätzt, die ein Maß für die e a e e Marktpreis-schwankungen erwarteten a p es s a u ge des Basisobjekts as sobje s während der Restlaufzeit darstellt. Empirische Optionspreismodelle sind im Gegensatz dazu marktkonform, marktkonform da sie versuchen die Funktion des Optionspreises aus Marktdaten zu lernen lernen. 15.07.2010
# 57
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Projekt mit F Frank Köller und mit Dresd dner K. W. B., Frankfurt
Beobachtete Marktpreise für Optionen
15.07.2010
# 58
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Projjekt mit Frankk Köller und m mit Dresdner K. W. B., Fra ankfurt
Marktkonforme Optionspreise: Implizite Volatilität l ili ä über üb Moneyness
15.07.2010
# 59
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Proje E ekt mit Frank Köller und m mit Dresdner K K. W. B., Fran nkfurt
Black-Scholes-Optionspreis mit mittlerer i impliziter li i Volatilität l ili ä
15.07.2010
# 60
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Projjekt mit Frankk Köller und m mit Dresdner K. W. B., Fra ankfurt
Marktkonformer Optionspreis mit einem trainierten i i KNN
15.07.2010
# 61
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Projjekt mit Dresd dner K. W. B., Frankfurt
Marktkonforme Optionspreismodelle
15.07.2010
# 62
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Projjekt mit Dresd dner K. W. B.., Frankfurt
Marktkonforme Optionspreismodelle
15.07.2010
# 63
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Eigenes Projjekt mit Dresd dner K. W. B.., Frankfurt
Marktkonforme Optionspreismodelle
15.07.2010
# 64
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Künstliche Neuronale Netze in der Praxis • • • • • • • • • • • • • •
Diverse Arten von Mustererkennung; k Diverse Arten von Bild- und Sprachverarbeitung; Erkennung von Druck- und Handschriften (OCR, vgl. OCR-Schriften); Kreditprüfung und Kreditwürdigkeitsprüfung; Abschätzung der Insolvenzwahrscheinlichkeit von Unternehmen; Aufdeckung von Kreditkartenbetrug; Klassifikation der Risikobereitschaft von Anlegern; Kapitalmarkt-, Wechselkurs- und Aktienkursprognosen, usw.; Immobilienanalyse; Qualitätskontrolle von Produkten (optisch, mit Meßwerten, usw.); Marktsegmentierung und Bewertung von Marketingstrategien; Prognosen in Versorgungsunternehmen und im Bauspargeschäft; Absatzvorhersage in Supermärkten; Entdeckung von Ölvorkommen (Auswertung seismischer Wellen);
• Kontrolle und Optimierung p g von Produktionsprozessen; •
Produktionsplanung in einem industriellen Leitstand-System und Maximierung des Durchsatzes in Warenlagern u u. vv. a a. m m.!!
15.07.2010
# 65
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Echtzeit-Bordsteuerung von Raumgleitern • Autonome Rückkehr ü kk h zur Erde d durch d h die d Atmosphäre h mit KNN: Längs Mustertrajektorien werden robust optimale Steuerungen abhängig von meßbaren Größen trainiert
15.07.2010
# 66
Eigenes Projekt mit EADS, München, bis 2002 Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Echtzeit-Bordsteuerung von Raumgleitern
10 Simulationen für die Luftdichteschwankungen
Simulationssoftware für 3 Rechner zum HIL-Test HIL Test 15.07.2010
# 67
Eigenes Projekt mit EADS, München, bis 2002 Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Künstliche Neuronale Netze in der Praxis • Di Diverse A Arten t von Mustererkennung; M t k • Diverse Arten von Bild- und Sprachverarbeitung; • • • • • • •
Erkennung von Druck- und Handschriften (OCR, vgl. OCR-Schriften); Kreditprüfung und Kreditwürdigkeitsprüfung; Abschätzung der Insolvenzwahrscheinlichkeit von Unternehmen; Aufdeckung von Kreditkartenbetrug; Klassifikation der Risikobereitschaft von Anlegern; Kapitalmarkt-, Wechselkurs- und Aktienkursprognosen, usw.; Immobilienanalyse;
• Qualitätskontrolle von Produkten (optisch, mit Meßwerten, usw.); • Marktsegmentierung und Bewertung von Marketingstrategien; •
Prognosen in Versorgungsunternehmen und im Bauspargeschäft;
• Absatzvorhersage in Supermärkten; •
Entdeckung von Ölvorkommen (Auswertung seismischer Wellen);
• Kontrolle und Optimierung von Produktionsprozessen; • Produktionsplanung in einem industriellen Leitstand-System und dM Maximierung i i des d D Durchsatzes h t iin W Warenlagern l u. v. a. m.!! 15.07.2010
# 68
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Intelligente Serviceroboter
15.07.2010
# 69
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Intelligenter Einkaufswagen
15.07.2010
# 70
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Intelligente Roboter-Rasenmäher (t h hi h Robotnik (tschechisch: R b t ik = Automat) A t t)
15.07.2010
# 71
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Intelligente Roboter-Staubsauger
15.07.2010
# 72
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Intelligente Roboter & www.robocup.de
15.07.2010
# 73
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Intelligente Roboter & www.robocup.de
15.07.2010
# 74
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Intelligente Roboter & www.robocup.de
15.07.2010
# 75
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Exkurs: Ist „Deep Blue“ intelligent? • Schachduell zwischen dem damaligen Schachweltmeister Garry Kasparow und dem IBM Computer Deep Blue: „New York – Mit einem Sieg in der entscheidenden sechsten Partie hat der Computer Deep Blue in der Nacht auf heute in New York den russischen Schachweltmeister Garry Kasparow bezwungen. g Damit hat im Kampf p „Mensch „ gegen g g Maschine“ erstmals ein Computer über einen Schach-Weltmeister triumphiert. Die letzte Partie endete nach nur 19 Zügen nach knapp einer Stunde. Im vergangenen Jahr hatte Kasparow das Duell gegen einen Vorläufer des aktuellen Modells noch klar mit 4:2 gewonnen (Pressemeldung, 12. Mai 1997). 1997) “ 15.07.2010
# 76
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Exkurs: Ist „Deep Blue“ intelligent? • Schachduell zwischen dem damaligen Schachweltmeister Garry Kasparow und dem IBM Computer Deep Blue: „New York – Mit einem Sieg in der entscheidenden sechsten Partie hat der Computer Deep Blue in der Nacht auf heute in New York den russischen Schachweltmeister Garry Kasparow g Damit hat im Kampf p „Mensch „ gegen g g Maschine“ bezwungen. erstmals ein Computer über einen Schach-Weltmeister triumphiert. Die letzte Partie endete nach nur 19 Zügen nach knapp einer Stunde. Im vergangenen Jahr hatte Kasparow das Duell gegen einen Vorläufer des aktuellen Modells noch klar mit 4:2 gewonnen (Pressemeldung, 12. Mai 1997). 1997) “ 15.07.2010
# 77
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Exkurs: Ist „Deep Blue“ intelligent? • Deep Blue hatte 32 Prozessorkarten mit je 8 schachspezifischen Prozessorchips verbunden in einem Hochgeschwindigkeitsnetz (skalierbares, massiv paralleles System). Jeder Prozessor konnte – teils indirekt – mit jedem anderen kommunizieren. Jeder Prozessor verfügte über einen eigenen Arbeitsspeicher und konnte zwei bis drei Millionen Zü pro Sekunde Züge S k d überprüfen. üb üf Insgesamt I war das d System S in i der Lage, 50 bis 100 Milliarden Züge in drei Minuten zu b berechnen h (Zeit (Z it für fü einen i Zug). Z ) In I einer i E öff Eröffnungsspieli l Datenbank waren die Großmeister-Spiele der letzten 100 J h gespeichert. Jahre i h t Daneben D b gab b es eine i Endspiel-DatenE d i l D t bank, die aktiviert wurde, wenn sich nur noch fünf Figuren pro Farbe F b auff d dem F Feld ld befanden. b f d 15.07.2010
# 78
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Exkurs: Ist „Deep Blue“ intelligent? • Kritik an der Behauptung „Deep Blue ist intelligent“: Schach ist ein äußerst begrenztes g Aufgabengebiet, g g , dessen Formalisierung und rechnerinterne Repräsentation keine großen Probleme bereitet. bereitet Mangelndes Erfahrungs Erfahrungswissen und Schwierigkeiten bei der sensorischen Verknüpfung des Computers mit seiner Umwelt sind aber die wichtigg Verhalten in beliebigen g sten Grenzen,, die intelligentes Situationen nach wie vor erschweren.
15.07.2010
# 79
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Exkurs: Ist „Deep Blue“ intelligent? • Deep Blues Stärken sind, daß Computer niemals y g zerstreut sind oder müde werden und daß Psychologie keine Rolle spielt. Dementsprechend macht Deep Blue niemals offensichtliche taktische Fehler mit kurzfristigen Konsequenzen. Leistungsfähige Schachcomputer wie Deep Bl versuchen Blue h nicht i ht, menschliches hli h Spielverhalten S i l h lt nachzuahmen. Sie „denken“ weitaus einfacher, machen dies aber durch die parallele Suche und Beurteilung g großen Zahl von Positionen wett. g einer ungeheuer
15.07.2010
# 80
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010
Exkurs: Ist „Deep Blue“ intelligent? • Menschliche Schachspieler können nur eine oder zwei mögliche Positionen pro Sekunde durchdenken, ihr Fokus ist jedoch wesentlich selektiver. Zudem benutzen Menschen eine extrem komplexe Beurteilungsfunktion, die Intuition, Erfahrung, Gedächtnis und Mustererkennung einschließt. Kasparow hat es für ausgeschlossen gehalten, daß bis zum Jahr 2000 brutale Rechenkraft über die menschliche – insbesondere seine Kreativität und Phantasie – siegen g könnte. Im 1997er Match hat er für Experten unverständliche g )g gemacht Leichtsinnsfehler ((menschliche Arroganz?!) und wohl vor allem deshalb verloren, vgl. auch www.research.ibm.com/deepblue/meet/html/d.2.html / p / / / . 15.07.2010
# 81
Prof. Dr. Michael H. Breitner (
[email protected]) Dr. Hans-Jörg von Mettenheim (
[email protected]) © 2010