NeuroBayes
Transcription
NeuroBayes
Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B NeuroBayes- ein PrognoseAlgorithmus aus der Teilchenphysik erobert die Wirtschaft 15. November 2010 Univ. Wuppertal Prof. Dr. Michael Feindt KCETA, KIT Wissenschaftlicher Beirat Phi-T Physics Information Technologies GmbH Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 1 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Vorhersehbar Bei einfachen klassischen physikalischen Prozessen ist das Ergebnis exakt vorhersagbar (eine Ursache erzeugt eine eindeutige Wirkung, Determinismus) Beispiele hierfür sind: Pendel, Planetenbahnen, Billard, Elektromagnetismus… Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 35 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Zufall Rein zufällige Ereignisse sind prinzipiell nicht vorhersagbar (auch bei genauer Kenntnis der Ausgangssituation!) Beispiele hierfür sind: Lottozahlen (Zu viele Einflussgrößen, deterministisches Chaos) radioaktiver Zerfall (Quantenmechanik) Elektronisches Rauschen Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 36 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Wahrscheinlichkeit Viele Systeme: Mischung aus vorhersagbarer Komponente und Zufallskomponente. Wahrscheinlichkeitsaussage, Statistik Statistische Aussagen über die Zukunft im Mittel (leicht) Statistische Aussagen über die Zukunft im Einzelfall (schwierig) Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Wahrscheinlichkeit Worauf es bei Zukunftsprognosen ankommt: Extraktion der vorhersagbaren Komponente aus multidimensionalen historischen Daten, Anwendung des Modells auf aktuelle Daten Kosten durch Kunden X mittlere Kosten Univ. Wuppertal 15.11.2010 37 Kosten Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B LHC - Collider am CERN Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes® NeuroBayes Univ. Short Term Trading Fund Wuppertal 4 15.11.2010 powered 4 by Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Aktuellstes Projekt LHC am CERN: Riesige Energien …. riesige Detektoren…. Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes® NeuroBayes Univ. Short Term Trading Fund Wuppertal 5 A B 15.11.2010 powered 5 by NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Quantenmechanik: Jedes Mal passiert etwas anderes! Prof. Dr. M. Feindt KIT / Phi-T Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A OPAL Experiment am LEP Start Idee NeuroBayes Univ. Wuppertal 15.11.2010 22 A B Start Idee NeuroBayes Idee Hintergrund Ziele Prof. Dr. M. Feindt NeuroBayes f(t|x) KIT / Phi-T Beispiele Historie Anwendung Prinzip Funktion Beispiel NeuroBayes Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Univ. Wuppertal Summary A 15.11.2010 24 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Aufgabe: Aus bekannten Beispielen lernen, ob und wie eine Zielvariable von vielen Eingabevariablen abhängt, die beliebig kompliziert und korreliert sein können. Dabei nur relevante Zusammenhänge lernen, keine Kaffeesatzleserei (d.h. Unterdrückung statistischer Schwankungen). Mit Hilfe dieser Expertise für neue Fälle, bei denen die Eingabewerte bekannt sind, nicht aber die Zielvariable (z.B weil sie erst in der Zukunft bestimmt wird), den Wert der Zielvariablen prognostizieren und die Unsicherheit der Prognose quantifizieren. Lösungsansatz: NeuroBayes® Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 38 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A <phi-t> NeuroBayes® Neuronale Netzwerke: Selbstlernende Verfahren, der Natur nachempfunden Motor Cortex Frontal Lobe Parietal Cortex Temporal Lobe Occipital Lobe Brain Stem Cerebellum Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal Wuppertal 15.11.2010 15.11.2010 39 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Neuronale Netzwerke Die Information (das Wissen, die Expertise) steckt in den Verbindungen zwischen den Nervenzellen. Jedes Neuron trifft unscharfe Entscheidungen (Fuzzy-Logik) <phi-t> NeuroBayes® > lernt extrem schnell aus historischen Daten (WochenMinuten) > ist extrem robust > unterdrückt statistisches Rauschen (hohe Generalisierungsfähigkeit) > kann binäre Entscheidungen treffen (klassifizieren) > kann komplette Wahrscheinlichkeitsdichten berechnen > macht zuverlässige Prognosen für die Zukunft Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 40 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B NeuroBayes® Aufgabe 1: Klassifikation Binaräres Target: Das Ergebnis jedes einzelnen Ereignisses wird entweder „ja“ oder „nein“ sein. Beispiele: > Dieses Elementarteilchen ist ein K-Meson. > Deutschland wird 2010 Weltmeister. jetzt P=0 > Kunde Schmidt wird im nächsten Jahr Liquiditätsprobleme haben. > Kunde Müller wird dieses Produkt kaufen. > Der Aktienkurs von Borussia Dortmund wird Ende 2007 höher sein als heute. Resultat: Bayes‘sche a posteriori-Wahrscheinlichkeit, dass die Antwort ,,ja“ sein wird. Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Naïve neuronale Netzwerke und Kritik Wir haben das probiert, aber es gab keine guten Resultate… …und das Trainieren dauert ewig…. - In lokalem Minimum stecken geblieben - Trainieren nicht robust, zu naiver Algorithmus Wir haben das probiert aber es war schlechter als unser 100 Mannjahre-High-Tech-Algorithmus… - Zu naive Input-Variablen gewählt - Benutze den fancy Algorithmus-Output als INPUT ! Wir haben das probiert aber die Prognosen waren falsch - Übertraining: das Netz hat statistische Schwankungen gelernt Ja, aber wie kann man systematische Unsicherheiten abschätzen? - Wie kann man das sonst bei korrelierten Input-Variablen? - Tests auf Daten und Monte Carlo möglich Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B NeuroBayes® Aufgabe 2: Bedingte Wahrscheinlichkeitsdichten Wahrscheinlichkeitsdichte für reellwertige Zielfunktionen: Für jeden möglichen reellen Wert wird eine Wahrscheinlichkeit(-sdichte) prognostiziert. Daraus können alle statistischen Größen wie Erwartungswert, Median, Modus, Standardabweichung, Percentile etc. abgeleitet werden und für beliebige Nutzenfunktionen optimale Entscheidungen getroffen werden. Beispiele: > Energie eines Elementarteilchens (z.B. semilept. B-Zerfall) > Preisänderung einer Aktie oder Option > Umsatz eines Artikels > Kosten, die ein einzelner Versicherter verursacht Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Vorhersage der kompletten Wahrscheinlichkeitsdichte- Verteilung Erwartungswert Modus Standardabweichung (Volatilität) Abweichung von Normalverteilung Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 41 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Input NeuroBayes®- Prinzip NeuroBayes® Teacher: Lernen von komplizierten Zusammenhängen aus bestehenden Datenbanken NeuroBayes® Expert: Prognosen für unbekannte Daten Signifikanzkontrolle Preprocessing Postprocessing Output Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 42 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Funktionsweise von NeuroBayes®: Historische Daten NeuroBayes® Teacher Datensatz a = ... b = ... c = ... .... t = …! p rog Expertensystem Expertise Aktuelle Daten Datensatz a = ... b = ... c = ... .... t=? Prof. Dr. M. Feindt lernen… …und prognostizieren Wahrscheinlichkeit, dass Hypothese stimmt (bei Klassifikation) oder Wahrscheinlichkeitsdichte für die gesuchte Größe t NeuroBayes® Expert KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 43 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Training eines neuronalen Netzwerks Schwierigkeit: finde globales Minimum einer nicht-linearen Funktion in einem hochdimensionalen (~ >100) Raum. Anschaulich: finde tiefstes Tal in den Alpen (nur 2 Dimensionen) Das nächste lokale Minimum ist leicht zu finden..... aber das globale.... ...unmöglich! Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 18 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Bayes‘sche Regularierung Bayes‘sche Argumente werden innerhalb von NeuroBayes an vielen Stellen genutzt. Likelihood Posterior Prior Evidenz Lerne nur statistisch relevante Information, unterdrücke statistisches Rauschen (optimiere VC-Dimension). Michael Feindt NeuroBayes for Hadron Collider Flavour Physics LHCb Collaboration Meeting 12.11. 192010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B <phi-t> NeuroBayes® > beruht auf neuronalen Algorithmen der 2. Generation, Bayes‘scher Regularisierung, optimiertem Preprocessing mit Transformation und Dekorrelation der Input-Variablen und (nichtlinearer) Korrelation zum Output. > lernt extrem schnell durch Methoden 2. Ordnung und 0-Iteration-Modus > ist extrem robust gegen Ausreißer > ist quasi immun gegen Auswendiglernen statistischen Rauschens, kann wahre Dynamik von Zufall unterscheiden, hat hervorragende Generalisierungsfähigkeit > selektiert automatisch relevante Variablen > liefert schon bei wenig Statistik sinnvolle Prognosen > hat Boost- und Kreuzvalidierungsfeatures > kann mit Gewichten und Untergrtundsubtraktion trainiert werden. > Kann klassifizieren und komplette (neuerdings sogar n-dimensionale) Wahrscheinlichkeitsdichten berechnen Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Mehr als 50 Diplom- und Doktorarbeiten… ... und viele Veröffentlichungen der Experimente DELPHI, CDF II, AMS, Belle und CMS benutzen NeuroBayes® oder Vorgänger sehr erfolgreich. Jetzt auch massiv in LHCb und vereinzelt in ATLAS. Mehrere neue Elementarteilchen, Reaktionen und Effekte entdeckt mit Hilfe von NeuroBayes®, u.a. Angeregte B**+ und B_s**-Mesonen Teilchen-Antiteilchen-Oszillationen des B_s- Mesons Eigenschaften des X(3872) (exotisch, kein normales Meson) Erzeugung einzelner Top-Quarks Ausschluss eines 160-170 GeV Standard-Modell-Higgs-Bosons Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 44 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Einige Anwendungen in der Teilchenphysik DELPHI (hauptsächlich Vorgänger von NeuroBayes) Kaon, proton, electron id Inklusive Rekonstruktion von B-Mesonen: E, φ, θ, Q-Wert B**, Bs** Anreicherung B Fragmentationsfunktion Limit auf Bs-Oszillation B0-Mischung B- F/B-Asymmetrie B-> wrong sign Charm CDF II: Elektronen-ID, Myon-ID, Kaon/Proton-ID Optimierung von Resonanz-Rekonstruktion (X, Y, B, Bs, Bs**) Spin-Paritäts-Analyse, Likelihood Analysen B-Tagging für top, single top, Higgs, usw. B-Flavour-Tagging für Oszillationsanalyse (Bs Oszillationen, CP-Verletzung) Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Einige Anwendungen in der Teilchenphysik CMS: B-tagging top and single top physics Belle: Kontinuums-Unterdrückung Vollständige Rekonstruktion von B-Zerfällen B Flavour-Tagging Selektionen von Eichreaktionen Optimierung der Luminosität des KEKB-Beschleunigers LHCb: ist dabei, komplette Rekonstruktionskette mit NeuroBayes zu optimieren Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 23 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B NeuroBayes Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 30 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Physik- BeispieI 1 (DELPHI, CERN) Klassifikation: Hadronenidentification (DELPHI am CERN): Signalhöhe verdoppelt bei konstantem Untergrundlevel durch eine der ersten NeuroBayesKlassifikationen Original-Methode : einige Millionen CHF Konkurrierende Gruppen! Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Vergleich mit konventionellem neuronalen Netz Optimal mögliche Prognose (immer alles richtig) Gleiche Input-Variablen! (von Experten optimiert) Quelle: Doktorarbeit Ulrich Kerzel, 2005, Univ. Karlsruhe. Elektronenidentifikation für das CDF-Experiment am Fermi National Laboratory, Chicago Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Physik- Beispiel 2 Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B (DELPHI, CERN) Optimierte Rekonstruktion von reellwertigen Größen: erweiterte Regression Auflösung massiv verbessert und Bias korrigiert durch NeuroBayes-Technologie (schmaler Peak um +-0) Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Physik- Beispiel 3 (DELPHI, CERN) Auflösung des inklusiv rekonstruierten Azimuthalwinkels von B-Hadrons im DELPHI- Detektor erste neuronale Rekonstruktion einer Richtung NeuroBayes phi-Richtung Bester ”klassischer" chi**2- Fit (BSAURUS) Keine Selektion: Verbesserte Auflösung Prof. Dr. M. Feindt KIT / Phi-T Nach Selektion auf NeuroBayes Fehler-Schätzer: Auflösung massiv verbessert, keine Schwänze ==> erlaubt zuverlässige Selektion guter Ereignisse NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Hadron-Collider: Monte Carlo Simulation für Resonanzproduktion mit unterschiedlichen JPC-Annahmen (durch Gewichtung). Aber keine guten Monte Carlo-Simulationen für Untergrund verfügbar. Idee: nimm Untergrund aus Seitenbändern der Daten, achte darauf, dass Masse nicht gelernt werden kann! Teste dies! Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B X(3872) Analyse: X softe NeuroBayes Selektion Signalartig Untergrundartig kaum Signalverlust Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Harter NeuroBayes Schnitt: Sehr sauberes X(3872) Signal Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Training mit Gewichten: Neuronale Netwerk- Spin Paritäts-Analyse Benutze Seitenbänder als Untergrund-Sample Benutze Phasenraum- Monte Carlo als Signal-Sample Berechne quadrierte Übergangsmatrixelemente für spezifische Spin-Paritäts-Annahmen und benutze diese als Gewicht im Training Harter Schnitt auf NeuroBayes-Output sollte bei Training mit korrekter Hypothese das Signal besonders gut anreichern Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Sehr harter NeuroBayes Schnitt: JPC=1—(ππ)s Hypothese nicht so gute Hypothese für X Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Sehr harter NeuroBayes Schnitt: JPC=1—(ππ)s Hypothese Eine gute Hypothese für X CDF II (auch ohne NN): X(3872) kann nur durch 1++ (präferiert) or 2-+ beschrieben werden. Zerfall in J/ψ ρ Isospin-verletzend, wenn einfaches Charmonium. Guter Kandidat für ein D^*D Molekül. Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Entdeckung orbital angeregter Bs in B+ K- (with B+ J/ψ K) NeuroBayes hilft, bisher unentdeckte Hadronen zu finden. Klare Evidenz für zwei Peaks. Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Hadronen-Collider: Resonanz- S/B-Optimierung ohne MC: Idee: Training mit Untergrundsubtraktion Signal: Peakregion mit Gewicht 1 Seitenbandregion mit Gewicht -1 Untergrund: Seitenbandregion mit Gewicht 1 funktioniert sehr gut! auch für Y(2S) und Y(3S) ! Obwohl nur auf Y(1S) trainiert. Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 36 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Flexible Wahl des Arbeitspunktes (Scan durch Schnitt auf Netzwerkausgabe) Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 37 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B NeuroBayes Bs --> J/ψ Φ Selektion ohne MC (CDF II) Leichter Schnitt auf Netz 1, Input in zweites NeuroBayes-Training alle Daten leichte Preselektion, Input in erstes NeuroBayes-Training Prof. Dr. M. Feindt KIT / Phi-T Schnitt auf Netzwerk 2 NeuroBayes Univ. Wuppertal 15.11.2010 38 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Effizienteste S/B- Informationsextraktion: Die sPlot-Methode Fitte Daten an Signal- und Untergrund-PDF in einer Verteilung (z.B. Masse). Berechne sPlot-Gewichte ws für Signal (kann <0 oder >1 sein) as als Funktion der Masse. Trainiere NeuroBayes-Netzwerk mit jedem Ereignis sowohl als Signal mit Signalgewicht wS und als Untergrund mit Gewicht 1-wS. Softer Schnitt auf Ausgabe reichert S/B an! Sicherstellen, das Netzwerk nicht die Masse lernen kann) (Veröffentlichung in Vorbereitung) Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 39 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Belle-Experiment am japanische Forschungszentrum KEK: Sehr erfolgreiches Experiment, >400 Physiker aus aller Welt. >400 Veröffentlichungen. Beschleuniger hält Weltrekord an Luminosität. Ca. 1 Milliarde Ereignisse mit 2 B-Mesonen über 10 Jahre vermessen. KIT Mitglied seit 2008 Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 31 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Daten jetzt (2010) mit einer neuen vollautomatischen hierarchischen NeuroBayes-Fabrik für die vollständige Rekonstruktion von B0 und B+ Mesonen (1042 Zerfallskanäle, 71 NeuroBayes-Netzwerke) reanalysiert: Effizienzsteigerung um +130% bei gleichem Untergrundlevel (entspricht ca. weiteren 10 Jahren Datennahme) Signal mit NeuroBayes Untergrund Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal Signal (klassisches Verfahren) 15.11.2010 32 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Flexibilität: Arbeiten mit NeuroBayes erlaubt stufenlose Einstellung von Signalreinheit oder –Effizienz. z.B. auch gleiche Signal-Effizienz: Unterdrückung des Untergrundes um ca. Faktor 10! Untergrund (klassisches Verfahren) Signal Untergrund mit NeuroBayes Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 33 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Flexibilität: NeuroBayes erlaubt kontinuierliche Wahl des Arbeitspunktes auf der Reinheit/Effizienz-Kurve. Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 43 82 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Erkenntnis Diese Methoden sind nicht nur in der Physik anwendbar <phi-t>: Prof. Dr. M. Feindt Ausgründung aus der Universität Karlsruhe, gefördert durch das exist-seed-Programm des Bundesministeriums für Bildung und Forschung KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Historie Nach sehr vielen erfolgreichen Anwendungen in der ElementarteilchenphysikGrundlagenforschung Potenzial von NeuroBayes® für die Wirtschaft erkannt. High-Tech-Ausgründung aus Elite-Universität Karlsruhe nutzt und optimiert NeuroBayes® für die Wirtschaft. 2000-2002 NeuroBayes®-Spezialisierung für die Wirtschaft in Universität Karlsruhe 2002: Phi-T GmbH gegründet 2008: Gemeinsame Gründung der 50-50 Projektund Vertriebstochter Phi-T products&services mit dem OTTO-Konzern. Exklusivrechte an und Weiterentwicklung und Anwendungen von NeuroBayes®. >35 Mitarbeiter, hauptsächlich promovierte Physiker. Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 45 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Erfolgreich im Wettbewerb mit anderen Data-MiningMethoden Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 46 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Ab 2009: neue Regeln: nur noch 2 Teams pro Universität A B und 2009… Aufgabe: Prognosen über den Buchumsatz von 8 Buchtiteln in 2500 Buchhandlungen. (Libri) Siegerteam : Uni Karlsruhe II (Studenten von Prof. Dr. M. Feindt, u.a. 2 Phi-T-Praktikanten) mit NeuroBayes®-Unterstützung und 2010.... Aufgabe: Optimierung von individuellen Kundenbindungsmaßnahmen in Online-Shop. (Libri) Siegerteam : KIT II (Studenten von Prof. Dr. M. Feindt, u.a. 2 Phi-T-Praktikanten) mit NeuroBayes®-Unterstützung Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 47 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Sehr erfolgreiche Referenzprojekte u.a. mit Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 48 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A z.B. Individuelle Risikoprognosen für Kfz-Versicherungen: Schadenwahrscheinlichkeit Verteilung der Schadenhöhe Großschaden-Prognose Kündigungs-Prognose sehr erfolgreich eingesetzt bei Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 49 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Korrelationen zur Zielvariablen im „Ramler II-Plot“ Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 50 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Prognose von Finanzmärkten Forschung Projekt ll Ablauf Spiel Summary A VDI-Nachrichten, 9.3.2007 NeuroBayes®-basierter risikoarmer marktneutraler Fonds für institutionelle Anleger: Lupus Alpha NeuroBayes® Short Term Trading Fonds Test Test Börsenzeitung, 6.2.2008 Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes A B Univ. Wuppertal 15.11.2010 51 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Wenig Risiko, hohe Rendite, keine Korrelation... Lupus alpha NeuroBayes® Fonds: Risiko (Volatilität) wie beim Rentenfonds Erwartungswert (Rendite) wie beim Aktienfonds Keine Korrelation zu anderen Anlageformen REX Index Test Test Euro Stoxx 50 Index Long-Short Index HFRX ( Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 Start Idee NeuroBayes Idee Hintergrund Ziele Prof. Dr. M. Feindt NeuroBayes f(t|x) KIT / Phi-T Beispiele Historie Anwendung Prinzip Funktion Beispiel NeuroBayes Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Univ. Wuppertal Summary A 15.11.2010 53 A B Start Idee NeuroBayes Idee Hintergrund Ziele Prof. Dr. M. Feindt NeuroBayes f(t|x) KIT / Phi-T Beispiele Historie Anwendung Prinzip Funktion Beispiel NeuroBayes Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Univ. Wuppertal Summary A 15.11.2010 54 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Umsatzprognose für den Versandhandel, Dispositionsoptimierung Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 55 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Farbcodierung: NeuroBayes® besser – gleich - schlechter als bisherige Methoden TrainingsSaisons Test-Saisons Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 56 Start Idee NeuroBayes Idee Hintergrund Ziele Prof. Dr. M. Feindt NeuroBayes f(t|x) KIT / Phi-T Beispiele Historie Anwendung Prinzip Funktion Beispiel NeuroBayes Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Univ. Wuppertal Summary A 15.11.2010 57 A B 61 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B NeuroBayes® Kündigungswahrscheinlichkeit. Kündiger-Identifikation mit NeuroBayes® (Beispiel Tageszeitung) Mit NeuroBayes® konnten kündigungsgefährdete Abonnenten einer großen Tageszeitung erfolgreich identifiziert werden: Das NeuroBayes®-Scoring ermöglicht die Identifikation von 67% aller Kündiger in nur 10% aller Abonnenten! Der Einsatz von NeuroBayes® in der Kündiger-Identifikation und Kundenbindung •ermöglicht spürbare Einsparungen in der Akquisition und •ist die perfekte Basis für ein effizientes Kundenbeziehungsmanagement! Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 58 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A NeuroBayes®- Bonität für Kreditkauf Typische Verbesserungen der Ausfallwahrscheinlichkeitsprognose (gegenüber schon sehr gut entwickelten Methoden): Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 59 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Komplexe NeuroBayes®-Analysen: Printinduzierter Onlineumsatz Optimierung bisheriger Ausstattungspolitik durch <<NeuroBayes® driven Reinforcement Learning>> Katalogstart Katalogstart Print Online Print-induziert Aktuelle Situation Katalogstart Katalogstart Katalogstart Print Online Historische Situation bei Ausstattung Katalogstart (Katalogstart) Katalogstart Print Online Historische Situation bei Nichtausstattung Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 60 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A NeuroBayes®- Beispiel: Prognose des Deckungsbeitrags einer Katalogversendung optimale Ausstattungstiefe Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 61 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Kosten im Krankenversicherungsbereich Komplexe Wahrscheinlichkeitsverteilungen, mit klassischen Methoden nicht behandelbar. Großteil der Versicherten beanspruchen in einem Tarif keine Leistungen im Folgejahr Klassifikation: Wahrscheinlichkeit, dass irgendeine Leistung beansprucht wird. Dichteverteilung: Wahrscheinlichkeitsverteilung der Kosten, wenn überhaupt Kosten entstehen. Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 62 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Prognose von Krankheitskosten Pilotprojekt für private Krankenversicherung Prognose der Kosten im Folgejahr für jeden Versicherten mit Konfidenzintervallen (volle Wahrscheinlcihkeitsdichte) Kunde N. 00000 4 JahreTrainingsdaten, Test auf Folgejahr Mann, 44 Tarif XYZ123 seit ca. 17 Jahre Sehr gute Testresultate! Hat Potential für eine wirkliche und objektive Kostenreduktion im Gesundheitswesen Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 63 Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Das <phi-t> Mausspiel: oder: sogar Ihr ``freier Wille´´ ist vorhersagbar //www.phi-t.de/mousegame Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 64 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A Neuro-Netzer Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010 65 A B Start Idee NeuroBayes Idee Hintergrund Ziele NeuroBayes f(t|x) Beispiele Historie Anwendung Prinzip Funktion Beispiel Konkurrenz Projekt l Forschung Projekt ll Ablauf Spiel Summary A A B Dokumentation Basics: M. Feindt, A Neural Bayesian Estimator for Conditional Probability Densities, E-preprint-archive physics 0402093 M. Feindt, U. Kerzel, The NeuroBayes Neural Network Package, Nuclear Instruments and Methods A 559(2006) 190 Web Sites: www.phi-t.de (deutsch & englisch) www-ekp.physik.uni-karlsruhe.de/~feindt (einige NeuroBayesVorträge können hier gefunden werden) www.neurobayes.de (Dokumentation, Physik- Resultate mit NeuroBayes, Tutorials, FAQ, Diskussionsforum) Prof. Dr. M. Feindt KIT / Phi-T NeuroBayes Univ. Wuppertal 15.11.2010