Dr. Jan Hendrik Metzen
Steigerung der Robustheit und Sicherheit der Deep-Learning-basierten Perzeption
„Künstliche Intelligenz kann einen wichtigen Beitrag zur Lösung vieler unserer drängendsten Problemen leisten. Sie wird aber nur dann akzeptiert werden, wenn wir ihre Limitierungen kennen, wir sie verantwortlich einsetzen und wir verständlich machen können, wie sie zu ihren Entscheidungen gelangt."
Ich bin Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence. Meine Forschung ist getrieben durch den Wunsch, das Verständnis sowie die Robustheit und Anwendbarkeit der Deep-Learning-basierten Perzeption voranzutreiben. Insbesondere liegt mein Fokus auf der Evaluierung von neuronalen Netzen und der Steigerung ihrer Robustheit. Zwar liefern neuronale Netze bei der Klassifizierung von Daten aus der Verteilung für die sie trainiert wurden, exzellente Ergebnisse, doch bei Daten mit leicht abweichenden Eigenschaften sind die mit ihnen erzielten Ergebnisse oftmals nur unzureichend. Diese Schwäche auszumerzen ist entscheidend für die Anwendung einer auf neuronalen Netzen basierten Perzeption in sicherheitskritischen Bereichen wie dem automatisierten Fahren, wo sie zwangsläufig mit Situationen konfrontiert werden, die im Rahmen ihres Trainings weder durchgespielt noch vorhergesehen wurden.
Lebenslauf
- Senior Expert für Robuste Skalierbare Perzeption mit Schwerpunkt Steigerung der Robustheit von Perzeptionssystemen auf Basis von Deep Learning und Entwicklung von automatisierten Deep-Learning-Techniken, Bosch Center for Artificial Intelligence
- Teamleiter des Teams „Sustained Learning“ am Robotics Innovation Center mit Schwerpunkt Roboter-Lernen, Bayes‘sche Optimierung und Überwachtes Lernen, Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI)
- Promotion zum Thema Hierarchisches Bestärkendes Lernen: „Learning the Structure of Continuous Markov Decision Processes“, Universität Bremen
Ausgewählte Publikationen
Elsken et al. (2019)
- Thomas Elsken, Jan Hendrik Metzen, Frank Hutter
- 7th International Conference on Learning Representations
Elsken et al. (2019)
- Thomas Elsken, Jan Hendrik Metzen, Frank Hutter
- Journal of Machine Learning Research 20 (55), 1-21
Mummadi et al. (2019)
- Chaithanya Kumar Mummadi, Thomas Brox, Jan Hendrik Metzen
- International Conference on Computer Vision 2019
Wong et al. (2018)
- Eric Wong, Frank Schmidt, Jan Hendrik Metzen, J. Zico Kolter
- Advances in Neural Information Processing Systems 2018
Interview mit Dr. Jan Hendrik Metzen
Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence
Erzählen Sie doch mal: was fasziniert Sie an der Forschung?
Forschung ermöglicht mir, ein tieferes Verständnis von komplexen Systemen zu erlangen. Intelligenz und die Fähigkeit zu Lernen gehören für mich zu den spannendsten Phänomenen und unsere Forschung im Bereich des maschinellen Lernens ermöglicht mir, mich sehr tiefgehend mit offenen Fragen in diesem Themenfeld zu befassen. Außerdem können Forschungsergebnisse in diesem Bereich (insbesondere im industriellen Umfeld) einen wichtigen Beitrag zur Verbesserung der Lebensqualität und Sicherheit von vielen Menschen leisten, wenn sie verantwortlich eingesetzt werden.
Was macht die Forschung bei Bosch besonders?
Die Forschung am Bosch Center for Artificial Intelligence zeichnet sich zum einen durch viele Freiheiten der akademischen Forschung aus. Regelmäßige Veröffentlichung von Forschungsergebnissen, intensiver Austausch mit externen Wissenschaftlern und die gemeinsame Betreuung von Abschlussarbeiten und Doktoranden ermöglichen mir, gemeinsam den Stand der Wissenschaft weiterzuentwickeln. Zugleich bietet die enge Zusammenarbeit mit Bosch-Geschäftsbereichen die Möglichkeit, von uns entwickelte Verfahren schnell in Anwendungen wie z. B. in Fahrerassistenzsysteme zu transferieren.
Woran forschen Sie bei Bosch?
Ich forsche daran, die Robustheit von neuronalen Netzen für Perzeptionsaufgaben (wie z. B. der Fußgängerkennung in Notbremsassistenten) zu verstehen und zu erhöhen. Ein genaues Verständnis und eine Quantifizierung der Robustheit sind wichtige Voraussetzungen für die Nutzbarkeit eines Perzeptionssystems in sicherheitskritischen Anwendungen, wie z. B. dem hochautomatisierten Fahren. Basierend auf diesem Verständnis der aktuellen Limitierungen forschen wir an Methoden, um die Robustheit von neuronalen Netzen zu erhöhen.
Was sind die größten wissenschaftlichen Herausforderungen in Ihrem Forschungsfeld?
Wir verstehen noch nicht, wie wir neuronale Netze so robust wie die menschliche Perzeption machen können. Böswillige, aber quasi-unsichtbare Änderungen („Adversarial Attacks“) und für Menschen harmlose Störungen wie Rauschen oder Unschärfe in Bildern können die Vorhersagen von neuronalen Netzen komplett irreführen. Für die Akzeptanz und die Zulassung von Perzeptionssystemen sind derartige unverständliche Fehler sehr problematisch, selbst wenn das System im Mittel bessere Erkennungsraten als der menschliche Nutzer hat. Unsere Forschung trägt dazu bei, die Robustheit von neuronalen Netzen zu erhöhen.
Wie werden Ihre Forschungsergebnisse zu "Technik fürs Leben"?
Nur ein System, bei dem wir sicher sind, dass es auch unter unvorhergesehenen Umständen zuverlässig und sicher funktioniert, können wir mit gutem Gewissen als „Technik fürs Leben“ bezeichnen. Insbesondere bei Systemen, die auf maschinellem Lernen basieren, stellt uns dies vor große Herausforderungen. Unsere Forschungsergebnisse tragen dazu bei, die Robustheit und das Verständnis von Systemen, die auf maschinellem Lernen basieren, zu erhöhen. Somit sind sie wichtige Beiträge zu zuverlässigen und sicheren Systemen, die Menschen vor Unfällen schützen und ihre Lebensqualität verbessern können.
Ihr Kontakt zu mir
Dr. Jan Hendrik Metzen
Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence
