Unsere Forschungsexperten

Dr. Jan Hendrik Metzen

Steigerung der Robustheit und Sicherheit der Deep-Learning-basierten Perzeption

„Künstliche Intelligenz kann einen wichtigen Beitrag zur Lösung vieler unserer drängendsten Problemen leisten. Sie wird aber nur dann akzeptiert werden, wenn wir ihre Limitierungen kennen, wir sie verantwortlich einsetzen und wir verständlich machen können, wie sie zu ihren Entscheidungen gelangt."

Dr. Jan Hendrik Metzen

Ich bin Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence. Meine Forschung ist getrieben durch den Wunsch, das Verständnis sowie die Robustheit und Anwendbarkeit der Deep-Learning-basierten Perzeption voranzutreiben. Insbesondere liegt mein Fokus auf der Evaluierung von neuronalen Netzen und der Steigerung ihrer Robustheit. Zwar liefern neuronale Netze bei der Klassifizierung von Daten aus der Verteilung für die sie trainiert wurden, exzellente Ergebnisse, doch bei Daten mit leicht abweichenden Eigenschaften sind die mit ihnen erzielten Ergebnisse oftmals nur unzureichend. Diese Schwäche auszumerzen ist entscheidend für die Anwendung einer auf neuronalen Netzen basierten Perzeption in sicherheitskritischen Bereichen wie dem automatisierten Fahren, wo sie zwangsläufig mit Situationen konfrontiert werden, die im Rahmen ihres Trainings weder durchgespielt noch vorhergesehen wurden.

Lebenslauf

Bosch Center for Artificial Intelligence

seit 2016
Senior Expert für Robuste Skalierbare Perzeption mit Schwerpunkt Steigerung der Robustheit von Perzeptionssystemen auf Basis von Deep Learning und Entwicklung von automatisierten Deep-Learning-Techniken

Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI)

2013-2015
Teamleiter des Teams „Sustained Learning“ am Robotics Innovation Center mit Schwerpunkt Roboter-Lernen, Bayes‘sche Optimierung und Überwachtes Lernen

Universität Bremen

2014
Promotion zum Thema Hierarchisches Bestärkendes Lernen: „Learning the Structure of Continuous Markov Decision Processes“

Ausgewählte Publikationen

  • Efficient Multi-objective Neural Architecture Search via Lamarckian Evolution

    Elsken et al. (2019)

    Efficient Multi-objective Neural Architecture Search via Lamarckian Evolution
    • Thomas Elsken, Jan Hendrik Metzen, Frank Hutter
    • 7th International Conference on Learning Representations
  • Neural Architecture Search: A Survey

    Elsken et al. (2019)

    Neural Architecture Search: A Survey
    • Thomas Elsken, Jan Hendrik Metzen, Frank Hutter
    • Journal of Machine Learning Research 20 (55), 1-21
  • Defending against Universal Perturbations with Shared Adversarial Training

    Mummadi et al. (2019)

    Defending against Universal Perturbations with Shared Adversarial Training
    • Chaithanya Kumar Mummadi, Thomas Brox, Jan Hendrik Metzen
    • International Conference on Computer Vision 2019
  • Scaling provable adversarial defenses

    Wong et al. (2018)

    Scaling provable adversarial defenses
    • Eric Wong, Frank Schmidt, Jan Hendrik Metzen, J. Zico Kolter
    • Advances in Neural Information Processing Systems 2018
  • Adversarial Examples for Semantic Image Segmentation

    Fischer et al. (2017)

    Adversarial Examples for Semantic Image Segmentation
    • Volker Fischer, Chaitanya Kumar Mummadi, Jan Hendrik Metzen, Thomas Brox
    • 5th International Conference on Learning Representations 2017, Workshop Track
  • On Detecting Adversarial Perturbations

    Metzen et al. (2017)

    On Detecting Adversarial Perturbations
    • Jan Hendrik Metzen, Tim Genewein, Volker Fischer, Bastian Bischoff
    • 5th International Conference on Learning Representations
  • Universal Adversarial Perturbations Against Semantic Image Segmentation

    Metzen et al. (2017)

    Universal Adversarial Perturbations Against Semantic Image Segmentation
    • Jan Hendrik Metzen, Mummadi Chaithanya Kumar, Thomas Brox, Volker Fischer
    • International Conference on Computer Vision 2017, 2755-2764
  • Surgical robotics beyond enhanced dexterity instrumentation: a survey of machine learning techniques and their role in intelligent and autonomous surgical actions

    Kassahun et al. (2016)

    Surgical robotics beyond enhanced dexterity instrumentation: a survey of machine learning techniques and their role in intelligent and autonomous surgical actions
    • Yohannes Kassahun, Bingbin Yu, Abraham Temesgen Tibebu, Danail Stoyanov, Stamatia Giannarou, Jan Hendrik Metzen, Emmanuel Vander Poorten
    • International journal of computer assisted radiology and surgery 11/4 553-568
  • Minimum Regret Search for Single-and Multi-Task Optimization

    Metzen (2016)

    Minimum Regret Search for Single-and Multi-Task Optimization
    • Jan Hendrik Metzen
    • 33rd International Conference of Machine Learning 2016
  • Active contextual policy search

    Fabisch and Metzen (2014)

    Active contextual policy search
    • Alexander Fabisch, Jan Hendrik Metzen
    • The Journal of Machine Learning Research 15 (1) 3371-3399

Interview

Dr. Jan Hendrik Metzen

Dr. Jan Hendrik Metzen

Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence

Erzählen Sie doch mal: was fasziniert Sie an der Forschung?

Forschung ermöglicht mir, ein tieferes Verständnis von komplexen Systemen zu erlangen. Intelligenz und die Fähigkeit zu Lernen gehören für mich zu den spannendsten Phänomenen und unsere Forschung im Bereich des maschinellen Lernens ermöglicht mir, mich sehr tiefgehend mit offenen Fragen in diesem Themenfeld zu befassen. Außerdem können Forschungsergebnisse in diesem Bereich (insbesondere im industriellen Umfeld) einen wichtigen Beitrag zur Verbesserung der Lebensqualität und Sicherheit von vielen Menschen leisten, wenn sie verantwortlich eingesetzt werden.

Dr. Jan Hendrik Metzen

Dr. Jan Hendrik Metzen

Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence

Was macht die Forschung bei Bosch besonders?

Die Forschung am Bosch Center for Artificial Intelligence zeichnet sich zum einen durch viele Freiheiten der akademischen Forschung aus. Regelmäßige Veröffentlichung von Forschungsergebnissen, intensiver Austausch mit externen Wissenschaftlern und die gemeinsame Betreuung von Abschlussarbeiten und Doktoranden ermöglichen mir, gemeinsam den Stand der Wissenschaft weiterzuentwickeln. Zugleich bietet die enge Zusammenarbeit mit Bosch-Geschäftsbereichen die Möglichkeit, von uns entwickelte Verfahren schnell in Anwendungen wie z. B. in Fahrerassistenzsysteme zu transferieren.

Dr. Jan Hendrik Metzen

Dr. Jan Hendrik Metzen

Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence

Woran forschen Sie bei Bosch?

Ich forsche daran, die Robustheit von neuronalen Netzen für Perzeptionsaufgaben (wie z. B. der Fußgängerkennung in Notbremsassistenten) zu verstehen und zu erhöhen. Ein genaues Verständnis und eine Quantifizierung der Robustheit sind wichtige Voraussetzungen für die Nutzbarkeit eines Perzeptionssystems in sicherheitskritischen Anwendungen, wie z. B. dem hochautomatisierten Fahren. Basierend auf diesem Verständnis der aktuellen Limitierungen forschen wir an Methoden, um die Robustheit von neuronalen Netzen zu erhöhen.

Dr. Jan Hendrik Metzen

Dr. Jan Hendrik Metzen

Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence

Was sind die größten wissenschaftlichen Herausforderungen in Ihrem Forschungsfeld?

Wir verstehen noch nicht, wie wir neuronale Netze so robust wie die menschliche Perzeption machen können. Böswillige, aber quasi-unsichtbare Änderungen („Adversarial Attacks“) und für Menschen harmlose Störungen wie Rauschen oder Unschärfe in Bildern können die Vorhersagen von neuronalen Netzen komplett irreführen. Für die Akzeptanz und die Zulassung von Perzeptionssystemen sind derartige unverständliche Fehler sehr problematisch, selbst wenn das System im Mittel bessere Erkennungsraten als der menschliche Nutzer hat. Unsere Forschung trägt dazu bei, die Robustheit von neuronalen Netzen zu erhöhen.

Dr. Jan Hendrik Metzen

Dr. Jan Hendrik Metzen

Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence

Wie werden Ihre Forschungsergebnisse zu "Technik fürs Leben"?

Nur ein System, bei dem wir sicher sind, dass es auch unter unvorhergesehenen Umständen zuverlässig und sicher funktioniert, können wir mit gutem Gewissen als „Technik fürs Leben“ bezeichnen. Insbesondere bei Systemen, die auf maschinellem Lernen basieren, stellt uns dies vor große Herausforderungen. Unsere Forschungsergebnisse tragen dazu bei, die Robustheit und das Verständnis von Systemen, die auf maschinellem Lernen basieren, zu erhöhen. Somit sind sie wichtige Beiträge zu zuverlässigen und sicheren Systemen, die Menschen vor Unfällen schützen und ihre Lebensqualität verbessern können.

Dr. Jan Hendrik Metzen

Ihr Kontakt zu mir

Dr. Jan Hendrik Metzen
Senior Expert für Robuste Skalierbare Perzeption am Bosch Center for Artificial Intelligence
E-Mail

Teile diese Seite auf