Liu Ren arbeitet am Bosch Research and Technology Center im Silicon Valley. Er steht vor einem wandgroßen Display und erklärt wie künstliche Intelligenz bei Visual Analytics funktioniert.
Künstliche Intelligenz

Wie Visual Analytics Künstliche Intelligenz sichtbar macht

12 Minuten

Er verbindet das Beste aus zwei Welten: Liu Ren ist Chief Scientist am Bosch Research and Technology Center im Silicon Valley. Mithilfe einer Methode namens Visual Analytics kombinieren er und sein Team künstliche Intelligenz mit menschlichem Wissen.

: Liu Ren steht vor einem Display; im Hintergrund ist eine Visualisierung von Visual Analytics zu erkennen, die durch künstliche Intelligenz unterstützt wird.
Liu Ren glaubt an das große Potenzial von Visual Analytics.

Dank ihr können riesige Datensätze aufbereitet werden, ohne sie wären selbstfahrende Autos nicht möglich: Wo künstliche Intelligenz (KI) zum Einsatz kommt, erleichtert sie Arbeit und Alltag. Aber wie eine KI wirklich funktioniert und worauf ihre Entscheidungen beruhen, muss für ihre Anwender nachvollziehbar und kontrollierbar sein. Um das zu gewährleisten, erforscht Dr. Liu Ren eine Methode namens Visual Analytics. Ren leitet ein Expertenteam am Bosch Research and Technology Center im Silicon Valley. Sein ausführlicher Jobtitel lautet Chief Scientist for Intelligent Human Machine Interaction (HMI) Technologies and Systems – er erforscht, wie sich menschliche mit maschineller Intelligenz verknüpfen lässt. „Maschinen machen Fehler“, sagt er, „und Menschen auch. Mit Visual Analytics können Mensch und Maschine gemeinsam dafür sorgen, Fehler zu vermeiden“. Wie das genau funktioniert, erklärt Liu Ren im Interview

„Wir wollen wissen, was die KI nicht weiß und warum. Erst dann können wir ihr helfen, sich dieses Wissen anzueignen.“

Liu Ren, Chief Scientist für Intelligent HMI Technologies and Systems am Bosch Research and Technology Center, Silicon Valley
Erklärbare künstliche Intelligenz – Liu Ren findet die richtigen Worte, um wichtige Informationen zu Visual Analytics zu vermitteln.
Liu Ren bringt Licht in die Blackbox KI.

Herr Ren, was steckt hinter Visual Analytics?
Die KI-unterstützte Visual Analytics (AiVA) hilft zu verstehen, wie ein KI-System zu einer Entscheidung kommt und wie es verbessert werden kann. Das geschieht in drei Phasen: Zunächst werden Daten aus einem KI-System so verarbeitet, dass sie von Menschen verstanden werden können. Im nächsten Schritt werden diese Daten visualisiert. Anschließend kann der Mensch anhand der visualisierten Information das KI-System steuern und optimieren.

Warum ist das notwendig?
Die Algorithmen einer KI gleichen oft einer Black Box – sie spucken ein Ergebnis aus, aber es bleibt unklar, wie sie dazu gekommen sind. Das wirft Fragen auf: etwa ob bei automatisierten Bewerbungsprozessen oder Kreditvergaben die Chancengleichheit garantiert ist. Visual Analytics kann hier helfen, sie macht den Entscheidungsprozess transparent. Sehen heißt Verstehen!

Visual Analytics Grafik
Liu Ren und sein Team stehen vor einem großen Display und besprechen eine Datenanalyse von Visual Analytics.
Ein Team (Liang Gou, Panpan Xu, Nanxiang Li, Michael Hofmann und Liu Ren) für mehr Vertrauen in KI – hier im Fall einer Anwendung für die Industrie 4.0.

Nennen Sie uns bitte ein Beispiel aus der Praxis.
Nehmen wir die Systeme, an denen wir gemeinsam mit dem Bosch Functional Testing Team für automatisiertes Fahren arbeiten. Bei selbstfahrenden Autos ist KI zur Bilderkennung unverzichtbar. Dabei können seltene Extremfälle auftauchen, sogenannte Corner Cases – beispielsweise ein Blick auf eine Ampel bei schlechtem Wetter aus einem ganz bestimmten Winkel. Erkennt das System, ob die Ampel rot ist? Falls nicht, hilft Visual Analytics, Datenlöcher und Schwachstellen frühzeitig aufzudecken.

Was passiert, wenn eine Schwachstelle entdeckt wurde?
Unser Visual-Analytics-Ansatz verwendet eine zweite KI, die den Datensatz dann automatisch ergänzt. Der Prozess ist transparent und ermöglicht menschliche Aufsicht. So werden die Mängel der ersten KI behoben.

Mehr als 10

verschiedene Szenarien werden in der Regel für die Beschreibung einer Ampel definiert.

So deckt Visual Analytics die Wissenslücken einer KI auf

Liu Ren steht vor einer Datenvisualisierung aus verschiedenfarbigen Kästchen, die die Datenanalyse der KI darstellen. Daneben der Text: „KI im Straßenverkehr: Visual Analytics und die Herausforderung Ampel“.
Jedes der kleinen Kästchen auf der Übersicht fasst zwischen zehn und 1 000 Beispiele einer bestimmten Ansicht einer Ampelanzeige zusammen. Anhand der Farbe der Kästchen lässt sich sehen, ob die KI die jeweiligen Beispielbilder korrekt erkannt hat. Rot steht für nein. Beim automatisierten Fahren ist es aber unabdingbar, dass die KI immer richtig liegt. Visual Analytics hilft dabei, dieses Ziel zu erreichen.
Das Bild visualisiert das Problem der seltenen Extremfälle, die auftreten können, wenn der künstlichen Intelligenz nicht ausreichend Datenmaterial für die Analyse vorliegt.
Ein Problem bei der KI: Es gibt nicht für jede Variation einer Ampelanzeige genügend Trainingsdaten. Sollten mehrere ungewöhnliche Bedingungen zusammenkommen, können sogenannte seltene Extremfälle entstehen – und die KI schätzt diese aufgrund des mangelnden Datenmaterials falsch ein.
Mehrere Autos in urbanem Umfeld stehen an einer roten Ampel. Darüber der Text: „So entstehen Extremfälle“. Diese können dazu führen, dass die KI das Material falsch analysiert.
„Selbst, wenn man so viele Ampeln wie möglich erfasst: Eine perfekte Abdeckung könnte man nicht erreichen“, sagt Liu Ren. Für seltene Extremfälle würde das Datenmaterial trotzdem zu dünn bleiben – mal abgesehen davon, dass die Erfassung enorm aufwändig wäre.
Ein Schaubild zeigt, wie die Ampel durch das sogenannte Representation Learning mit einer zweiten KI besser erkannt wird. Durch Farbe, Symbol, Hintergrund und Richtung.
Um dieses Problem zu lösen, wird in der künstlichen Intelligenz das sogenannte Representation Learning angewendet. Dabei kommt eine zweite KI ins Spiel. In unserem Beispiel lernt das System durch diese zweite KI, über welche Merkmale eine Ampelanzeige definiert wird. Aus der Kombination von rund einem Dutzend Variationen kann somit jede Ampel grob dargestellt werden. Die Variationen sind einfach nachvollziehbar. Auf dem Schaubild beschränken sie sich auf vier: die Farbe der Ampelanzeige, das Symbol auf der Anzeige, der Hintergrund sowie die Richtung, in das es anzeigt.
Eine Visualisierung voller bunter Kästchen zeigt, wie in der Datenanalyse Fehler erkannt und visualisiert werden.
Deutet die erste KI eine Ampelanzeige falsch, wird das visualisiert dargestellt. So können Fehler auf einen Blick erkannt werden. Durch das Representation Learning ordnet die zweite KI diese Fehler zudem den einzelnen Variationen zu – als Anwender versteht man dadurch, warum genau die erste KI versagt hat.
Bei der Datenanalyse werden mithilfe von zwei KI werden Irrtümer aufgedeckt.
In der gezeigten Datenanalyse fasst jedes Kästchen zwischen zehn und tausend Fälle zusammen, bei denen ein bestimmter Fehler aufgetreten ist. Der Anwender sieht, warum die Ampel nicht erkannt wurde.
Datenfutter für die KI – durch neue Daten kann künstliche Intelligenz verbessert werden.
Die Merkmale der Ampelanzeigen können auf Basis des vorhandenen Datenmaterials immer weiter variiert werden. So erhält man eine Übersicht, wie diese Ampeln aussehen (obere Darstellung) und ob sie von der KI möglicherweise falsch gedeutet werden (die gelb und rot markierten Stellen in der unteren Darstellung). Das ist hilfreich, um die KI zu verbessern – entweder indem Daten neu generiert werden oder weiteres Datenmaterial an seltenen Extremfällen gesammelt wird.
: Liu Ren steht vor einem Display, auf dem eine Datenanalyse zu sehen ist. Die Daten stammen in diesem Fall aus dem Einzelhandel und wurden von Visual Analytics verarbeitet und visualisiert.
Liu Ren vor einer Anwendung von Visual Analytics im Einzelhandel.

Wie generiert die zweite KI die zusätzlichen Daten?
Durch eine Methode namens Representation Learning. Bleiben wir bei dem Beispiel mit der Ampel: Basierend auf Trainingsdaten lernt die zweite KI anhand von etwa einem Dutzend Kategorien und deren Variationen – die für den Menschen einfach nachvollziehbar sind – wie eine Ampel aussieht. Um unser Beispiel zu vereinfachen, beschränken wir uns auf vier Variationen: die Farbe der Ampelanzeige, das Symbol der Anzeige, der Hintergrund sowie die Richtung, in die sie zeigt. Die zweite KI ordnet jede Ampel anhand dieser vier Kategorien ein. Jetzt kann sie erkennen, wenn die erste KI einen Fehler macht und diesen klassifizieren. Auf Grundlage der vier Kategorien und mithilfe menschlicher Unterstützung generiert die zweite KI dann neue Trainingsdaten.

Liu Ren steht vor einem Display, auf dem eine Datenanalyse zu sehen ist. Die Daten werden von der durch künstliche Intelligenz unterstützten Visual Analytics visuell so aufbereitet, dass Fehler sofort auffallen.
Liu Ren hat die vertrauenswürdige KI der Zukunft im Blick.

An welcher Stelle kommt der Mensch ins Spiel?
Er bekommt die Daten visuell so aufbereitet, dass Fehler sofort auffallen. Auf Basis des Representation Learnings sieht er, wo die Trainingsdaten für die KI mangelhaft waren. Also in diesem Beispiel: Warum die rote Ampel nicht erkannt wurde. Während das System solche Bilder wie gesagt automatisch generiert, kann der Mensch bei Bedarf die Daten mit realen Bildern von Ampeln ergänzen. Somit wird sichergestellt, dass die Schwachstelle wirklich behoben ist – Mensch und Maschine arbeiten zusammen an der Fehlervermeidung.

„Im Bereich der industriellen KI ist Bosch eine treibende Kraft – das zeigen unsere Auszeichnungen.“

Liu Ren, Chief Scientist für Intelligent HMI Technologies and Systems am Bosch Research and Technology Center, Silicon Valley

In welchen Bereichen setzt Bosch außerdem Visual Analytics ein?
Mit unserem kürzlich entwickelten Algorithmus namens Tensor Partition Flow (TPFlow) können Einzelhändler ihre Kundenströme analysieren. Und in Städten kann der Verkehrsfluss besser untersucht werden – Ridesharing-Diensten wird es somit ermöglicht, ihre Flotte richtig zu verteilen und auszulasten. Mit TPFlow haben wir 2018 den Best Paper Award auf der IEEE VISUALIZATION gewonnen. Das ist die wichtigste Konferenz für Big Data und Visual Analytics. Eine Anwendung, für die wir ebenfalls ausgezeichnet wurden, identifiziert Engpässe in Produktionslinien der Industrie 4.0. Hier arbeiten wir gemeinsam mit dem Bosch Center for Artificial Intelligence an einer Markteinführung.

Was kann Visual Analytics in Zukunft leisten?
Es wird weiter darum gehen, die Blackbox KI erklärbar zu machen. Denn erst dann entwickeln Menschen ein Vertrauen in künstliche Intelligenz, und das wird in einer vernetzten Welt der Zukunft zu deren wesentlichem Qualitätsmerkmal. Deshalb wollen wir bei Bosch sichere, robuste und nachvollziehbare KI-Produkte entwickeln. Ich bin überzeugt, dass der Visual-Analytics-Ansatz, bei dem der Mensch stets den Überblick behält, hier eine wichtige Rolle spielen wird.

Ein Porträt von Liu Ren, Director and Chief Scientist for Intelligent Human Machine Interaction Technologies and Systems am Bosch Research and Technology Center im Silicon Valley. Bei seiner Arbeit beschäftigt er sich unter anderem mit künstlicher Intelligenz und maschinellem Lernen.

Liu Ren

Director and Chief Scientist HMI am Bosch Research and Technology Center

Eine transparente und verständliche KI wird immer dringlicher. Algorithmen müssen erklärbar sein.

Dr. Liu Ren ist leitender Wissenschaftler und Direktor für intelligente HMI-Technologien und -Systeme am Bosch Forschungs- und Technologiezentrum im Silicon Valley. Er ist zudem Global Head des KI-Forschungsprogramms für die Zusammenarbeit zwischen Mensch und Maschine mit Forschungsteams im Silicon Valley und Pittsburgh, USA, sowie in Renningen in Deutschland. Ren trägt einen Doktortitel und ist Master of Science in Informatik der Carnegie Mellon University. Außerdem erlangte er einen Bachelor of Science in Informatik an der Zhejiang University in Hangzhou, China.

Teile diese Seite auf