Exklusiv für Abonnenten

Sehen, was die KI denkt

Der Blick in neuronale Netze

Künstliche Intelligenz ist längst in unserem Alltag präsent und dringt in immer mehr Bereiche vor. Fortschritte im KI-Bereich beruhen vor allem auf der Verwendung neuronaler Netze. Vergleichbar mit der Funktionsweise des menschlichen Gehirns verknüpfen sie mathematisch definierte Einheiten miteinander. Doch bisher wusste man nicht, wie ein neuronales Netz Entscheidungen trifft. Forschende des Fraunhofer Heinrich-Hertz-Instituts HHI und der Technischen Universität Berlin haben nun eine Technik entwickelt, die erkennt, anhand welcher Kriterien KI-Systeme Entscheidungen fällen.

 (Bild: Lothar Lenz/www.pferdefotoarchiv.de)

(Bild: Lothar Lenz/www.pferdefotoarchiv.de)

Heute gibt es kaum noch einen Bereich, in dem künstliche Intelligenz (KI) keine Rolle spielt, sei es in der Produktion, der Werbung oder der Kommunikation. Viele Unternehmen nutzen lernende und vernetzte KI-Systeme, etwa um präzise Nachfrageprognosen anzustellen und das Kundenverhalten exakt vorherzusagen. Auf diese Weise lassen sich beispielsweise Logistikprozesse regional anpassen. Auch im Gesundheitswesen bedient man sich spezifischer KI-Tätigkeiten wie dem Anfertigen von Prognosen auf Basis von strukturierten Daten – etwa bei der Bilderkennung. So werden Röntgenbilder als Input in ein KI-System gegeben, der Output ist eine Diagnose.

Das Erfassen von Bildinhalten ist auch beim autonomen Fahren entscheidend, wo Verkehrszeichen, Bäume, Fußgänger und Radfahrer fehlerfrei erkannt werden müssen. In solch sensiblen Anwendungsfeldern müssen KI-Systeme absolut zuverlässige Problemlösungsstrategien liefern. Bislang war es jedoch nicht nachvollziehbar, wie KI-Systeme Entscheidungen treffen. Zudem basieren die Vorhersagen auf der Qualität der Input-Daten. Mit der Layer-Wise Relevance Propagation (LRP) haben Forschende am Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hz-Institut, HHI, und der Technischen Universität Berlin nun eine Technik entwickelt, die KI-Prognosen erklärbar macht und somit unsichere Problemlösungsstrategien aufdeckt. Die Weiterentwicklung der LRP-Technologie, die sogenannte Spectral Relevance Analysis (Spray) identifiziert und quantifiziert ein breites Spektrum erlernten Entscheidungsverhaltens und erkennt somit auch in riesigen Datensätzen unerwünschte Entscheidungen.

Neuronale Netze interpretieren

In der Praxis identifiziert die Technik einzelne Input-Elemente, die für eine Vorhersage genutzt wurden. Wird also beispielsweise ein Gewebebild in ein KI-System eingegeben, so wird der Einfluss jedes Pixels auf das Klassifikationsergebnis quantifiziert. Die Vorhersage, wie ‘krebsartig’ oder ‘nicht krebsartig’ das Gewebebild ist, wird also mit der Angabe der Basis für diese Klassifikation ergänzt.

“Nicht nur das Ergebnis soll korrekt sein, sondern auch der Lösungsweg. Bislang wurden KI-Systeme als Black Box angewendet. Man hat darauf vertraut, dass sie das richtige tun. Mit unserer Open-Source-Software ist es uns gelungen, die Lösungsfindung von KI-Systemen nachvollziehbar zu machen”, sagt Dr. Wojciech Samek, Leiter der Forschungsgruppe ‘Machine Learning’ am Fraunhofer HHI. “Mit LRP visualisieren und interpretieren wir neuronale Netze und andere Machine Learning-Modelle. Wir messen den Einfluss jeder Eingangsvariablen für die Gesamtvorhersage und zerlegen die Entscheidungen des Klassifizierers”, ergänzt Dr. Klaus-Robert Müller, Professor für Maschinelles Lernen an der TU Berlin.

Lösungsweg erkennen

Nur wer versteht, wie neuronale Netze funktionieren, kann den Ergebnissen vertrauen. Dass KI-Systeme nicht immer sinnvolle Lösungswege finden, ergaben die Tests der Forscherteams. Beispielsweise klassifizierte ein renommiertes KI-System Bilder anhand des Kontextes. Es ordnete Fotos der Kategorie Schiff zu, wenn viel Wasser im Bild zu sehen war. Die eigentliche Aufgabe, Schiffe zu erkennen, löste es nicht, auch wenn die Mehrzahl der Bilder korrekt identifiziert war. “Zahlreiche KI-Algorithmen wenden unsichere Strategien an und kommen zu wenig sinnvollen Lösungen”, resümiert Samek das Ergebnis der Untersuchungen.

Das könnte Sie auch interessieren

Der Digitale Zwilling einer Produktionsanlage ermöglicht die Simulation des Verhaltens aktueller Konfigurationen. Die Implementierung neuer Produktionskonfigurationen kann so bereits im Vorfeld getestet werden. Die Integration der benötigten Simulationsmodelle einzelner Komponenten ist jedoch mit Aufwand verbunden. Hier kann die Verwaltungsschale helfen.‣ weiterlesen

Logicalis veröffentlicht seinen zehnten Jahresbericht, basierend auf den Erfahrungen von 1.000 CIOs weltweit. Technologien wie Künstliche Intelligenz (KI) und neue Cyberbedrohungen dominieren darin die Prioritäten der CIOs.‣ weiterlesen

Die Cloud ist aus der modernen Arbeitswelt nicht wegzudenken und viele Unternehmen erkennen den Mehrwert einer flexibel skalierbaren SaaS-Anwendung. Doch wie zufrieden sind Anwender mit den jeweiligen Angeboten. Dies hat das Analystenhaus Techconsult untersucht.‣ weiterlesen

Mit Generative AI sind für produzierende Unternehmen viele lohnende Optimierungspotenziale zu heben. Doch um in konkreten Szenarien von verlässlichen Assistenz- und Wissenssystemen zu profitieren, ist eine intensive Auseinandersetzung notwendig.‣ weiterlesen

Die Zahl der Patentanmeldungen beim Deutschen Patent- und Markenamt ist im Jahr 2023 gestiegen. Größere Anstiege zeigten sich bei den Digitaltechnologien und bei der Elektromobilität.‣ weiterlesen

Welche Trends das Jahr 2024 für die Robotik bereithält, beschreibt die International Federation of Robotics. Demnach wird auch in diesem Segment künstliche Intelligenz eine größere Rolle spielen. Darüber hinaus beobachtet die IFR einen Trend zum menschenähnlichen Design.‣ weiterlesen

Bosch untersucht, wie sich generative KI zur Verbesserung automatisierter Fahrfunktionen einsetzen lässt. Vor diesem Hintergrund ergründet das Unternehmen gemeinsam mit dem Softwarekonzern Microsoft Möglichkeiten zur Zusammenarbeit und zur Nutzung generativer KI.‣ weiterlesen

Die Deutsche Telekom hat auf dem MWC in Barcelona Tarife für das Internet der Dinge (IoT) vorgestellt. Sie bietet nun erstmals Konnektivität über Satellit kommerziell an.‣ weiterlesen

Wie helfen uns Technologien wie künstliche Intelligenz, um nachhaltiger zu arbeiten und nachhaltiger zu produzieren? Diese Frage stellt sich der Spitzencluster it's OWL und will im Rahmen der Hannover Messe Antworten präsentieren.‣ weiterlesen

2024 stehen in rund 70 Ländern Wahlen an. Im November wird beispielsweise der US-Präsident gewählt. Auch geopolitische Krisen und Großveranstaltungen wie die Olympischen Spiele in Paris könnten verschiedene Gruppen von Cyberangreifern für eigene Zwecke nutzen, prognostiziert Security-Anbieter Bitdefender.‣ weiterlesen

Unternehmen stehen aktuell vor großen Herausforderungen. Das Konzept des linearen Wirtschaftens wird immer stärker in Frage gestellt. Gleichzeitig herrscht ein hoher Digitalisierungs- und Innovationsdruck. Unternehmen müssen also ressourcen- und kostenschonend wirtschaften, um in Zukunft wettbewerbsfähig zu bleiben. In vielen Unternehmen gebe es laut einer Studie des Leasingunternehmens CHG-Meridian zwar bereits eine Nachhaltigkeitsstrategie, aber Potenziale bestimmter Maßnahmen würden nicht erkannt.‣ weiterlesen