Pflege von KI-Applikationen

Weshalb auch eine KI ‘altert’

Der Einsatz von künstlicher Intelligenz (KI) verspricht für Industrieunternehmen einen Wettbewerbsvorteil. Doch dass auch KI-Systeme überwacht werden müssen, setzt sich nur langsam durch – Lösungen sind oft umständlich und aufwendig. Neue Ansätze sollen das ändern.

(Bild: ©metamorworks/stock.adobe.com)

Erst vor wenigen Wochen hat das Fraunhofer IAIS in Zusammenarbeit mit Munich RE eine Zertifizierungsmöglichkeit für künstliche Intelligenz geschaffen. Denn Software, die mit KI ausgestattet ist und z.B. Qualitätsprognosen auf Basis von so genannten Machine-Learning-Modellen erstellt, darf nicht nur zum Start geprüft, sondern muss permanent überwacht werden. Der Grund dafür ist ein Problem, das Betreiber oft wenig beachten, das aber mit dem zunehmenden Einsatz von KI-Software sichtbarer wird: Machine-Learning-Modelle werden mit der Zeit immer ungenauer und unzuverlässiger. Dieser Alterungsprozess wird als Model Drift bezeichnet und ist in Fachkreisen ein bekanntes Phänomen. Mit abnehmender Verlässlichkeit der KI-Modelle nimmt auch deren Nutzen ab – der dahinterstehende Business Case könnte kippen.

Was verbirgt sich hinter dem Alterungsprozess?

Ein Missverständnis in der KI-Welt ist die Annahme, dass alle Algorithmen von allein und fortwährend dazulernen. In der Realität ist das nur in einigen, speziellen Fällen umgesetzt und oft mit hohem Aufwand verbunden. Gerade in Industrieanwendungen, in denen Sensordaten eine zentrale Rolle spielen, lernen die Modelle zunächst basierend auf den Daten der Vergangenheit (Training). Aus den dort gelernten Mustern erzeugen die Modelle dann ihre Vorhersage. Und hier offenbart sich das Alterungs-Problem: Die Bedingungen der Vergangenheit haben sich zur Gegenwart hin verändert und tun dies fortwährend. Dabei handelt es sich oft nur um kleine Nuancen, die aber erheblichen Einfluss auf die Vorhersagegenauigkeit des Gesamtmodells haben können. Die Frage ist also, welche äußeren Einflüssen lassen das KI -Modell altern?

Daten verändern sich

Ein Beispiel: In einem industriellen Reinigungsprozess werden Bauteile mittels eines automatisierten Verfahrens gesäubert. Dieser Prozess erstreckt über mehrere Tauchbäder unterschiedlicher Säure- und Basenkonzentrationen. Viele Faktoren haben Einfluss auf die Reinigungsqualität der Bauteile. Die Aufgabe der KI ist es, die finale Reinigungsqualität frühzeitig vorherzusagen, um bei negativen Abweichungen in den Prozess einzugreifen zu können oder diesen sogar abzubrechen. Bei der Modellerstellung werden zunächst Annahmen über die möglichen Einflussfaktoren auf die Reinigungsqualität getroffen, etwa Säurekonzentration, Temperatur oder Verschmutzungsgrad der Teile. Sensoren erfassen die dafür notwendigen Daten, welche über einen möglichst repräsentativen Zeitraum gespeichert werden.

Diese Daten der Vergangenheit bilden die Basis für das Modell-Training. Basierend auf den aktuellen Messungen und der Kenntnis über die Vergangenheit trifft das Modell dann seine Entscheidung bzw. die Vorhersage. So kann das Modell im Beispiel früh vorhersagen, ob sich am Ende etwa Qualitätsprobleme ergeben werden und entsprechend warnen. Die aktuellen Daten des Prozesses sind jedoch nicht zu 100 Prozent mit den historischen Daten vergleichbar. Beispielsweise können Sensoren verschmutzen oder durch ihren eigenen Lebenszyklus leicht veränderte Werte liefern. Verändern sich also die aktuellen Daten im Vergleich zu denen, die bei der Erstellung des Modells verwendet wurden, spricht man von einem so genannten ‘Data Drift’. Oder vereinfacht dargestellt: Wenn der Luftdrucksensor in einem Autoreifen durch äußere Einflüsse immer ungenauere Werte liefert, wird auch die Vorhersage zur Reifengesundheit immer schlechter.

Das könnte Sie auch interessieren

Deeptech-Startups haben es schwerer als Internet-Startups. Da sie ihre Innovationen an Industrieunternehmen liefern wollen, müssen von Anfang an umfangreiche Anforderungen an Prozesse, Dokumentation und Schnittstellen eingehalten werden, speziell in den Bereichen Aerotech oder Healthcare.‣ weiterlesen

Der Einsatz von Sekundärrohstoffen kann dazu beitragen, Ressourcen zu schonen und den CO2-Ausstoß zu senken. Das VDI Zentrum Ressourceneffizienz will Unternehmen mit einer Materialdatenbank über die Möglichkeiten aufklären.‣ weiterlesen

Wollen Unternehmen künstliche Intelligenz einsetzen, müssen sie sich mit grundlegenden Fragen beschäftigen – etwa wie KI-Entscheidungen transparent gestalten werden können.Der IT-Dienstleister Adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema ‘Trustworthy AI’ befragt. Demnach glaubt die Mehrheit, dass KI bei Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Befragten mehr Kontrollmechanismen.‣ weiterlesen

Die Mehrheit der deutschen Unternehmen nimmt künstliche Intelligenz als Chance wahr. Zum Einsatz kommt die Technologie allerdings nur bei 9 Prozent, so das Ergebnis eine Befragung des Branchenverbands Bitkom.‣ weiterlesen

Vom Internet of Things versprechen sich Unternehmen vielerlei Vorteile, wie etwa Prozessoptimierungen oder Qualitätsverbesserungen. Bei der Einführung von IoT-Technologien sind Unternehmen jedoch oft auf Hilfe von Außen angewiesen. ‣ weiterlesen

Laut einer von Varonis Systems in Auftrag gegebenen Forrester-Studie, verzeichneten fast alle Sicherheitsverantwortlichen (96 Prozent) innerhalb der letzten 24 Monate einen Anstieg der Cloud-Nutzung in ihren Unternehmen. Dies führt dazu, dass SaaS-Anwendungen zum am häufigsten genutzten Speicherort werden. Für die Sicherheitsteams entstehen auf diese Weise immer größere Blind Spots.‣ weiterlesen