Ethik und Erklärbarkeit in Bezug auf künstliche Intelligenz

Ethik & KI

Da eine heutige künstliche Intelligenz (KI) zu keinem Zeitpunkt ein Bewusstsein über das Erkannte entwickelt, ist KI prinzipiell vollkommen objektiv. Die Risiken aus der Anwendung von KI liegen daher in den verwendeten Daten und nicht in der KI selbst. Mit der aktuellen Diskussion von KI und Ethik soll verhindert werden, dass KI-Systeme Menschen diskriminieren.

(Bild: ©Tatiana Shepeleva/stock.adobe.com)

Dazu sollen diese Systeme so entwickelt werden, dass man die Gefahr unbeabsichtigter Folgen minimiert. Ein Unternehmen müsste vor dem Einsatz dann beispielsweise testen, ob KI bestimmte Personengruppen benachteiligt oder abwertet. In welchem Zusammenhang kann aber Ethik und KI gesehen werden?

  • Integration von Ethik in KI: Da KI kein Bewusstsein über den bewerteten Inhalt entwickelt und Ethik nicht objektivierbar ist, lässt sich Ethik nicht sinnvoll in KI integrieren.
  • Ethik der Daten: Das Ergebnis einer KI basiert auf Daten. Daher ist ein Ansatz für den ethischen Umgang mit KI der verantwortungsvolle Umgang mit den Daten.
  • Ethik der Ergebnisse: Hier stellt sich die Frage, wie das Ergebnis einer KI zu bewerten ist und wie KI und Mensch so interagieren, dass die ethischen Grundsätze gewahrt werden.

Vergleicht man KI mit den aktuellen Methoden stellt man fest, dass KI prinzipiell den gleichen Zweck erfüllt wie die wie Elektronische Datenverarbeitung seit rund 60 Jahren. Daten werden verarbeitet und bewertet. Beide Ansätze unterscheiden sich lediglich in der Art der Modelle, die zu Bewertung der Daten verwendet werden. Der Mensch ist in seiner Fähigkeit komplexe Zusammenhänge zu erkennen, durch die Millersche Zahl (7+-2) begrenzt. In menschlichen Modellen werden daher komplexe Zusammenhänge vereinfacht und anschließend z.B. in Form eines Entscheidungsbaumes bewertet. Daraus ergibt sich eine Erklärbarkeit innerhalb des Modells. Die Frage, ob die Annahmen des Modells statistisch valide sind oder (implizit) diskriminiert, wird jedoch in der Regel weder gestellt noch geprüft. Es ist weitgehend gesellschaftlich akzeptiert eine Begründung zu bekommen, deren Erklärbarkeit d.h. Relevanz in Bezug auf die Entscheidung in der Regel jedoch nicht überprüfbar ist. Dabei zeigt sich gerade durch den Einsatz von KI, dass menschliche Annahmen oft unvollständig oder teilweise falsch sind. KI-Modelle hingegen erkennen Zusammenhänge direkt in komplexen Daten. Statt vereinfachter Annahmen spiegeln sie daher die statistische Realität der Daten. Da die Bewertung grundsätzlich anhand statistischer Zusammenhänge erfolgt, ermöglicht dies eine prinzipiell gerechtere Bewertung. Problematisch wird dies jedoch, wenn Daten unvollständig sind oder scheinbare Zusammenhänge enthalten, die nicht auf die Realität übertragbar sind.

Rechtliche Risiken

Aufgrund der rechtlichen Risiken ist es ein grundsätzliches Ziel Systeme so zu entwickeln, dass Menschen nicht diskriminiert werden. Um dies zu verhindern, gibt es im Umgang mit KI bereits heute zahlreiche Ansätze wie z.B.:

  • Entfernung von potentiell diskriminierenden Merkmalen aus den Daten
  • Ergänzung von unterrepräsentierten Datenmerkmalen
  • höhere Gewichtung von unterrepräsentierten Datenmerkmalen

Insgesamt handelt es sich um ein alltägliches und in der Regel gut beherrschbares Problem. KI bietet jedoch keine universelle Lösung für jede Aufgabenstellung. Sind grundsätzlich keine ausreichenden Daten vorhanden, stellt KI in der Regel keinen sinnvollen Lösungsansatz dar. Menschliche Intuition und Ethik ergänzt sich perfekt mit der Geschwindigkeit und Objektivität der KI. Da KI falsche oder unvollständige Annahmen erkennt, lernt im Zusammenspiel nicht nur die KI vom Mensch, sondern der Mensch auch von der KI. Da menschliche Intuition auch mittelfristig nicht durch KI ersetzt werden kann, empfehlen wir grundsätzlich den Einsatz von KI als Assistenzsystem. Damit lässt sich nicht nur die Qualität und die Effizienz eines Unternehmens steigern. Unternehmen können hier in Zeiten des Fachkräftemangels besonders profitieren indem KI verwendet wird um die Produktivität von Schlüsselmitarbeitern zu steigern.

Rechtliche Risiken durch fehlende bundesweite Richtlinien im Umgang mit der DSGVO stellen bereits heute ein erhebliches Hindernis bei der Einführung von KI dar. Die Verwendung von KI in einem produktiven Anwendungsfall innerhalb der Breite der Industrie oder dem öffentlichen Sektor ist immer noch ein Einzelfall. Die Forderung das KI-Systeme grundsätzlich ethischen Grundsätzen entsprechen und erklärbar sein müssen, bedeutet daher eine zusätzliche Hürde, die auch von der heutigen klassischen Datenverarbeitung in der Regel nicht erfüllt wird.

Fazit

Unabhängig von der Technologie dürfen Menschen nach Artikel 22 DSGVO nicht vollautomatischen Entscheidungen unterworfen werden, sofern die Entscheidung erhebliche Auswirkungen auf die Person hat. Da so die Einhaltung ethischer Grundsätze und die Erklärbarkeit bei relevanten Entscheidungen grundsätzlich gegeben sein muss, empfehlen wir in der Betrachtung eine Gleichstellung von KI-Systemen und der klassischen Datenverarbeitung. Um den enormen Rückstand Deutschlands bei der KI nicht weiter zu vergrößern sollte das Ziel der weiteren Diskussion sein, bundesweit verbindliche rechtliche Rahmenbedingungen für den Einsatz von KI zu schaffen, Bürokratie in Bezug auf die Förderung zu verringern und ausreichende Mittel bereit zu stellen sowie die Aufklärung innerhalb der Industrie und des öffentlichen Sektors über die konkreten Einsatzmöglichkeiten von KI zu verbessern.

Das könnte Sie auch interessieren

Was mit Produkten wie Siri oder Alexa für das eigene Zuhause bereits im Alltag angekommen ist, könnte auch in Produktionsumgebungen Mehrwerte schaffen - die Sprachsteuerung von Maschinen. Der Embedded-KI-Spezialist Aitad zeigt die Möglichkeiten auf.‣ weiterlesen

Mehr als die Hälfte der für eine ProAlpha-Studie befragten Unternehmen plant, Produktionskapazitäten ins Ausland zu verlagern. Der Grund: nationale sowie internationale Regulierungen wie etwa das deutsche Lieferkettengesetz.‣ weiterlesen

Zwar ist die Fachkräftelücke im MINT-Bereich im Vergleich zum Vorjahr zurückgegangen. Dennoch konnten laut einer Analyse des Instituts der deutschen Wirtschaft mindestens 235.400 Stellen nicht besetzt werden.‣ weiterlesen

Die SPS wird im nächsten Jahr (2025) vom 25. bis zum 27. November in Nürnberg stattfinden und somit wieder auf den seit vielen Jahren bekannten Zeitraum zurückkehren.‣ weiterlesen

Laut aktuellem Lagebild Cyberkriminalität sind Taten aus dem Ausland erneut gestiegen während solche aus dem Inland leicht rückläufig waren. Mehr als 800 Unternehmen haben 2023 einen Ransomwareangriff angezeigt, wobei von einer weitaus höheren Dunkelziffer ausgegangen wird.‣ weiterlesen

Anfang Mai fand die offizielle Eröffnungsfeier des AAS Dataspace for Everybody statt. Die Plattform soll kleinen und mittleren Unternehmen den Zugang zu Datenräumen, digitalen Zwillingen und Verwaltungsschalen erleichtern.‣ weiterlesen

3 Prozent der großen Industrieunternehmen setzen GenAI bereits großflächig ein, und rund ein Viertel hat erste Pilotprojekte gestartet. Laut einer Untersuchung der Unternehmensberatung McKinsey kann die Mehrheit der Unternehmen den Mehrwert der Technologie für den Unternehmenserfolg bislang aber noch nicht beziffern.‣ weiterlesen

Die Industrie arbeitet daran, die Barrieren zwischen IT und OT abzubauen. So können Unternehmen ihre Produktion effizienter und innovativer gestalten und im immer härter werdenden globalen Wettbewerb bestehen. Francis Chow von Red Hat erklärt, welche Rolle Open-Source-Technologien dabei spielen.‣ weiterlesen

Für dauerhafte Wettbewerbsfähigkeit müssen deutsche Hersteller angesichts weiterhin drohender Rezession und hoher Energiekosten die nächste Stufe der Digitalisierung erreichen. Die Mehrheit der Unternehmen bereitet sich in diesem Zug auf Smart Manufacturing vor, wie eine von Statista durchgeführte und Avanade beauftragte Studie zeigt.‣ weiterlesen

Ein Bericht von ABI Research und Palo Alto Networks über den Stand der OT-Sicherheit zeigt, dass im vergangenen Jahr eines von vier Industrieunternehmen seinen Betrieb aufgrund eines Cyberangriffs vorübergehend stilllegen musste. Die Komplexität beim Einsatz von OT-Sicherheitslösungen stellt für die Befragten das größte Hindernis dar.‣ weiterlesen

Eine Umfrage von Hewlett Packard Enterprise (HPE) unter 400 Führungskräften in Industrie-Unternehmen in Deutschland zeigt, dass zwei Drittel der Befragten den Data Act als Chance wahrnehmen. Der Data Act stieß unter anderem bei Branchenverbänden auf Kritik.‣ weiterlesen