KI und der Wunsch nach mehr Kontrolle

Wollen Unternehmen künstliche Intelligenz einsetzen, müssen sie sich mit grundlegenden Fragen beschäftigen – etwa wie KI-Entscheidungen transparent gestaltet werden können. Der IT-Dienstleister Adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema ‘Trustworthy AI’ befragt. Demnach glaubt die Mehrheit, dass KI bei Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Befragten mehr Kontrollmechanismen.

(Bild: Adesso SE)

Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Anwendungsfällen über alle Branchen hinweg zeigen bereits, welches Potenzial in künstlicher Intelligenz steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen können das Leben von Menschen auf unmittelbare Art beeinflussen, etwa bei der Personalauswahl oder der Vergabe von Krediten. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Der IT-Dienstleister Adesso hat 500 Entscheiderinnen und Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt. Die wichtigsten Erkenntnisse der Studie:

  • Vertrauen in KI: Die Mehrheit der Befragten hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 Prozent, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Studienteilnehmer bei der Frage, wie Anwender zu der Technologie stehen. 61 Prozent sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen.
  • Regulation erwünscht: Trotzdem finden 80 Prozent der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 Prozent sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75 Prozent diese Forderung. 70 Prozent aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll.
  • KI am Arbeitsplatz: Aus Sicht der Befragten müssen Unternehmen ihre Beschäftigten stärker in KI-Projekte einbeziehen, damit diese Vertrauen in die Technologie entwickeln. 70 Prozent der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 Prozent, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.

Das könnte Sie auch interessieren

Deeptech-Startups haben es schwerer als Internet-Startups. Da sie ihre Innovationen an Industrieunternehmen liefern wollen, müssen von Anfang an umfangreiche Anforderungen an Prozesse, Dokumentation und Schnittstellen eingehalten werden, speziell in den Bereichen Aerotech oder Healthcare.‣ weiterlesen

Der Einsatz von Sekundärrohstoffen kann dazu beitragen, Ressourcen zu schonen und den CO2-Ausstoß zu senken. Das VDI Zentrum Ressourceneffizienz will Unternehmen mit einer Materialdatenbank über die Möglichkeiten aufklären.‣ weiterlesen

Das DFKI und das Fraunhofer IML untersuchen in einem Forschungsprojekt, wie künstliche Intelligenz bei der Vergabe von Lehrstühlen und Institutsleitungen unterstützen kann. In der Folge soll ein Portal für Bewerber-Profile entstehen.‣ weiterlesen

Die Mehrheit der deutschen Unternehmen nimmt künstliche Intelligenz als Chance wahr. Zum Einsatz kommt die Technologie allerdings nur bei 9 Prozent, so das Ergebnis eine Befragung des Branchenverbands Bitkom.‣ weiterlesen

Der Einsatz von künstlicher Intelligenz (KI) verspricht für Industrieunternehmen einen Wettbewerbsvorteil. Doch dass auch KI-Systeme überwacht werden müssen, setzt sich nur langsam durch - Lösungen sind oft umständlich und aufwendig. Neue Ansätze sollen das ändern.‣ weiterlesen

Vom Internet of Things versprechen sich Unternehmen vielerlei Vorteile, wie etwa Prozessoptimierungen oder Qualitätsverbesserungen. Bei der Einführung von IoT-Technologien sind Unternehmen jedoch oft auf Hilfe von Außen angewiesen. ‣ weiterlesen