KI und der Wunsch nach mehr Kontrolle

Wollen Unternehmen künstliche Intelligenz einsetzen, müssen sie sich mit grundlegenden Fragen beschäftigen – etwa wie KI-Entscheidungen transparent gestaltet werden können. Der IT-Dienstleister Adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema ‘Trustworthy AI’ befragt. Demnach glaubt die Mehrheit, dass KI bei Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Befragten mehr Kontrollmechanismen.

(Bild: Adesso SE)

Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Anwendungsfällen über alle Branchen hinweg zeigen bereits, welches Potenzial in künstlicher Intelligenz steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen können das Leben von Menschen auf unmittelbare Art beeinflussen, etwa bei der Personalauswahl oder der Vergabe von Krediten. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Der IT-Dienstleister Adesso hat 500 Entscheiderinnen und Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt. Die wichtigsten Erkenntnisse der Studie:

• Vertrauen in KI: Die Mehrheit der Befragten hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 Prozent, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Studienteilnehmer bei der Frage, wie Anwender zu der Technologie stehen. 61 Prozent sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen.
• Regulation erwünscht: Trotzdem finden 80 Prozent der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 Prozent sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75 Prozent diese Forderung. 70 Prozent aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll.
• KI am Arbeitsplatz: Aus Sicht der Befragten müssen Unternehmen ihre Beschäftigten stärker in KI-Projekte einbeziehen, damit diese Vertrauen in die Technologie entwickeln. 70 Prozent der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 Prozent, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.

Das könnte Sie auch interessieren

Arbeitswelt

Gute Aussichten für ITK-Markt

Trotz eines aktuell schwierigen konjunkturellen Umfelds erwartet der Digitalverband Bitkom im deutschen Markt für IT und Telekommunikation (ITK) 2025 ein Umsatzplus. Im vergangenen Jahr hatten die ITK-Umsätze um 3,3 Prozent auf 222,6Mrd.€ zugelegt.‣ weiterlesen

Topstory

Die digitale Transformation in vier Stufen

Die digitale Transformation wird zur Schlüsselfrage für den Erfolg im Maschinen- und Anlagenbau. Welche Handlungsoptionen Unternehmen dabei haben, beleuchtet die Impuls-Stiftung des VDMA in ihrer neuen Kurzstudie 'Erfolgsfaktoren digitaler Geschäftsmodelle', die vom Institut FIR der RWTH Aachen erstellt wurde.‣ weiterlesen

Technik

Sophos benennt Cybersicherheitstrends für 2025

Was bedeutet 2025 für unsere Cybersicherheit? Welche Cyberattacken werden häufiger, welche Branchen stehen besonders im Visier und welche Rolle spielt KI? Michael Veit, Technology Evangelist beim Security-Spezialisten Sophos, gibt Antworten.‣ weiterlesen

Arbeitswelt

Künstliche Intelligenz am Arbeitsplatz

Eine Umfrage von Vention und YouGov zeigt, dass die viele Menschen auf dem deutschen Arbeitsmarkt noch wenig Kontakt mit künstlicher Intelligenz (KI) haben. 50 Prozent der Befragten fühlen sich zudem nicht auf den Umgang mit KI-Anwendungen vorbereitet, 43 Prozent möchten jedoch in Zukunft KI-Tools zu verwenden. Die Einführung von KI am Arbeitsplatz sei bis dato noch begrenzt, so die Studienautoren, obwohl die Technologie das Potenzial habe, dem Arbeitskräftemangel entgegenzuwirken und ganze Branchen zu verändern.‣ weiterlesen

Technik

Retrofit mit Sensoren und KI

Im Forschungsprojekt 'AutoPres' des IPH - Institut für Integrierte Produktion Hannover und Jobotec zeigen die Beteiligten am Beispiel einer Spindelpresse, dass sich auch ältere Maschinen mit KI nachrüsten lassen.‣ weiterlesen

Technik

Mehr Drehmoment für die Kreislaufwirtschaft

Digitale Tools bringen den Aufbau einer Circular Economy auf Touren, wenn sie systemisch eingesetzt werden. Wie das gelingen kann, zeigt die Studie 'Digitale Enabler der Kreislaufwirtschaft' anhand von drei sehr unterschiedlichen Produkten: T-Shirts, Waschmaschinen und Einfamilienhäusern. Die Studie der Deutschen Akademie der Technikwissenschaften (Acatech) arbeitet heraus, welche digitalen Technologien und Anwendungen Wertschöpfungsketten zirkulär gestalten können - und wie die einzelnen Enabler im Zusammenspiel ein erweitertes Potenzial entfalten.‣ weiterlesen