KI und der Wunsch nach mehr Kontrolle

Wollen Unternehmen künstliche Intelligenz einsetzen, müssen sie sich mit grundlegenden Fragen beschäftigen – etwa wie KI-Entscheidungen transparent gestaltet werden können. Der IT-Dienstleister Adesso hat im Rahmen einer repräsentativen Studie KI-Experten in Unternehmen zum Thema ‘Trustworthy AI’ befragt. Demnach glaubt die Mehrheit, dass KI bei Kunden einen Vertrauensvorschuss genießt. Gleichzeitig wünschen sich die Befragten mehr Kontrollmechanismen.

(Bild: Adesso SE)

Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Anwendungsfällen über alle Branchen hinweg zeigen bereits, welches Potenzial in künstlicher Intelligenz steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen können das Leben von Menschen auf unmittelbare Art beeinflussen, etwa bei der Personalauswahl oder der Vergabe von Krediten. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Der IT-Dienstleister Adesso hat 500 Entscheiderinnen und Entscheider, die in Unternehmen mit KI-Anwendungen arbeiten und die Systeme entwickeln, zum Thema Trustworthy AI befragt. Die wichtigsten Erkenntnisse der Studie:

  • Vertrauen in KI: Die Mehrheit der Befragten hat hohe Erwartungen an die Anwendung. So erhoffen sich 88 Prozent, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Studienteilnehmer bei der Frage, wie Anwender zu der Technologie stehen. 61 Prozent sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen.
  • Regulation erwünscht: Trotzdem finden 80 Prozent der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54 Prozent sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75 Prozent diese Forderung. 70 Prozent aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll.
  • KI am Arbeitsplatz: Aus Sicht der Befragten müssen Unternehmen ihre Beschäftigten stärker in KI-Projekte einbeziehen, damit diese Vertrauen in die Technologie entwickeln. 70 Prozent der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91 Prozent, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.

Das könnte Sie auch interessieren

Um die Produktivität sowie die Zufriedenheit der Beschäftigten zu verbessern, setzen Employee-Experience-Führungskräfte laut einer Befragung des Softwareanbieters Zendesk vermehrt auf KI – die Mehrheit der Befragten beobachtet dadurch bereits Verbesserungen der Arbeitsqualität. ‣ weiterlesen

Eine aktuelle Studie von Protolabs, zu der mehr als 700 Ingenieure weltweit befragt und Daten der Industrie ausgewertet wurden, zeigt den aktuellen und künftigen Zustand der additiven Fertigung auf. Demnach wächst der Markt sogar schneller als bisher angenommen.‣ weiterlesen

Die Integration von Ergonomie in den Entwicklungsprozess von Maschinen und Arbeitsplätzen spielt eine entscheidende Rolle für die Kosteneffizienz und die Benutzerfreundlichkeit. Virtual Reality (VR) bietet einen modernen Ansatz, um frühzeitige Ergonomieuntersuchungen zu beschleunigen und zu verbessern. Die Integration von VR ermöglicht eine realistische Simulation menschlicher Bewegungen und vermeidet kostspielige spätere Anpassungen. Die Anwendung erfordert jedoch geeignete Hardware und Software sowie geschultes Personal.‣ weiterlesen

Die Innovationstätigkeit in Digitaltechnologien nimmt weiter an Fahrt auf. Und laut Deutschem Patent- und Markenamt dominieren die USA und China in diesen Bereichen. Die deutsche Bilanz ist zwiespältig.‣ weiterlesen

Eine neue Studie von Reichelt Elektronik beleuchtet den aktuellen Stand sowie das Potenzial bezüglich Technologien wie künstlicher Intelligenz, Machine Learning, Big Data, Robotik sowie IoT und deren Einsatz in deutschen Industrieunternehmen.‣ weiterlesen

Data Sharing birgt großes Potenzial, wird aber kaum genutzt. Rechtssicherheit, gemeinsame Modelle und finanzielle Anreize könnten Unternehmen zum Teilen bewegen, so repräsentative eine ZEW-Studie mit 1.400 Firmen.‣ weiterlesen

Laut der Staufen-Studie 'Performance-Treiber 2024' gehen acht von zehn der mehr als 200 befragten Industrieunternehmen davon aus, dass die Einführung neuer Technologien für einen Produktivitätsschub sorgen wird. Vor allem in der Datenanalyse werden große Potenziale gesehen.‣ weiterlesen

Keine zusätzlichen Server mehr? Das verspricht die Cloud-RAN-Technologie, mit der industrielle Anwendungen und 5G-Funktionalitäten auf gemeinsam genutzter Hardware laufen können. Der 5G-Industry Campus Europe wurde nun um eine solche Technologie erweitert.‣ weiterlesen

Während viele Arbeitnehmende davon ausgehen, dass ihre aktuellen Kompetenzen auch für künftige Herausforderungen am Arbeitsmarkt ausreichen, zeichnet sich auf Seiten der Arbeitgebenden ein anderes Bild. Mehr als 60 Prozent der Unternehmen sehen hier einen Nachqualifizierungsbedarf.‣ weiterlesen

Mehr als 700 Ingenieure und Entwickler geben in aktueller Protolabs-Studie Einblicke zu momentanen und künftigen Herausforderungen der Produktentwicklung. Demnach wissen Unternehmen mit Problemen wie etwa Materialknappheit umzugehen. Andere Einflussfaktoren wirken sich jedoch stärker aus.‣ weiterlesen

Betriebs- und Produktionsleiter müssen sich seit Juli 2023 mit neuen Vorgaben zur Maschinensicherheit befassen. Die EU-Maschinenverordnung 2023/1230 (MVO) ersetzt die bisherige Maschinenrichtlinie (MRL). Sie erweitert den Kreis der Betroffenen, liefert einheitliche Begriffe und passt die Anforderungen an den Stand der Technik an. Zudem erfasst das Gesetz nun auch die Digitalisierung.‣ weiterlesen