Künstliche Intelligenz

Vertrauen in künstliche Intelligenz schafft Vertrauen beim Kunden

Das IT-Beratungshaus Capgemini hat untersucht, welchen Einfluss ethische Grundsätze für das Vertrauen in den Einsatz künstlicher Intelligenz haben. Ethisches Verhalten wird demnach belohnt, unethisches Verhalten sanktioniert.

Bild: Capgemini Germany

Ethische Grundsätze gewinnen für das Vertrauen der Öffentlichkeit in die künstliche Intelligenz (KI) eine immer bedeutendere Rolle. Das geht aus einer Studie des Capgemini Research Institute hervor, für die 1.580 Führungskräfte von Großunternehmen aus zehn Ländern sowie mehr als 4.400 Verbraucher aus sechs Ländern befragt wurden. Verbraucher, Mitarbeiter und Bürger belohnen demnach ethisches Verhalten, sanktionieren aber auch zweifelhafte Praktiken. Zudem zeigt die Studie, dass als ethisch empfundene KI-Interaktionen die Kaufbereitschaft und Loyalität der Verbraucher gegenüber Unternehmen steigern.

Mehr Vertrauen

62% der befragten Verbraucher vertrauen Unternehmen mehr, wenn KI-basierte Interaktionen als ethisch wahrgenommen werden. Positive Erfahrungen würden 61% mit Freunden und Familie teilen, 59% würden eine höhere Loyalität gegenüber dem Unternehmen empfinden. Jeweils 55% geben an, sie würden in dem Fall mehr Produkte kaufen sowie gute Bewertungen in den sozialen Medien geben. Ethische Probleme bei der KI-Interaktion, etwa fehlende Zustimmung zur Datennutzung oder intransparente und verzerrte Ergebnisse, haben laut Studie hingegen negative Auswirkungen: 41% der Konsumenten würden sich beschweren, 36% eine Erklärung verlangen. Ein Drittel würde den Kontakt zum Unternehmen abbrechen.

Ethische Fragestellungen für Führungskräfte

Etwa 90% aller befragten Führungskräfte geben an, dass die Nutzung von KI innerhalb der vergangenen zwei bis drei Jahre ethische Fragen aufgeworfen habe. Zu den Vorkommnissen zählen im Gesundheitswesen etwa das Erheben persönlicher Patientendaten ohne vorherige Zustimmung oder ein übermäßiges Vertrauen in nicht transparente, maschinell getroffene Entscheidungen bei Banken und Versicherungen. 53% der Führungskräfte finden es wichtig sicherzustellen, dass KI-Systeme ethisch und transparent sind. 41% geben in der Studie an, dass sie den Einsatz von ethisch problematischen KI-Systemen wahrscheinlich beenden würden oder dies bereits getan haben. Als wichtigste Gründe für ethische Defizite von KI-Systemen nannten Führungskräfte in Deutschland und weiteren Ländern den Druck zur schnellen Einführung entsprechender Systeme sowie Ressourcenmangel und fehlende Berücksichtigung ethischer Standards bei der Einführung. Für Datenwissenschaftler sind fehlende Richtlinien und Daten die größten Hindernisse, der zeitliche Druck kommt an vierter Stelle.

Regulierungen für den KI-Einsatz

Mit 47% (Deutschland: 42%) gibt etwa die Hälfte der Befragten an, mindestens zwei Mal innerhalb der letzten zwei bis drei Jahre mit ethisch unzureichenden KI-Anwendungen konfrontiert worden zu sein. Wenn Leistungen KI-gestützt sind, spricht sich eine Mehrheit von 74% für mehr Transparenz aus. Zudem wollen die Befragten wissen, ob sie von einer KI fair und diskriminierungsfrei behandelt werden (72%). Drei Viertel der Befragten (Deutschland 70%) sind in der Studie der Ansicht, dass es weitere Regulierungen für Unternehmen zum KI-Einsatz geben sollte.

Das könnte Sie auch interessieren

Rund 100Mrd.€ Schaden ist deutschen Unternehmen im vergangenen Jahr durch kriminelle Attacken entstanden. 75% der für eine Bitkom-Studie befragten Unternehmen waren von einer solchen Attacke betroffen. ‣ weiterlesen

Anzeige

Das Fraunhofer Institut für System- und Innovationsforschung (ISI) hat im Rahmen einer Studie untersucht, wie Plattformen in der Industrie angekommen sind. Demnach nutzt etwa ein Drittel der Betriebe im Verarbeitenden Gewerbe ‘digitale Marktplätze‘.‣ weiterlesen

Anzeige

Durch Digitalisierung und Industrie 4.0 ergeben sich mehr Angriffsflächen für potenzielle Angreifer. Die Metallindustrie bildet in dieser Entwicklung keine Ausnahme. Diesbezüglich hat der Security-Spezialist Tenable eine Befragung durchgeführt. Demnach wurden 90 Prozent der Befragten Unternehmen in den vergangenen zwei Jahren Opfer eines Cyberangriffs.‣ weiterlesen

Anzeige

Exklusiv für Abonnenten

Eine Studie von Oracle und Future Workplace zeigt auf, wie stark auf KI basierende Geschäftsanwendungen das Verhältnis zwischen Mensch und Technik am Arbeitsplatz verändern. Zudem würde ein Teil der Befragten der KI in einigen Bereichen eher das Vertrauen aussprechen als dem Vorgesetzten.‣ weiterlesen

Bundesforschungsministerin Anja Karliczek und der Beauftragte für Digitale Wirtschaft des Bundeswirtschaftsministeriums, Thomas Jarzombek, haben in Dortmund die Pläne für ein europäisches Cloud-Projekt vorgestellt.‣ weiterlesen

Der Industrie-4.0-Index, den die Unternehmensberatung Staufen bereits zum sechsten Mal aufgelegt hat, ist auch in der 2019er Auflage erneut gestiegen. Demnach setzen mehr als die Hälfte der befragten Unternehmen Industrie 4.0 operativ um. Der Sprung von der Einzellösung hin zum unternehmensübergreifenden Einsatz gelingt jedoch nur selten.‣ weiterlesen