Künstliche Intelligenz

Vertrauen in künstliche Intelligenz schafft Vertrauen beim Kunden

Das IT-Beratungshaus Capgemini hat untersucht, welchen Einfluss ethische Grundsätze für das Vertrauen in den Einsatz künstlicher Intelligenz haben. Ethisches Verhalten wird demnach belohnt, unethisches Verhalten sanktioniert.

Bild: Capgemini Germany

Ethische Grundsätze gewinnen für das Vertrauen der Öffentlichkeit in die künstliche Intelligenz (KI) eine immer bedeutendere Rolle. Das geht aus einer Studie des Capgemini Research Institute hervor, für die 1.580 Führungskräfte von Großunternehmen aus zehn Ländern sowie mehr als 4.400 Verbraucher aus sechs Ländern befragt wurden. Verbraucher, Mitarbeiter und Bürger belohnen demnach ethisches Verhalten, sanktionieren aber auch zweifelhafte Praktiken. Zudem zeigt die Studie, dass als ethisch empfundene KI-Interaktionen die Kaufbereitschaft und Loyalität der Verbraucher gegenüber Unternehmen steigern.

Mehr Vertrauen

62% der befragten Verbraucher vertrauen Unternehmen mehr, wenn KI-basierte Interaktionen als ethisch wahrgenommen werden. Positive Erfahrungen würden 61% mit Freunden und Familie teilen, 59% würden eine höhere Loyalität gegenüber dem Unternehmen empfinden. Jeweils 55% geben an, sie würden in dem Fall mehr Produkte kaufen sowie gute Bewertungen in den sozialen Medien geben. Ethische Probleme bei der KI-Interaktion, etwa fehlende Zustimmung zur Datennutzung oder intransparente und verzerrte Ergebnisse, haben laut Studie hingegen negative Auswirkungen: 41% der Konsumenten würden sich beschweren, 36% eine Erklärung verlangen. Ein Drittel würde den Kontakt zum Unternehmen abbrechen.

Ethische Fragestellungen für Führungskräfte

Etwa 90% aller befragten Führungskräfte geben an, dass die Nutzung von KI innerhalb der vergangenen zwei bis drei Jahre ethische Fragen aufgeworfen habe. Zu den Vorkommnissen zählen im Gesundheitswesen etwa das Erheben persönlicher Patientendaten ohne vorherige Zustimmung oder ein übermäßiges Vertrauen in nicht transparente, maschinell getroffene Entscheidungen bei Banken und Versicherungen. 53% der Führungskräfte finden es wichtig sicherzustellen, dass KI-Systeme ethisch und transparent sind. 41% geben in der Studie an, dass sie den Einsatz von ethisch problematischen KI-Systemen wahrscheinlich beenden würden oder dies bereits getan haben. Als wichtigste Gründe für ethische Defizite von KI-Systemen nannten Führungskräfte in Deutschland und weiteren Ländern den Druck zur schnellen Einführung entsprechender Systeme sowie Ressourcenmangel und fehlende Berücksichtigung ethischer Standards bei der Einführung. Für Datenwissenschaftler sind fehlende Richtlinien und Daten die größten Hindernisse, der zeitliche Druck kommt an vierter Stelle.

Regulierungen für den KI-Einsatz

Mit 47% (Deutschland: 42%) gibt etwa die Hälfte der Befragten an, mindestens zwei Mal innerhalb der letzten zwei bis drei Jahre mit ethisch unzureichenden KI-Anwendungen konfrontiert worden zu sein. Wenn Leistungen KI-gestützt sind, spricht sich eine Mehrheit von 74% für mehr Transparenz aus. Zudem wollen die Befragten wissen, ob sie von einer KI fair und diskriminierungsfrei behandelt werden (72%). Drei Viertel der Befragten (Deutschland 70%) sind in der Studie der Ansicht, dass es weitere Regulierungen für Unternehmen zum KI-Einsatz geben sollte.

Das könnte Sie auch interessieren

Laut einer Bitkom-Studie sehen deutsche Industrie-Unternehmen digitale Plattformen eher als Risiko für das eigene Geschäft an.‣ weiterlesen

Anzeige

Security Automation, Management digitaler Identitäten, Aufbau neuer Plattformen, Schutz vor Bedrohungen durch IoT-fähige Geräte und Einsatz von DevOps — laut einer Studie des IT-Dienstleisters Capgemini sind dies die Trends des IT-Jahres 2020.‣ weiterlesen

Anzeige

Palo Alto Networks beleuchtet den Zusammenhang von 5G und IT-Sicherheit‣ weiterlesen

Anzeige

Vernetzte Maschinen bieten echte Vorteile, die zentrale Überwachung von Anlagen birgt große Verbesserungspotenziale. Aber wenn hierfür erst die einst teuer angeschafften Maschinen ausgetauscht werden müssen, dann ist das Kosten/Nutzen-Verhältnis in Frage gestellt. Eine Lösung für dieses Problem heißt Retrofit.‣ weiterlesen

Anzeige

58 Prozent der Menschen in Deutschland vertrauen der öffentlichen Verwaltung und sind überzeugt, dass ihre Daten auf Behörden-Servern vernünftig geschützt sind. Jeder Dritte hat leichte Zweifel, dass Behörden die nötigen Sicherheitsmaßnahmen ergreifen, acht Prozent glauben nicht daran, dass ihre persönlichen Daten sicher sind. Das zeigt: Parallel zur Erweiterung des Online-Angebots der öffentlichen Verwaltung wartet auf Bund, Länder und Kommunen auch Überzeugungsarbeit beim Thema Datenschutz. Zu diesem Ergebnis kommt das 'Digital Government Barometer' von Sopra Steria, für das 999 Bundesbürgerinnen und Bundesbürger befragt wurden.‣ weiterlesen

Exklusiv für Abonnenten

Dass künstliche Intelligenz für Unternehmen eine wichtige Rolle spielt, ist klar. Stattdessen geht es darum, Möglichkeiten zu finden wie KI dazu beitragen kann, Geschäftsziele zu erreichen und den Umsatz zu steigern. Der IT-Konzern Oracle hat aufgeführt, welche Trends der KI-Seinsatz im Bereich von Business-Software ermöglicht.‣ weiterlesen