Pattsituation in Sachen Glaubwürdigkeit

Künstliche Intelligenz vs. Mensch

Texte, die von einer künstlichen Intelligenz geschrieben wurden, sind leicht zu erkennen? Ganz so einfach scheint es nicht zu sein, wie ein gemeinsames Forschungsteam der Hochschule Mainz und der Johannes Gutenberg-Universität Mainz herausgefunden hat.

Bild: ©Dominik Sobania und Louisa Schwarz

In einer Zeit, in der das Internet für viele Menschen zur Hauptquelle von Informationen geworden ist, hat die Glaubwürdigkeit von Online-Inhalten und deren Quellen einen kritischen Wendepunkt erreicht. Dieses Besorgnis wird durch die Verbreitung von Anwendungen generativer künstlicher Intelligenz (KI) wie ChatGPT und Google Bard verstärkt. Im Gegensatz zu Plattformen, deren Inhalte von Menschen erstellt und betreut werden, erzeugen KI-gesteuerte Systeme die Inhalte eigenständig – oft mit Fehlern. Eine gemeinsame Studie der Hochschule Mainz und der Johannes Gutenberg-Universität Mainz (JGU) widmet sich der Frage, wie Nutzer die Glaubwürdigkeit von KI-generierten Inhalten und von Menschen erstellten Inhalten auf verschiedenen Benutzeroberflächen beurteilen. An der Studie haben mehr als 600 englischsprachige Personen teilgenommen.

Ähnliche Glaubwürdigkeit

Prof. Dr. Martin Huschens, Professor für Wirtschaftsinformatik an der Hochschule Mainz und einer der Autoren der Studie, betont: “Unsere Studie enthüllte einige wirklich überraschende Erkenntnisse. Es zeigte sich, dass die Teilnehmer unserer Studie KI-generierte und menschen-generierte Inhalte als ähnlich glaubwürdig einschätzen und zwar unabhängig von der Benutzeroberfläche.” Und er fügt hinzu: “Noch faszinierender ist, dass die Teilnehmer KI-generierten Inhalten eine höhere Klarheit und Anziehungskraft zusprachen, obwohl es keine signifikanten Unterschiede in Bezug auf die wahrgenommene Nachrichtenkompetenz und Vertrauenswürdigkeit gab – und das obwohl KI-generierte Inhalte nach wie vor ein hohes Risiko für Fehler, Missverständnisse und halluzinatorisches Verhalten aufweisen.”

Menschen sensibilisieren

Prof. Dr. Franz Rothlauf von der Johannes Gutenberg-Universität Mainz sagt dazu: “Der Beitrag zeigt auf, dass im Zeitalter von ChatGPT Menschen nicht mehr zwischen Mensch und Maschine unterscheiden können. Da Maschinen allerdings nicht ‘wissen’, sondern statistisch raten, brauchen wir zukünftig eine Kennzeichnungspflicht von maschinengeneriertem Wissen. Sonst können Menschen nicht mehr zwischen Fiktion und Wahrheit unterscheiden.” Es bleibe außerdem eine Aufgabe der Wissenschaftskommunikation und nicht zuletzt auch eine gesellschaftliche und politische Herausforderung, den Menschen für eine verantwortungsvolle Verwendung von KI-generierten Inhalten zu sensibilisieren, so die Studienverantwortlichen. www.uni-mainz.de

Das könnte Sie auch interessieren

Riverbed hat 1.800 Führungskräfte zu ihren Ansichten über neue Arbeitsformen, die wachsende Rolle der IT und ihre Strategien für die Digital Employee Experience befragt. Christian Siemann von Riverbed stellt die Ergebnisse vor.‣ weiterlesen

Unternehmen stehen aktuell vor großen Herausforderungen. Das Konzept des linearen Wirtschaftens wird immer stärker in Frage gestellt. Gleichzeitig herrscht ein hoher Digitalisierungs- und Innovationsdruck. Unternehmen müssen also ressourcen- und kostenschonend wirtschaften, um in Zukunft wettbewerbsfähig zu bleiben. In vielen Unternehmen gebe es laut einer Studie des Leasingunternehmens CHG-Meridian zwar bereits eine Nachhaltigkeitsstrategie, aber Potenziale bestimmter Maßnahmen würden nicht erkannt.‣ weiterlesen

Der D21-Digital-Index erhebt jährlich, wie digital die deutsche Gesellschaft ist und wie resilient sie für die Zukunft aufgestellt ist. Deutlich wird auch in diesem Jahr: Der Großteil der Menschen in Deutschland hat an der digitalen Welt teil und kann ihre Möglichkeiten selbstbestimmt für sich nutzen. Der Index-Wert liegt bei 58 von 100 Punkten (+1 zum Vorjahr).‣ weiterlesen

Auch künstliche Intelligenz verbraucht Ressourcen. Forschende des Instituts für ökologische Wirtschaftsforschung, AlgorithmWatch und des DAI-Labors der TU Berlin fordern daher, die Nachhaltigkeitsauswirkungen von KI über den gesamten Lebenszyklus hinweg stärker in den Blick zu nehmen.
‣ weiterlesen

Der D21-Digital-Index erhebt, wie digital die deutsche Gesellschaft ist und wie resilient sie für die Zukunft aufgestellt ist. Auch in diesem Jahr zeigt sich: Der Großteil der Menschen in Deutschland nimmt an der digitalen Welt teil und kann ihre Möglichkeiten selbstbestimmt für sich nutzen. Der Indexwert steigt um einen Punkt auf 58 von 100 Punkten. ‣ weiterlesen

Delinea, ein Anbieter für Privileged Access Management (PAM), beobachtet einen Strategiewechsel bei Cyberkriminellen. Anstatt ein Unternehmen mit Ransomware lahmzulegen und als Geisel zu nehmen, werden sensible Daten heimlich exfiltriert. Cyberkriminelle drohen dann häufig damit, die Daten an den Meistbietenden zu verkaufen oder sie zu nutzen, um eine Cyberversicherungszahlung zu erhalten.‣ weiterlesen

Welche Voraussetzungen müssen erfüllt sein, damit Anwender KI-Anbietern vertrauen können und deren KI-Lösung nutzen? Diese Frage steht im Mittelpunkt des Forschungsprojektes ‘TrustKI’, das Anfang 2023 am Institut für Internet-Sicherheit – if(is) der Westfälischen Hochschule gestartet ist. Erste Antworten liefert eine kürzlich ­abgeschlossene Anwender-Studie.‣ weiterlesen

Gemeinsam mit dem Institute of Technology Management der University of St.Gallen hat das WZL den?Status quo von Datenanalysen in der produzierenden Industrie untersucht. Die Autoren betonen die wachsende Bedeutung für die Industrie, aber auch den weiteren Forschungsbedarf.‣ weiterlesen

Ein neues Fabriklayout sollte im finnischen Industrieunternehmen Hydroline für optimierte Arbeitsabläufe sorgen. Doch eine zweidimensionale Planung am Bildschirm wurde diesem Vorhaben nicht gerecht. Per VR-Simulation gelang es dem Fertiger, die Planung immersiv zu gestalten und auch Designfehler zu entdecken, die am Bildschirm vielleicht unbemerkt geblieben wären.‣ weiterlesen

Von der Kostensenkung bis hin zu neuen Geschäftsmodellen: In der Analyse von Daten steckt viel Potenzial. Dennoch zögern Unternehmen oft. Zu groß erscheinen beispielsweise technische Einstiegshürden. Wie Unternehmen eine Basis-Datenstrategie schaffen, beschreibt dieser Beitrag.‣ weiterlesen

Automatisierte Lagersysteme sind eines der Steckenpferde des Automatisierungsspezialisten Lenze. Zusammen mit dem Fraunhofer IEM entwickelte die Firma jetzt einen KI-basierten Wartungsassistenten für ihre Hochregallager. So vermeidet das Unternehmen ungeplante Stillstände und spart Zeit und Kosten. Künftig sollen auch Kunden dieses System für ihre Intralogistik erwerben können. Gefördert wurde die Zusammenarbeit der Lenze-Tochter Encoway mit dem Fraunhofer IEM im It's OWL-Projekt Easy.‣ weiterlesen