Pattsituation in Sachen Glaubwürdigkeit

Künstliche Intelligenz vs. Mensch

Texte, die von einer künstlichen Intelligenz geschrieben wurden, sind leicht zu erkennen? Ganz so einfach scheint es nicht zu sein, wie ein gemeinsames Forschungsteam der Hochschule Mainz und der Johannes Gutenberg-Universität Mainz herausgefunden hat.

Bild: ©Dominik Sobania und Louisa Schwarz

In einer Zeit, in der das Internet für viele Menschen zur Hauptquelle von Informationen geworden ist, hat die Glaubwürdigkeit von Online-Inhalten und deren Quellen einen kritischen Wendepunkt erreicht. Dieses Besorgnis wird durch die Verbreitung von Anwendungen generativer künstlicher Intelligenz (KI) wie ChatGPT und Google Bard verstärkt. Im Gegensatz zu Plattformen, deren Inhalte von Menschen erstellt und betreut werden, erzeugen KI-gesteuerte Systeme die Inhalte eigenständig – oft mit Fehlern. Eine gemeinsame Studie der Hochschule Mainz und der Johannes Gutenberg-Universität Mainz (JGU) widmet sich der Frage, wie Nutzer die Glaubwürdigkeit von KI-generierten Inhalten und von Menschen erstellten Inhalten auf verschiedenen Benutzeroberflächen beurteilen. An der Studie haben mehr als 600 englischsprachige Personen teilgenommen.

Ähnliche Glaubwürdigkeit

Prof. Dr. Martin Huschens, Professor für Wirtschaftsinformatik an der Hochschule Mainz und einer der Autoren der Studie, betont: “Unsere Studie enthüllte einige wirklich überraschende Erkenntnisse. Es zeigte sich, dass die Teilnehmer unserer Studie KI-generierte und menschen-generierte Inhalte als ähnlich glaubwürdig einschätzen und zwar unabhängig von der Benutzeroberfläche.” Und er fügt hinzu: “Noch faszinierender ist, dass die Teilnehmer KI-generierten Inhalten eine höhere Klarheit und Anziehungskraft zusprachen, obwohl es keine signifikanten Unterschiede in Bezug auf die wahrgenommene Nachrichtenkompetenz und Vertrauenswürdigkeit gab – und das obwohl KI-generierte Inhalte nach wie vor ein hohes Risiko für Fehler, Missverständnisse und halluzinatorisches Verhalten aufweisen.”

Menschen sensibilisieren

Prof. Dr. Franz Rothlauf von der Johannes Gutenberg-Universität Mainz sagt dazu: “Der Beitrag zeigt auf, dass im Zeitalter von ChatGPT Menschen nicht mehr zwischen Mensch und Maschine unterscheiden können. Da Maschinen allerdings nicht ‘wissen’, sondern statistisch raten, brauchen wir zukünftig eine Kennzeichnungspflicht von maschinengeneriertem Wissen. Sonst können Menschen nicht mehr zwischen Fiktion und Wahrheit unterscheiden.” Es bleibe außerdem eine Aufgabe der Wissenschaftskommunikation und nicht zuletzt auch eine gesellschaftliche und politische Herausforderung, den Menschen für eine verantwortungsvolle Verwendung von KI-generierten Inhalten zu sensibilisieren, so die Studienverantwortlichen. www.uni-mainz.de

Das könnte Sie auch interessieren

Technik

GenAI und die Frage der Nachhaltigkeit

Eine neue Studie des Capgemini Research Institute geht der Frage nach, wie es um Nachhaltigkeit bei der Nutzung generativer KI (GenAI) steht. Der Studie ‘Developing sustainable Gen AI’ zufolge hat GenAI erhebliche und zunehmende negative Aus­wirkungen auf die Umwelt.‣ weiterlesen

Arbeitswelt

Junge Menschen haben oft ein falsches Bild vom Ingenieurberuf

Der Ingenieurberuf genießt in Deutschland ein hohes Ansehen, dennoch haben junge Menschen oft ein falsches Bild von den Tätigkeiten und Herausforderungen. Das zeigt eine Auswertung wissenschaftlicher Studien durch Matrix im Auftrag des VDI.‣ weiterlesen

Technik

Auf den Spuren eines rückläufigen Industrie 4.0-Fortschritts

Ist die Industrie 4.0 eine Revolution? Aus Sicht des Fraunhofer Instituts für System - und Innovationsforschnung lautet die Antwort: nein. Die Forschenden kommen in ihrer Veröffentlichung zu dem Schluss, dass sich eher von einer Evolution sprechen lasse.‣ weiterlesen

Topstory

Deutschlands digitale Abhängigkeit steigt

Laut einer repräsentativen Umfrage des Bitkom nimmt die digitale Abhängigkeit der deutschen Wirtschaft zu. Mit Blick auf die USA und China stellt dies die Unternehmen vor Herausforderungen.‣ weiterlesen

Technik

Ransomware Report 2024 von Check Point

Stärkere Regulierungen sowie bessere Gegenmaßnahmen haben laut einer Untersuchung des Security-Spezialisten Check Point dazu geführt, dass die Ransomware-Angfriffe in Deutschland zurückgegangen sind, weltweit haben sie jedoch zugenommen.‣ weiterlesen

Technik

Die digitale Transformation in vier Stufen

Die digitale Transformation wird zur Schlüsselfrage für den Erfolg im Maschinen- und Anlagenbau. Welche Handlungsoptionen Unternehmen dabei haben, beleuchtet die Impuls-Stiftung des VDMA in ihrer neuen Kurzstudie 'Erfolgsfaktoren digitaler Geschäftsmodelle', die vom Institut FIR der RWTH Aachen erstellt wurde.‣ weiterlesen