Large Language Models

Laut Studie: Sprachbasierte KIs haben verborgene Moral- und Wertevorstellungen

Genauso wie Menschen haben auch große KI-Sprachmodelle Merkmale wie Moral- und Wertevorstellungen. Diese sind jedoch nicht immer transparent. Forschende der Universität Mannheim und des Gesis – Leibniz-Instituts für Sozialwissenschaften haben untersucht, wie die Eigenschaften der Sprachmodelle sichtbar werden können und welche Folgen diese Voreingenommenheit für die Gesellschaft haben könnte.

Bild: ©ipopba/stock.adobe.com

Beispiele für Stereotypen findet man bei kommerziellen KI-gestützten Anwendungen wie ChatGPT oder deepl, die oft automatisch annehmen, dass leitende Ärzte männlich und Pflegekräfte weiblich sind. Doch nicht nur bei Geschlechterrollen können große Sprachmodelle (Large Language Models, LLMs) bestimmte Tendenzen zeigen. Auch für andere menschliche Merkmale ist dies messbar. Das haben Forschende der Universität Mannheim und des Gesis– Leibniz-Instituts für Sozialwissenschaften in einer Studie anhand einer Reihe von offen verfügbaren LLMs aufgezeigt.

Die Forschenden untersuchten mithilfe von etablierten psychologischen Tests die Profile der unterschiedlichen LLMs und verglichen diese miteinander. „In unserer Studie zeigen wir, dass man psychometrische Tests, die seit Jahrzehnten erfolgreich bei Menschen angewendet werden, auch auf KI-Modelle übertragen kann“, betont Studienautor Max Pellert, Assistenzprofessor am Lehrstuhl für Data Science in den Wirtschafts- und Sozialwissenschaften der Universität Mannheim.

“Ähnlich wie wir bei Menschen Persönlichkeitseigenschaften, Wertorientierungen oder Moralvorstellungen durch Fragebogen messen, können wir LLMs Fragebogen beantworten lassen und ihre Antworten vergleichen“, so der Psychologe Clemens Lechner vom Gesis in Mannheim, ebenfalls Autor der Studie. Dies mache es möglich, differenzierte Eigenschaftsprofile der Modelle zu erstellen. Die Forschenden konnten beispielsweise bestätigen, dass manche Modelle genderspezifische Vorurteile reproduzieren: Wenn im ansonsten gleichen Text eines Fragebogens einmal eine männliche und einmal eine weibliche Person im Mittelpunkt steht, werden diese unterschiedlich bewertet. Handelt es sich um einen Mann, so wird der Wert ‘Achievement’ – also Leistung – im Text stärker betont, wohingegen bei Frauen die Werte Sicherheit und Tradition dominieren.

Dies könne weitreichende Auswirkungen auf die Gesellschaft haben, Pellert. Werden Sprachmodelle beispielsweise in Bewerbungsverfahren eingesetzt, und die Maschine voreingenommen, fließt das in die Bewertung ein. „Die Modelle bekommen eine gesellschaftliche Relevanz über die Kontexte, in denen sie eingesetzt werden“, fasst er zusammen. Deshalb sei es wichtig, bereits jetzt mit der Untersuchung anzufangen und auf potenzielle Verzerrungen hinzuweisen. In fünf oder zehn Jahren wäre es möglicherweise zu spät für so ein Monitoring: „Die Vorurteile, welche die KI-Modelle reproduzieren, würden sich verfestigen und der Gesellschaft schaden“, so Pellert.

Die Studie wurde am Lehrstuhl für Data Science in den Wirtschafts- und Sozialwissenschaften von Prof. Dr. Markus Strohmaier in Zusammenarbeit der Abteilung Survey Design und Methodology von Prof. Dr. Beatrice Rammstedt durchgeführt.

Das könnte Sie auch interessieren

86 Prozent sehen die Digitalisierung grundsätzlich positiv. Dennoch fühlen sich laut einer Befragung von Bitkom Research 41 Prozent häufig überfordert. Auch schätzt eine Mehrheit das Land als digital gespalten ein. ‣ weiterlesen

Eine aktuelle Studie von Protolabs, zu der mehr als 700 Ingenieure weltweit befragt und Daten der Industrie ausgewertet wurden, zeigt den aktuellen und künftigen Zustand der additiven Fertigung auf. Demnach wächst der Markt sogar schneller als bisher angenommen.‣ weiterlesen

Die Integration von Ergonomie in den Entwicklungsprozess von Maschinen und Arbeitsplätzen spielt eine entscheidende Rolle für die Kosteneffizienz und die Benutzerfreundlichkeit. Virtual Reality (VR) bietet einen modernen Ansatz, um frühzeitige Ergonomieuntersuchungen zu beschleunigen und zu verbessern. Die Integration von VR ermöglicht eine realistische Simulation menschlicher Bewegungen und vermeidet kostspielige spätere Anpassungen. Die Anwendung erfordert jedoch geeignete Hardware und Software sowie geschultes Personal.‣ weiterlesen

Die Innovationstätigkeit in Digitaltechnologien nimmt weiter an Fahrt auf. Und laut Deutschem Patent- und Markenamt dominieren die USA und China in diesen Bereichen. Die deutsche Bilanz ist zwiespältig.‣ weiterlesen

Eine neue Studie von Reichelt Elektronik beleuchtet den aktuellen Stand sowie das Potenzial bezüglich Technologien wie künstlicher Intelligenz, Machine Learning, Big Data, Robotik sowie IoT und deren Einsatz in deutschen Industrieunternehmen.‣ weiterlesen

Data Sharing birgt großes Potenzial, wird aber kaum genutzt. Rechtssicherheit, gemeinsame Modelle und finanzielle Anreize könnten Unternehmen zum Teilen bewegen, so repräsentative eine ZEW-Studie mit 1.400 Firmen.‣ weiterlesen

Laut der Staufen-Studie 'Performance-Treiber 2024' gehen acht von zehn der mehr als 200 befragten Industrieunternehmen davon aus, dass die Einführung neuer Technologien für einen Produktivitätsschub sorgen wird. Vor allem in der Datenanalyse werden große Potenziale gesehen.‣ weiterlesen

Keine zusätzlichen Server mehr? Das verspricht die Cloud-RAN-Technologie, mit der industrielle Anwendungen und 5G-Funktionalitäten auf gemeinsam genutzter Hardware laufen können. Der 5G-Industry Campus Europe wurde nun um eine solche Technologie erweitert.‣ weiterlesen

Mehr als 700 Ingenieure und Entwickler geben in aktueller Protolabs-Studie Einblicke zu momentanen und künftigen Herausforderungen der Produktentwicklung. Demnach wissen Unternehmen mit Problemen wie etwa Materialknappheit umzugehen. Andere Einflussfaktoren wirken sich jedoch stärker aus.‣ weiterlesen

Betriebs- und Produktionsleiter müssen sich seit Juli 2023 mit neuen Vorgaben zur Maschinensicherheit befassen. Die EU-Maschinenverordnung 2023/1230 (MVO) ersetzt die bisherige Maschinenrichtlinie (MRL). Sie erweitert den Kreis der Betroffenen, liefert einheitliche Begriffe und passt die Anforderungen an den Stand der Technik an. Zudem erfasst das Gesetz nun auch die Digitalisierung.‣ weiterlesen

Der weltweite Markt für kollaborative Roboter hat im Jahr 2023 die Umsatzmarke von einer Milliarde US$ überschritten, obwohl sich die Gesamtnachfrage nach der Corona-Pandemie langsamer erholt als erwartet, so die neuen Daten von Interact Analysis.‣ weiterlesen