Künstliche Intelligenz (KI) übersetzt Texte, schlägt Behandlungen für Patienten vor, trifft Kaufentscheidungen und optimiert Arbeitsabläufe. Aber wo ist ihr moralischer Kompass? Eine Studie des Centre for Cognitive Science der TU Darmstadt zeigt, dass KI-Maschinen von Menschen lernen können, wie Entscheidungen in moralischen Fragen zu fällen sind.
(Bild: ©nadia_snopek/Fotolia.com )
KI ist von zunehmender Bedeutung in unserer Gesellschaft. Von selbstfahrenden Autos auf öffentlichen Straßen über selbst-optimierende, industrielle Produktionssysteme bis hin zur Altenpflege und der Medizin – KI-Maschinen bewältigen immer komplexere menschliche Aktivitäten auf immer autonomere Weise. Und in Zukunft werden autonome Maschinen in immer mehr Bereichen unseres täglichen Lebens auftauchen. Zwangsläufig werden sie dabei mit schwierigen Entscheidungen konfrontiert.
Ein autonomer Roboter muss wissen, dass er Menschen nicht, Zeit aber sehr wohl totschlagen darf. Er muss wissen, dass man Brot toastet, jedoch keine Hamster. KI braucht also einen menschenähnlichen Moral-Kompass. Aber kann sie einen solchen Kompass von uns Menschen überhaupt erlernen? Forscher aus Princeton (USA) und Bath (UK) hatten bereits auf die Gefahr hingewiesen, dass KI bei unreflektierter Anwendung kulturelle Stereotype oder Vorurteile aus Texten erlernt: Beispielsweise wurden weibliche Namen eher mit Kunst und männliche Namen eher mit Technik verknüpft. Die künstliche Intelligenz zieht diese Vorurteile aus sehr großen Textmengen aus dem Internet. Diese werden benutzt, um neuronale Netzwerke so zu trainieren, dass sie die Bedeutung von Wörtern in Koordinaten, also Punkte, in einem hochdimensionalen Raum ‘übersetzen’. Die semantische Nähe zweier Wörter zueinander kann dann durch die Distanz ihrer Koordinaten, die sogenannten Worteinbettungen, ausgedrückt werden. So lassen sich komplexe semantische Zusammenhänge durch Arithmetik berechnen und beschreiben. Das gilt nicht nur für das unverfängliche Beispiel ‘König – Mann + Frau = Königin’, sondern auch für das diskriminierende ‘Mann – Technik + Kunst = Frau’.
IIoT World DACH Konferenz 2023 Die Konferenz Industry of Things World DACH ist Ihr Tor zur Welt des Industrial Internet of Things (IIoT) – mit Schwerpunkten auf den folgenden zukunftsweisenden Themen:
‣ weiterlesen
Anzeige
Einem Team um Professor Kristian Kersting und Professor Constantin Rothkopf am Centre for Cognitive Science der TU Darmstadt ist es nun gelungen zu zeigen, dass auch deontologische, ethische Überlegungen über richtiges und falsches Handeln aus großen Textdatenmengen gelernt werden können. Dazu erstellten die Wissenschaftler Listen von Frage-Antwort-Schemata für verschiedene Handlungen. Die Fragen lauten z.B. “Sollte ich Menschen töten?” oder “Sollte ich Menschen ermorden?”, die möglichen Antworten beispielsweise “Ja, sollte ich”, “Nein, sollte ich nicht”. Durch die Analyse von Texten menschlichen Ursprungs bildete das KI-System im Experiment dann eine menschenähnliche, moralische Ausrichtung heraus. Das System berechnet die Einbettungen der gelisteten Fragen und möglichen Antworten im Textkorpus und prüft, welche Antworten aufgrund aller Nennungen näher bei den Fragen stehen, also gemeinhin als moralisch korrekt angesehen werden dürften. So lernte die künstliche Intelligenz im Experiment, dass man nicht lügen sollte und dass es besser ist, seine Eltern zu lieben, als eine Bank auszurauben. Und ja, man soll Menschen nicht töten, es ist aber in Ordnung, Zeit totzuschlagen. Die Untersuchung liefert ein wichtiges Indiz für eine grundlegende Frage der künstlichen Intelligenz: Können Maschinen einen Moral-Kompass entwickeln? Und wenn ja, wie kann man Maschinen effektiv unsere Moral ‘beibringen’? Die Ergebnisse zeigen, dass Maschinen unsere Werte widerspiegeln können. Sie können menschliche Vorurteile übernehmen, sie können aber auch durch das ‘Beobachten’ von Menschen und den von ihnen geschriebenen Texten Moralvorstellungen übernehmen. Die Untersuchung von Einbettungen von Fragen und Antworten kann als Methode gleichsam wie ein Mikroskop verwendet werden, um die moralischen Werte von Textsammlungen und auch den zeitlichen Verlauf von Moralvorstellungen in der Gesellschaft zu untersuchen. Die Erkenntnisse aus der Studie können künftig einen wichtigen Beitrag leisten, wenn es darum geht, maschinell gelernte Inhalte in Systeme einzubauen, die Entscheidungen treffen müssen.
Im Rahmen der Initiative ’Mission KI’ der Bundesregierung entstehen zwei KI-Zentren, eines davon in enger Kooperation mit dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Kaiserslautern. Gründer, Startups und Unternehmen sollen dort Zugang zur Spitzenforschung erhalten und ihre Anwendungen in Testumgebungen verbessern können.‣ weiterlesen
In einer aktuellen Studie mahnt der Elektronikkonzern Sharp die Wichtigkeit von IT-Sicherheitsmaßnahmen für Multifunktionsdrucker (MFPs) an. Demnach war bereits jedes fünfte deutsche KMU von einer über MFPs ausgehenden IT-Sicherheitsverletzung betroffen. Dennoch hat mehr als ein Drittel keine druckerspezifischen Sicherheitsvorkehrungen getroffen.‣ weiterlesen
Nachhaltigkeit ja, nur wie? Eine Lünendonk-Studie zeigt, dass viele Industrieunternehmen zwar eine Strategie haben, die Umsetzung dieser allerdings vielerorts noch stockt. Die Erwartungen an die Unternehmen werden jedoch nicht kleiner.‣ weiterlesen
Die vierte industrielle Revolution macht aus Produktionsanlagen ein intelligentes Netz aus Maschinen und Prozessen – theoretisch. Auf dem Weg dorthin scheitern Unternehmen häufig, wenn künstliche Intelligenz und ML-Methoden im Spiel sind. Eine sorgsam geplanten Transformationsstrategie hilft das zu vermeiden.‣ weiterlesen
Lieferkettenstörungen sind eine Belastung für Industrieunternehmen, die bis hin zum Produktionsstillstand führen können. Dies war im vergangenen Jahr an 32 Tagen der Fall. Um sich diesem Problem entgegenzustellen, will die Mehrheit der Unternehmen auf die Diversifizierung der Lieferketten setzen.‣ weiterlesen
Aktuell befindet sich die Branche mitten in der Transformation von KI in Fertigungsprozessen und es gibt viele Fallstudien, die zeigen, wie KI erfolgreich implementiert werden kann. Eine Erkenntniss ist, dass sich 90 Prozent aller Arbeiten in einem KI-Projekt nicht wirklich um KI selbst drehen, sondern um Hilfsprozesse, wie etwa die Bereinigung von Daten, die Organisation von Teams oder Umstrukturierungen.‣ weiterlesen
Die IDTA bietet auf der SPS 2023 eine zentrale Anlaufstelle für alle Themen rund um die Verwaltungsschale. Unter anderem sollen zwei Demonstratoren den Einsatz der Verwaltungsschale für spezifische Anwendungen veranschaulichen.‣ weiterlesen
Bei der IT-Sicherheit ist die Rolle von Angestellten im Wandel. Immer mehr Unternehmen setzen auf Human Centered Security und betrachten ihre Mitarbeitenden als Aktivposten im Kampf gegen kriminelle Hacker. Wie es aktuell um den Faktor Mensch bei der IT-Sicherheit steht, zeigt die Studie 'Cybersicherheit in Zahlen' von G Data CyberDefense, Statista und brand eins.‣ weiterlesen
Ein Unternehmen mit Produktionsstandorten in Europa, Asien oder Südamerika arbeitet mit hunderten, teils tausenden Logistik- und Transportdienstleistern zusammen. Die eigene Lieferkette zu überblicken, ist daher die Herkulesaufgabe bei der Ermittlung des Carbon Footprints. Ein Produkt dafür bietet das Unternehmen Shipzero, das eine Datenplattform zur Messung von CO2-Emissionen extra für die Transport- und Logistikbranche entwickelt hat. Die Anwendung ermöglicht den Datenaustausch zwischen Verladern und Dienstleistern, ermittelt präzise Scope-3-Emissionen und identifiziert Maßnahmen zur Dekarbonisierung.‣ weiterlesen
Ein Forschungskonsortium hat sich im Projekt 'Härtung der Wertschöpfungskette durch quelloffene, vertrauenswürdige EDA-Tools und Prozessoren' (HEP) das Ziel gesetzt, einen Chip aus kostenlosen und quelloffenen Komponenten zu fertigen. Das Verspricht Vorteile für Studenten, KMUs und Großindustrie.‣ weiterlesen
Ransomware-Angriffe sind nach wie vor die größte Bedrohung aus dem Cyberraum. Das geht aus dem aktuellen BSI-Lagebericht hervor, den Bundesinnenministerin Nancy Faeser und BSI-Präsidentin Claudia Plattner nun vorgestellt haben.‣ weiterlesen
Zeitschrift für Industrie 4.0, Internet of Things & Digitale Transformation
Laut aktuellem Open-Source-Monitor des Branchenverbands Bitkom setzen 7 von 10 Unternehmen Open-Source-Software ein. Die Unternehmen nutzen dabei nicht nur die Software, sondern tragen laut Untersuchung auch zum Erfolg von Open-Source-Projekten bei, etwa durch kostenpflichtigen Support.‣ weiterlesen
Der Mobilfunkstandard 5G könnte die datengetriebene Vernetzung von Mensch und Maschine - auch Hyperkonnektivität genannt - bald deutlich beschleunigen. Produzierenden Unternehmen eröffnet das neue Formen des Arbeitens und könnte langfristig der größte Antrieb für intelligente Fabriken sein, kommentiert Christian Maasem von Detecon International.‣ weiterlesen
Niemand denkt gerne über potenzielle Störungen oder Maschinenausfälle nach. Allerdings sind diese in allen produzierenden Unternehmen ein großer Teil des Tagesgeschäfts. Industrieunternehmen, die heute wettbewerbsfähig bleiben wollen, kommen daher um eine smarte Maintenance-Strategie nicht herum.‣ weiterlesen
Laut einer PwC-Studie beeinflussenb die Vorgaben der Corporate Sustainability Reporting Directive (CSRD) bereits heute operative Entscheidungen. So erheben 60 Prozent der Befragten bereits KPIs. Technische Komplexität, fehlende Ressourcen und Zeitdruck stehen der Umsetzung jedoch im Weg.‣ weiterlesen
Gartner hat eine Liste der zehn wichtigsten strategischen Technologietrends veröffentlicht, die Unternehmen 2024 berücksichtigen sollten. Künstliche Intelligenz spielt dabei gleich mehrfach eine Rolle.‣ weiterlesen
Exklusiv für Abonnenten
