Einsatz fördern, Gefahr verringern

TÜV-Verband fordert Regulierung von KI-Anwendungen

Der TÜV-Verband fordert in einem Positionspapier KI-gestützte Anwendungen und Systeme – etwa automatisierte Fahrzeuge oder Roboter – in Abhängigkeit vom Risiko zu regulieren.


Der TÜV-Verband fordert eine gesetzliche Regulierung von Produkten und Anwendungen mit Künstlicher Intelligenz (KI). “Sind beim Einsatz von künstlicher Intelligenz die Gesundheit von Menschen oder ihre elementaren Grundrechte in Gefahr, sollten KI-Systeme bestimmte Sicherheitsanforderungen erfüllen müssen”, sagt Marc Fliehe, Leiter Digitalisierung und Cybersecurity beim TÜV-Verband (VdTÜV). Das gelte zum Beispiel für automatisierte Fahrzeuge, medizinische Diagnosen, mit Menschen interagierende Roboter oder Entscheidungssysteme, die Personen betreffen.

Einteilung in Risikoklassen

“Unser Ziel ist es, den breiten Einsatz von Künstlicher Intelligenz zu fördern und gleichzeitig die damit einhergehenden Gefahren zu verringern”, betont Fliehe. Aufgrund der unerschöpflichen Vielfalt möglicher KI-Anwendungen sei klar, dass nicht alle KI-Systeme die gleichen Anforderungen erfüllen müssen. Daher sollten KI-gestützte Systeme in Risikoklassen eingeteilt und nach ihrem Gefährdungspotenzial reguliert werden. Die Maßnahmen könnten von einem vollständigen Regulierungsverzicht über formelle Anforderungen wie Transparenzpflichten und – im nächsten Schritt – Zulassungsverfahren vor der Markteinführung bis zu einem Verbot bestimmter, besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen. Der TÜV-Verband will damit die Pläne der EU-Kommission unterstützen, die einen europäischen Rechtsrahmen für KI-Systeme schaffen will und ihre Vorstellungen im ‘Weißbuch zur Künstlichen Intelligenz’ zusammengefasst hat.

Schutz oder Gefahr

Hintergrund der Forderung ist die zunehmende Digitalisierung und Vernetzung der Welt. Fahrzeuge, Maschinen, Geräte und Produkte aller Art verfügen über digitale Funktionen und treffen autonom Entscheidungen, die Menschen schützen, aber auch in Gefahr bringen können. Darüber hinaus können KI-Systeme falsche Vorhersagen treffen oder Menschen diskriminieren, wenn sie fehlerhaft programmiert oder trainiert worden sind.

 

Das könnte Sie auch interessieren

Der Nutzen neuer Technologien kommt nur dann zum Tragen, wenn diese von den Menschen mindestens toleriert, besser aber gesamtgesellschaftlich angenommen werden. Dafür braucht es Dialog und Möglichkeiten für gemeinsame Gestaltung. Welche Kommunikationsformate sich hierfür eignen und welche Wirkung sie bei den Beteiligten erzielen, das hat das Acatech-Projekt 'Technologischen Wandel gestalten' bei den Themen elektronische Patientenakte, digitale Verwaltung und Katastrophenschutz untersucht. Jetzt hat das Projektteam die Ergebnisse vorgelegt.‣ weiterlesen

Der Fachkräftemangel erfordert einen möglichst intelligenten und flexiblen Personaleinsatz. KI spielt dabei eine wichtige Rolle. Der Industriesoftware-Spezialist Augmentir zeigt sechs Ansatzmöglichkeiten auf.‣ weiterlesen

Eine aktuelle Studie von Reichelt Elektronik betrachtet den aktuellen Stand der Digitalisierung und stellt die Frage, wie Deutschland im Vergleich zu anderen europäischen Ländern abschneidet.‣ weiterlesen

Können Roboter dabei helfen, dem Fachkräftemangel in der Logistik-Branche Herr zu werden? Der Branchenverband IFR meint ja - und zwar mit Hilfe von Robotik, die durch künstliche Intelligenz unterstützt wird.‣ weiterlesen

Künstliche Intelligenz (KI) lässt sich auch für die automatische Qualitätsüberwachung in Roboterschweißzellen nutzen. Oft fehlen hier jedoch Daten zum Trainieren und Ausführen der Algorithmen. Insbesondere für Bestandsanlagen existieren meist keine passenden Standardsysteme, da Geräte über uneinheitliche Datenmodelle und Schnittstellen verfügen. IoT-Baukästen können helfen.‣ weiterlesen

Nach Angaben der Eclipse Foundation verzeichnete die IoT-Einführung im Jahr 2023 einen sprunghaften Anstieg. 64 Prozent der Befragten setzen mittlerweile entsprechende Lösungen ein - ein Plus von 11 Prozentpunkten.‣ weiterlesen

2023 blockierte Trend Micro mehr als 161 Milliarden Cyberbedrohungen weltweit - 10 Prozent mehr als im Jahr zuvor und fast 107 Milliarden mehr als noch vor fünf Jahren. Der Security-Spezialist berichtet zudem davon, dass Cyberkriminelle gezieltere Attacken setzen. Auch Cloud-Umgebungen rücken zunehmend in den Fokus.‣ weiterlesen

Ein Forschungsteam vom Fraunhofer IPA und vom Campus Schwarzwald hat eine Roboterzelle aufgebaut, die Brennstoffzellen in Sekundenschnelle und automatisiert stecken kann. Brennstoffzellensysteme könnten so günstiger werden und den Verbrenner im Schwerlastverkehr ablösen.‣ weiterlesen

Das Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA und das Technologieunternehmen Q.ANT haben einen Vertrag zur Gründung des Kompetenz-Zentrums Mensch-Maschine-Schnittstelle unterzeichnet.‣ weiterlesen

Der Digitale Zwilling einer Produktionsanlage ermöglicht die Simulation des Verhaltens aktueller Konfigurationen. Die Implementierung neuer Produktionskonfigurationen kann so bereits im Vorfeld getestet werden. Die Integration der benötigten Simulationsmodelle einzelner Komponenten ist jedoch mit Aufwand verbunden. Hier kann die Verwaltungsschale helfen.‣ weiterlesen

Logicalis veröffentlicht seinen zehnten Jahresbericht, basierend auf den Erfahrungen von 1.000 CIOs weltweit. Technologien wie Künstliche Intelligenz (KI) und neue Cyberbedrohungen dominieren darin die Prioritäten der CIOs.‣ weiterlesen