Einsatz fördern, Gefahr verringern

TÜV-Verband fordert Regulierung von KI-Anwendungen

Der TÜV-Verband fordert in einem Positionspapier KI-gestützte Anwendungen und Systeme – etwa automatisierte Fahrzeuge oder Roboter – in Abhängigkeit vom Risiko zu regulieren.


Der TÜV-Verband fordert eine gesetzliche Regulierung von Produkten und Anwendungen mit Künstlicher Intelligenz (KI). “Sind beim Einsatz von künstlicher Intelligenz die Gesundheit von Menschen oder ihre elementaren Grundrechte in Gefahr, sollten KI-Systeme bestimmte Sicherheitsanforderungen erfüllen müssen”, sagt Marc Fliehe, Leiter Digitalisierung und Cybersecurity beim TÜV-Verband (VdTÜV). Das gelte zum Beispiel für automatisierte Fahrzeuge, medizinische Diagnosen, mit Menschen interagierende Roboter oder Entscheidungssysteme, die Personen betreffen.

Einteilung in Risikoklassen

“Unser Ziel ist es, den breiten Einsatz von Künstlicher Intelligenz zu fördern und gleichzeitig die damit einhergehenden Gefahren zu verringern”, betont Fliehe. Aufgrund der unerschöpflichen Vielfalt möglicher KI-Anwendungen sei klar, dass nicht alle KI-Systeme die gleichen Anforderungen erfüllen müssen. Daher sollten KI-gestützte Systeme in Risikoklassen eingeteilt und nach ihrem Gefährdungspotenzial reguliert werden. Die Maßnahmen könnten von einem vollständigen Regulierungsverzicht über formelle Anforderungen wie Transparenzpflichten und – im nächsten Schritt – Zulassungsverfahren vor der Markteinführung bis zu einem Verbot bestimmter, besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen. Der TÜV-Verband will damit die Pläne der EU-Kommission unterstützen, die einen europäischen Rechtsrahmen für KI-Systeme schaffen will und ihre Vorstellungen im ‘Weißbuch zur Künstlichen Intelligenz’ zusammengefasst hat.

Schutz oder Gefahr

Hintergrund der Forderung ist die zunehmende Digitalisierung und Vernetzung der Welt. Fahrzeuge, Maschinen, Geräte und Produkte aller Art verfügen über digitale Funktionen und treffen autonom Entscheidungen, die Menschen schützen, aber auch in Gefahr bringen können. Darüber hinaus können KI-Systeme falsche Vorhersagen treffen oder Menschen diskriminieren, wenn sie fehlerhaft programmiert oder trainiert worden sind.

 

Das könnte Sie auch interessieren

Rund die Hälfte der Unternehmen und öffentlichen Verwaltungen in Deutschland beobachtet den Markt für Quantencomputing, so eine Studie von Sopra Steria und F.A.Z.-Institut. Strategien zur Nutzung der Technologie sind laut Studie allerdings rar gesät und die Befragten gehen davon aus, dass sich dies in den nächsten drei Jahren nicht ändern wird.‣ weiterlesen

Anzeige

Vorträge, Diskussionen und eine Demo-Session sollen am 8. Dezember Einblicke geben, wie KMU mit ihren Daten einen Mehrwert erzielen können. Auf dem Smart Data Open Day des Smart Data Innovation Labs (SDIL) werden beispielsweise Leuchtturmprojekte aus dem vom Bundesministerium für Bildung und Forschung (BMBF) geförderten Projekt Smart Data Innovation Challenges (SDI-C) vorgestellt.‣ weiterlesen

Anzeige

5G oder WiFi 6? So lautet eine gängige Frage, wenn es um den Einsatz von aktuellen Funktechnologien zur Vernetzung geht. Dabei sollten beide Technologien aber nicht alternativ, sondern komplementär genutzt werden.‣ weiterlesen

Anzeige

Unternehmen, die sich intensiv auf einen Cyberangriff vorbereiten, haben deutlich weniger mit den Folgen der Attacken zu kämpfen. Doch auf welche Schritte kommt es im Falle eines Falles an? Der Security-Spezialist Sophos gibt darauf antworten.‣ weiterlesen

In einer internationalen Studie untersuchen Forscher der Hochschule München Vorteile und Hemmnisse des von Equipment-as-a-Service (EaaS). Ein Stimmungsbild des Investitionsgütermarkts zeigt EaaS dabei als zukunftsträchtiges Geschäftsmodell in punkto Digitalisierung und ökologischer Nachhaltigkeit.‣ weiterlesen

Deutschland gehört weltweit zu den Top-5-Zielen wenn es um Ransomware-Angriffe geht. Dies hat eine Analyse des Verschlüsselungsclouddienstes NordLocker ergeben. Der Großteil der untersuchten Angriffe richtet sich allerdings gegen US-Unternehmen.‣ weiterlesen