Einsatz fördern, Gefahr verringern

TÜV-Verband fordert Regulierung von KI-Anwendungen

Der TÜV-Verband fordert in einem Positionspapier KI-gestützte Anwendungen und Systeme – etwa automatisierte Fahrzeuge oder Roboter – in Abhängigkeit vom Risiko zu regulieren.


Der TÜV-Verband fordert eine gesetzliche Regulierung von Produkten und Anwendungen mit Künstlicher Intelligenz (KI). “Sind beim Einsatz von künstlicher Intelligenz die Gesundheit von Menschen oder ihre elementaren Grundrechte in Gefahr, sollten KI-Systeme bestimmte Sicherheitsanforderungen erfüllen müssen”, sagt Marc Fliehe, Leiter Digitalisierung und Cybersecurity beim TÜV-Verband (VdTÜV). Das gelte zum Beispiel für automatisierte Fahrzeuge, medizinische Diagnosen, mit Menschen interagierende Roboter oder Entscheidungssysteme, die Personen betreffen.

Einteilung in Risikoklassen

“Unser Ziel ist es, den breiten Einsatz von Künstlicher Intelligenz zu fördern und gleichzeitig die damit einhergehenden Gefahren zu verringern”, betont Fliehe. Aufgrund der unerschöpflichen Vielfalt möglicher KI-Anwendungen sei klar, dass nicht alle KI-Systeme die gleichen Anforderungen erfüllen müssen. Daher sollten KI-gestützte Systeme in Risikoklassen eingeteilt und nach ihrem Gefährdungspotenzial reguliert werden. Die Maßnahmen könnten von einem vollständigen Regulierungsverzicht über formelle Anforderungen wie Transparenzpflichten und – im nächsten Schritt – Zulassungsverfahren vor der Markteinführung bis zu einem Verbot bestimmter, besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen. Der TÜV-Verband will damit die Pläne der EU-Kommission unterstützen, die einen europäischen Rechtsrahmen für KI-Systeme schaffen will und ihre Vorstellungen im ‘Weißbuch zur Künstlichen Intelligenz’ zusammengefasst hat.

Schutz oder Gefahr

Hintergrund der Forderung ist die zunehmende Digitalisierung und Vernetzung der Welt. Fahrzeuge, Maschinen, Geräte und Produkte aller Art verfügen über digitale Funktionen und treffen autonom Entscheidungen, die Menschen schützen, aber auch in Gefahr bringen können. Darüber hinaus können KI-Systeme falsche Vorhersagen treffen oder Menschen diskriminieren, wenn sie fehlerhaft programmiert oder trainiert worden sind.

 

Das könnte Sie auch interessieren

Mehr als eine Milliarde Schadprogramme verzeichnet das Bundesamt für Sicherheit in der Informationstechnik im aktuellen Lagebericht. Und auch die Corona-Pandemie wirkt sich auf die aktuelle Sicherheitslage aus.‣ weiterlesen

Anzeige

Das Bewusstsein für ethische Fragestellungen beim Einsatz von künstlicher Intelligenz ist in Unternehmen und Verwaltungen gestiegen. Dennoch fällt ihre diesjährige Handlungsbilanz gemischt aus, da nur in Teilbereichen Verbesserungen erzielt wurden. Zu diesen und weiteren Erkenntnissen kommt eine Studie von Capgemin für die 2.900 Konsumenten sowie 900 Führungskräfte befragt wurden.‣ weiterlesen

Anzeige

Wie der ‘Digital Transformation Index 2020‘ von Dell Technologies zeigt, haben Unternehmen in Europa ihre Programme zur digitalen Transformation in diesem Jahr entscheidend vorangetrieben.‣ weiterlesen

Exklusiv für Abonnenten

Langsam, aber sicher steigen die Infektionszahlen in Deutschland wieder an – und damit die Sorge produzierender Unternehmen, wie sie Gesundheit und Hygiene in ihrem Betrieb gewährleisten können, ohne dabei einen größeren Personal- oder Produktionsausfall in Kauf nehmen zu müssen. Das Vorhandensein eines Hygienekonzeptes ist der eine, deren Einhaltung und Prüfung der andere wichtige Baustein zur Risikominimierung in Unternehmen.‣ weiterlesen

Exklusiv für Abonnenten

Die Herausforderung, übergreifende und reibungslose Abläufe von Unternehmensprozessen zu gewährleisten, bekommt während der aktuellen Covid-19-Krise nochmal eine neue Dimension. Die Themen mobiles Arbeiten, Automatisierung von Prozessen sowie die Vernetzung von Systemen beschäftigen Unternehmen und sorgen für einen Umbruch und massive strukturelle Veränderungen. Digitalisierung und Industrie 4.0 sind dabei keine Kür mehr, sondern eine Voraussetzung für optimierte Unternehmensprozesse.‣ weiterlesen

Vor allem personalisierte Werbung, Antworten auf Kundenanfragen und automatisierte Buchungen gelten als weit verbreitet Allerdings: Nur eine Minderheit der Unternehmen setzt überhaupt KI ein‣ weiterlesen