Gesetz zur künstlichen Intelligenz

Einigung zum EU AI Act

Nach langen Verhandlungen haben sich die europäischen Gesetzgeber, das Europäische Parlament und der Rat der EU auf das Gesetz über die Künstliche Intelligenz politisch geeinigt. „Künstliche Intelligenz verändert schon heute unseren Alltag. Und das ist erst der Anfang. Klug und breit eingesetzt, verspricht KI enorme Vorteile für unsere Wirtschaft und Gesellschaft. Daher begrüße ich die heutige politische Einigung des Europäischen Parlaments und des Rates über den Rechtsakt zur Künstlichen Intelligenz sehr“, sagte Ursula von der Leyen, Präsidentin der Europäischen Kommission.

Bild: ©BillionPhotoscom/stock.adobe.com

Die Präsidentin betonte weiter: „Das EU-Gesetz über die Künstliche Intelligenz ist der erste umfassende Rechtsrahmen für künstliche Intelligenz weltweit. Dies ist also ein historischer Moment. Mit dem KI-Gesetz werden die europäischen Werte in eine neue Ära überführt. Durch die Konzentration der Regulierung auf erkennbare Risiken wird die heutige Einigung eine verantwortungsvolle Innovation in Europa fördern. Indem sie die Sicherheit und die Grundrechte von Menschen und Unternehmen garantiert, wird sie die Entwicklung, den Einsatz und die Einführung vertrauenswürdiger KI in der EU unterstützen. Unser KI-Gesetz wird einen wesentlichen Beitrag zur Entwicklung globaler Regeln und Grundsätze für menschenzentrierte KI leisten.”

Unterscheidung nach Risiken

Die neuen Vorschriften werden in allen Mitgliedstaaten auf der Grundlage einer zukunftssicheren Definition von KI unmittelbar und in gleicher Weise angewandt. Sie folgen einem risikobasierten Ansatz, der wie folgt unterteilt wird:

Minimales Risiko: Die große Mehrheit der KI-Systeme fällt in die Kategorie des minimalen Risikos. Anwendungen mit minimalem Risiko wie etwa KI-gestützte Empfehlungssysteme oder Spam-Filter sollen von einem Freipass und fehlenden Verpflichtungen profitieren, da diese Systeme nur ein minimales oder gar kein Risiko für die Rechte oder die Sicherheit der Bürger darstellen. Wie die Kommission mitteilt können sich Unternehmen auf freiwilliger Basis jedoch zu zusätzlichen Verhaltenskodizes für diese KI-Systeme verpflichten.

Hohes Risiko: KI-Systeme, die als risikoreich eingestuft werden, müssen strenge Anforderungen erfüllen, darunter Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Sogenannte ‘regulatorische Sandkästen’ sollen verantwortungsvolle Innovationen und die Entwicklung von konformen KI-Systemen erleichtern. Beispiele für solche risikoreichen KI-Systeme sind bestimmte kritische Infrastrukturen, etwa in den Bereichen Wasser, Gas und Strom, medizinische Geräte, Systeme zur Bestimmung des Zugangs zu Bildungseinrichtungen oder zur Rekrutierung von Personen oder bestimmte Systeme, die in den Bereichen Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratische Prozesse eingesetzt werden. Darüber hinaus gelten biometrische Identifizierungs-, Kategorisierungs- und Emotionserkennungssysteme ebenfalls als hochriskant.

Unannehmbares Risiko: KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte der Menschen darstellen, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen des Nutzers zu umgehen, wie etwa Spielzeug mit Sprachassistenz, das gefährliches Verhalten von Minderjährigen fördern kann, ‘Social Scoring’-Systeme, sowie bestimmte Anwendungen der vorausschauenden Polizeiarbeit. Darüber hinaus sieht der AI Act ein Verbot einiger Anwendungen biometrischer Systeme vor, beispielsweise Systeme zur Erkennung von Emotionen am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken in öffentlich zugänglichen Räumen (mit engen Ausnahmen).

Spezifisches Transparenzrisiko: Beim Einsatz von KI-Systemen wie Chatbots sollten sich die Nutzer bewusst sein, dass sie mit einer Maschine interagieren. Deep Fakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.

Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen. Vorgesehen sind Geldbußen zwischen 35Mio.€ oder 7 Prozent des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist) für Verstöße gegen verbotene KI-Anwendungen. Verstöße gegen andere Verpflichtungen werden von der EU mit 15Mio.€ oder 3 Prozent beziffert. Die Strafe für die Bereitstellung falscher Informationen liegt bei 7,5Mio.€ oder 1,5 Prozent des weltweiten Jahresumsatzes. Für KMU und Start-ups sind bei Verstößen laut EU Kommission verhältnismäßigere Obergrenzen für Bußgelder vorgesehen.

KI für allgemeine Zwecke

Mit dem KI-Gesetz führt die EU Kommission zudem spezielle Vorschriften für KI-Modelle für allgemeine Zwecke ein, die für Transparenz entlang der Wertschöpfungskette sorgen sollen. Für sehr leistungsfähige Modelle, die systemische Risiken darstellen könnten, wird es zusätzliche verbindliche Verpflichtungen in Bezug auf das Risikomanagement und die Überwachung schwerwiegender Vorfälle sowie die Durchführung von Modellevaluierungen und Tests mit gegnerischen Systemen geben. Diese neuen Verpflichtungen sollen durch Verhaltenskodizes operationalisiert werden, die von der Industrie, der Wissenschaft, der Zivilgesellschaft und anderen Interessengruppen zusammen mit der Kommission entwickelt werden.

Das könnte Sie auch interessieren

Um die Produktivität sowie die Zufriedenheit der Beschäftigten zu verbessern, setzen Employee-Experience-Führungskräfte laut einer Befragung des Softwareanbieters Zendesk vermehrt auf KI – die Mehrheit der Befragten beobachtet dadurch bereits Verbesserungen der Arbeitsqualität. ‣ weiterlesen

86 Prozent sehen die Digitalisierung grundsätzlich positiv. Dennoch fühlen sich laut einer Befragung von Bitkom Research 41 Prozent häufig überfordert. Auch schätzt eine Mehrheit das Land als digital gespalten ein. ‣ weiterlesen

Eine aktuelle Studie von Protolabs, zu der mehr als 700 Ingenieure weltweit befragt und Daten der Industrie ausgewertet wurden, zeigt den aktuellen und künftigen Zustand der additiven Fertigung auf. Demnach wächst der Markt sogar schneller als bisher angenommen.‣ weiterlesen

Die Integration von Ergonomie in den Entwicklungsprozess von Maschinen und Arbeitsplätzen spielt eine entscheidende Rolle für die Kosteneffizienz und die Benutzerfreundlichkeit. Virtual Reality (VR) bietet einen modernen Ansatz, um frühzeitige Ergonomieuntersuchungen zu beschleunigen und zu verbessern. Die Integration von VR ermöglicht eine realistische Simulation menschlicher Bewegungen und vermeidet kostspielige spätere Anpassungen. Die Anwendung erfordert jedoch geeignete Hardware und Software sowie geschultes Personal.‣ weiterlesen

Die Innovationstätigkeit in Digitaltechnologien nimmt weiter an Fahrt auf. Und laut Deutschem Patent- und Markenamt dominieren die USA und China in diesen Bereichen. Die deutsche Bilanz ist zwiespältig.‣ weiterlesen

Eine neue Studie von Reichelt Elektronik beleuchtet den aktuellen Stand sowie das Potenzial bezüglich Technologien wie künstlicher Intelligenz, Machine Learning, Big Data, Robotik sowie IoT und deren Einsatz in deutschen Industrieunternehmen.‣ weiterlesen

Data Sharing birgt großes Potenzial, wird aber kaum genutzt. Rechtssicherheit, gemeinsame Modelle und finanzielle Anreize könnten Unternehmen zum Teilen bewegen, so repräsentative eine ZEW-Studie mit 1.400 Firmen.‣ weiterlesen

Laut der Staufen-Studie 'Performance-Treiber 2024' gehen acht von zehn der mehr als 200 befragten Industrieunternehmen davon aus, dass die Einführung neuer Technologien für einen Produktivitätsschub sorgen wird. Vor allem in der Datenanalyse werden große Potenziale gesehen.‣ weiterlesen

Keine zusätzlichen Server mehr? Das verspricht die Cloud-RAN-Technologie, mit der industrielle Anwendungen und 5G-Funktionalitäten auf gemeinsam genutzter Hardware laufen können. Der 5G-Industry Campus Europe wurde nun um eine solche Technologie erweitert.‣ weiterlesen

Während viele Arbeitnehmende davon ausgehen, dass ihre aktuellen Kompetenzen auch für künftige Herausforderungen am Arbeitsmarkt ausreichen, zeichnet sich auf Seiten der Arbeitgebenden ein anderes Bild. Mehr als 60 Prozent der Unternehmen sehen hier einen Nachqualifizierungsbedarf.‣ weiterlesen

Der weltweite Markt für kollaborative Roboter hat im Jahr 2023 die Umsatzmarke von einer Milliarde US$ überschritten, obwohl sich die Gesamtnachfrage nach der Corona-Pandemie langsamer erholt als erwartet, so die neuen Daten von Interact Analysis.‣ weiterlesen