KI in der Industrie 4.0 braucht den Faktor Mensch

Bild: ©Wenjie Dong/istockphoto.com

Intellektuelle Fähigkeiten sind noch Zukunftsmusik

Viele KI-Enthusiasten hoffen auf den Tag – der allerdings noch 20 bis 40 Jahre entfernt sein dürfte – bis eine KI intellektuelle Fähigkeiten haben wird. Vielleicht gelingt es mit Quantencomputern sogar schon früher, noch größere Datenbestände auszuwerten und mit Hilfe von KNN sogar mit einer menschlichen und ethisch orientierten Entscheidungsmatrix zu ertüchtigen. Davon abgesehen, stellen sich aber bei den heutigen Anwendungen schon mit schwacher KI ethische Fragen. Was passiert, wenn eine KI durch Machine Learning diskriminierende Entscheidungen fällt? Heute schon sind erste Lösungen für das Bewerbermanagement bei Recruiting-Prozessen im Einsatz. Bei amerikanischen global agierenden Unternehmen soll es bereits vorgekommen sein, dass Frauen bei der Vorauswahl benachteiligt wurden.

Auch bei Finanzdienstleistern sind KIs im Einsatz, sogar schon länger, als es Chatbots gibt. Mit der ‘falschen Adresse’ oder einem Schufa-Eintrag kann es schon länger passieren, dass eine Versicherung oder ein Kredit verweigert werden. Und wie soll sich ein autonomer und KI-basierter Roboter in einer Smart Factory verhalten, wenn er vor zwei gleich schlechte Alternativen gestellt in beiden Fällen einen menschlichen Kollegen verletzen würde? Mit solchen Fragen beschäftigte sich kürzlich ein Expertengremium der EU, das Ende 2018 seine ethischen Leitlinien zur Diskussion stellte und im April seine finale Version veröffentlichte. Bis Juni 2019 erarbeitete das Gremium eine Handlungsempfehlung für die EU. Nach allem, was bisher bekannt ist, greifen diese Leitlinien aber nicht weit genug. Sie beschreiben einen Weg, “den größtmöglichen Nutzen aus der KI erzielen und gleichzeitig die geringstmöglichen Risiken eingehen.

Um sicherzugehen, dass wir auf dem richtigen Weg bleiben, brauchen wir einen auf den Menschen ausgerichteten (‘menschenzentrierten’) Ansatz für die KI”. Das Gremium hat auch eine Checkliste mit Fragen für Anbieter von KI entwickelt, wie sie ihre Systeme sicher betreiben können. Leider aber fehlen Empfehlungen an die EU-Kommission, welche Mindestanforderungen und Sicherheitsauflagen sie den KI-Betreibern auferlegen sollten, damit der Mensch als Gestalter und Nutznießer der digitalen Transformation wirklich im Fokus bleibt. Denn eines ist klar: Eine wirtschaftlich oder aus Sicht von Behörden erfolgreiche KI werden Betreiber nicht ändern, nur weil sie ein wenig diskriminierend agiert.

Der Mensch muss am längeren Hebel sitzen

Hier müssen die EU und internationale Institutionen wie die UN klare Regeln aufstellen und anordnen, dass externe Institutionen die Einhaltung regelmäßig überprüfen dürfen. Eine notwendige Regel wäre z.B., dass immer dann, wenn eine KI mit einem Menschen interagiert, diese als solche ausgewiesen wird und der menschliche Kollege z.B. durch Notausschalter immer am längeren Hebel sitzt.

Oder im Falle, dass eine KI Entscheidungsbefugnisse erhält, muss der Mensch das Recht erhalten, eine natürliche Person wie z.B. den Betriebsrat oder eine andere verantwortliche Stelle im Unternehmen mit der Überprüfung einer KI-Entscheidung zu beauftragen. Darüber hinaus müssen die Betreiber bei einer KI mit Machine Learning verpflichtet sein, ihre sich selbständig umschreibenden Algorithmen durch Testläufe zu überwachen. Bei einem KI-basierten Roboter sollten die Unternehmen schon aus Gründen der Betriebssicherheit ihren Algorithmen regelmäßig einer Prüfung unterziehen. Und weil es Menschen sind, die KI-Algorithmen schreiben, sollten diese durch Weiterbildung ihre Kompetenzen als Fachleute regelmäßig vertiefen müssen.

Eigener Ethikrat

Denkbar wäre auch, wenn große Unternehmen einen eigenen Ethikrat mit externen Experten gründen, der die Weiterentwicklung der Anwendungen überwacht. Auch und vor allem beim KI-Einsatz staatlicher Stellen sind Sicherheitslinien einzubeziehen, die nicht überschritten werden dürfen. So sehr sich auch Verwaltungshandeln künftig mittels KI vereinfachen lassen dürfte, müssen staatliche Stellen ein enges Korsett erhalten, um Freiheitsrechte der Bürger nicht schleichend einzuschränken.

Das könnte Sie auch interessieren

Die Gründungsmitglieder der GAIA-X-Initiative haben die Gründungsurkunden zur GAIA-X AISBL unterzeichnet. Interessierte Unternehmen und Initiativen sind aufgerufen, sich an der gemeinnützigen Vereinigung zu beteiligen.‣ weiterlesen

Anzeige

Deutsche Unternehmen gehen davon aus, dass Industrie 4.0-Technologien zu einer Reduktion des CO2-Ausstoßes beitragen können. Viele Unternehmen haben sich bereist eine Selbstverpflichtung zu Senkung des CO2-Ausstoßes auferlegt.‣ weiterlesen

Anzeige

Die Menge an Daten wird in den nächsten Jahren weiter zunehmen. Wie gut Unternehmen darauf vorbereitet sind und welche Hindernisse durch Dark Data entstehen, zeigt eine aktuelle Studie von Splunk.‣ weiterlesen

Grundsätzlich stehen Arbeitnehmer der Einführung neuer Technologie am Arbeitsplatz positiv gegenüber. Entsprechende Modernisierungen sehen viele Arbeitstätige unter anderem als Chance, ihre Karriere voranzubringen. Das geht aus einer Studie des Payroll- und HR-Service Providers SD Worx hervor, für die insgesamt 3.870 Arbeitnehmer aus Belgien, Deutschland, Frankreich, den Niederlanden und dem Vereinigten Königreich befragt wurden.‣ weiterlesen

Krisen wie die Pandemie verstärken den Trend zu Reshoring und Nearshoring. Dies zeigt eine aktuelle Studie des McKinsey Global Institute (MGI). Demnach könnten bis zu einem Viertel der globalen Lieferketten bereits in den nächsten fünf Jahren verlagert werden. Insgesamt wurden für die Studie 23 Industriebranchen analysiert.‣ weiterlesen

Jedes zweite Unternehmen sucht laut einer Studie der Technologieberatung Sopra Steria verstärkt Cloud-Computing-Lösungen, die das eigene Unternehmen innovativer macht. Ferner wollen 44 Prozent durch Cloud-Technologie vorrangig IT-Kosten einsparen. Insgesamt wurden 204 Führungskräfte aus verschiedenen Branchen - unter anderem Finanzen und verarbeitendes Gewerbe - befragt.‣ weiterlesen