Ethische Implikationen

zurück zu den HUMAN FACTORS

Dieser Teil der Website befindet sich aktuell im Aufbau. Alle synthetisierten Leitlinien zu den ethischen Implikatinen von MRK können Sie hier in Kürze nachlesen.

Anforderungen

Die Ergebnisse geben zum einen eine Übersicht über den Status Quo zu ethischen, sozialen und rechtlichen Herausforderungen von MRK und dienen zum anderen als Inspirationsquelle und Denkanstöße für die Weiterarbeit in Unternehmen und in der Wissenschaft.

 

Vorgehen

Die durchgeführte Analyse knüpft zum einen an die Ergebnisse von Nelles et al. (2016) an und wurde mit einem adaptierten MEESTAR-Vorgehen analysiert. Dazu wurde ein Tages-Workshop durchgeführt, der eine systematische Analyse und Reflexion ethischer, gesellschaftlicher und rechtlicher Herausforderungen im Kontext der Mensch-Maschine-Kollaboration in produzierenden Unternehmen zum Ziel hatte.

 

Als Ergebnis wurden insgesamt 12 Leitlinien erarbeitet, welche es bei der Einführung von MRK-Technologie zu berücksichtigen gilt. Diese 12 Leitlinien werden nachfolgend im Detail dargestellt.


1. Selbstbestimmung

 

Ausgangspunkt: MRK soll die Teilnahme am Arbeitsleben und somit die Integration in gesellschaftliche und soziale Verbindungen unterstützen. Mithilfe von MRK soll ein (vereinfachter) Zugang zum Arbeitsmarkt ermöglicht werden. Hierbei haben individuelle Vorstellungen zur Wissensvermittlung Vorrang, d.h. das System muss individualisierbar sein und optional bleiben.

 

Herausforderungen: MRK wird oftmals als Technologie zum Personalabbau gedacht/eingesetzt. Soziale Verantwortung des jeweiligen Unternehmens ist die Voraussetzung dafür, wie man MRK einsetzen will. Wie sehen Unternehmen ihre Mitarbeitenden und wie ist der Anschluss in die Gesellschaft gedacht? Ist durch MRK die Integration von körperlich eingeschränkten Menschen (leichter) möglich? Schafft es MRK, ältere Werker/-innen länger am Arbeitsleben teilhaben zu lassen? Betriebsräte können hier als Akteure fungieren, die die soziale Verträglichkeit im Blick behalten.


2. Teilhabe

 

Ausgangspunkt: MRK soll die Teilnahme am Arbeitsleben und somit die Integration in gesellschaftliche und soziale Verbindungen unterstützen.  Mithilfe von MRK soll ein (vereinfachter) Zugang zum Arbeitsmarkt ermöglicht werden. Hierbei haben individuelle Vorstellungen zur Wissensvermittlung Vorrang, d.h. das System muss individualisierbar sein und optional bleiben.

 

Herausforderungen: MRK wird oftmals als Technologie zum Personalabbau gedacht/eingesetzt. Soziale Verantwortung des jeweiligen Unternehmens ist die Voraussetzung dafür, wie man MRK einsetzen will. Wie sehen Unternehmen ihre Mitarbeitenden und wie ist der Anschluss in die Gesellschaft gedacht? Ist durch MRK die Integration von körperlich eingeschränkten Menschen (leichter) möglich? Schafft es MRK, ältere Werker/-innen länger am Arbeitsleben teilhaben zu lassen? Betriebsräte können hier als Akteure fungieren, die die soziale Verträglichkeit im Blick behalten.


3. Gerechtigkeit

 

Ausgangspunkt: Der Zugang zu MRK soll diskriminierungsfrei gestaltet werden. Ein vom Einkommen, sozialen Status, Alter, Geschlecht, Bildungsniveau, Technikaffinität und Herkunft etc. unabhängiger, gleichberechtigter und barrierefreier Zugang zu MRK ist anzustreben.

 

Herausforderungen: MRK wird nur in einem Bereich umgesetzt und führt damit zu Ungerechtigkeit, weil nicht alle Mitarbeitenden Zugang zum System haben. Es ist ethisch bedenklich, wenn nur eingeschränkte/vorerkrankte Personen mit MRK arbeiten dürfen und gesunde Personen nicht.

 

Eine subjektive Auswahl kann zu Ungerechtigkeiten führen. Diese Ungerechtigkeiten können sich auch auf Unternehmensebene fortsetzen, d.h. KMU sind ggf. im Wettbewerbsnachteil, weil sie weniger Mittel für MRK haben.


4. Sicherheit

 

Ausgangslage: Der Umgang mit MRK muss für alle Nutzergruppen sicher sein, sowohl bei der normalen Anwendung als auch bei potenziellen Fehlern und Ausfällen der gesamten Technik oder einzelner Module. MRK soll nicht die Sicherheit im Sinne von körperlicher oder geistiger Integrität der Nutzer/-innen und Anbieter/-innen beeinträchtigen. Auch Fehler, Funktionsausfälle, prozessuale Unterbrechungen, Netzwerkprobleme oder anderweitige technische Defekte sowie menschliche Irrtümer dürfen die Gesundheit der Nutzer/-innen nicht beeinträchtigen oder gefährden. Die Nutzung von MRK darf nicht zu zusätzlichen physischen oder psychischen Belastungen wie etwa Stress, Überforderung, Diskriminierung oder Stigmatisierung führen.

 

Herausforderungen: MRK muss zu 100% sicher sein. Im Rahmen des Einsatzes von MRK darf es unter keinen Umständen zu Verletzungen kommen. Es stellt sich die Frage, wie die Sicherheit zu 100% sicher- gestellt werden kann. Wo liegt hier ggf. ein Konflikt zwischen Sicherheitsanforderungen in den Normen und der Rentabilität in den Unternehmen: Müssen festgesetzte Regularien zur Verfahrgeschwindigkeit „loser“ angewendet werden können, damit MRK wirtschaftlich werden kann? Welche Bedeutung hat absolute Sicherheit? Es gibt Berufsgruppen, die mit sehr viel Risiko behaftet sind (bspw. Feuerwehr, Soldat/-innen, Köche/-innen etc.). Wie viel Sicherheit ist eigentlich möglich? Wie stark können wir an die Selbstverantwortung der Werker/-innen bei MRK appellieren? Wie hoch ist das individuelle Risiko jedes Unternehmens bei der Sicherheit von MRK? Inwieweit ist das Risiko kalkulierbar? Und wird MRK in der Gesellschaft als sichere Technologie wahrgenommen? Warum sind bspw. Straßenbahnen nicht eingezäunt oder Bahnübergänge nur mit einer Schranke versehen, die zwar die subjektive, aber nicht die objektive Sicherheit erhöhen? Wer hat hier das individuelle/ gesellschaftliche Risiko festgesetzt? Ist gefühlte Sicherheit ein Kommunikationsthema für Unternehmen? Nehmen wir Themen, die medial präsent sind, die subjektive Sicherheit anders wahr? Niemand würde jemals sagen, dass ein Auto töten kann. 🡪 Muss man positiver über MRK reden, damit die subjektive Sicherheit steigt und man dadurch ggf. auch einige Sicherheitsvorkehrungen einsparen kann, weil die Leute positiver im Umgang mit der Technologie sind?


5. Datenschutz

 

Ausgangslage: Personenbezogene und sonstige vertraulich zu behandelnde Daten, die im Kontext des MRK-Systems erhoben, dokumentiert, ausgewertet oder gespeichert werden, sollen vor dem Zugriff unbefugter Dritter sowie vor Missbrauch bestmöglich geschützt werden. Dritte dürfen nicht unbefugt auf persönliche Daten von Nutzer/-innen zugreifen oder diese verarbeiten. Dies schließt auch den Zugriff auf Daten des lehrenden und schulenden Personals sowie der Support-Mitarbeiter/-innen und Kolleg/-innen mit ein (Mitarbeiterdatenschutz). Datenschutzerklärungen sind einfach und klar verständlich zu verfassen. Im Zweifel wird immer zugunsten der Person entschieden, von der die Daten originär stammen. Die für die Einhaltung des Datenschutzes und des Rechtes auf informationelle Selbstbestimmung notwendigen Vorsichtsmaßnahmen und Handlungsanleitungen für einen richtigen Umgang mit solchen sensiblen Daten sind in verständlicher Form zu kommunizieren und transparent zu machen.

 

Herausforderungen: Sensor-Daten (bspw. Bewegungsmuster, Gesundheitsdaten) sind unweigerlich personenbezogen, wodurch theoretisch ein Abgleich zwischen einzelnen Mitarbeitenden über die Schichtzuordnung erfolgen kann. Kann MRK also zu Überwachung führen, bspw. durch die Kombination von personenbezogenen Daten, Bewegungsprofilen und leistungsbezogenen Daten? Kann die Nichteinhaltung von Privatsphäre und Datenschutz dazu führen, dass bspw. leistungsschwächeren Personen gekündigt wird? Wie ist der Zugriff auf die erhobenen Daten durch Dritte geregelt? Wie können Unternehmen ihren Mitarbeitenden verständlich zeigen, wo Daten erhoben und wie Daten verarbeitet werden?

 

MRK alleine = ist aus ethischer Sicht als unbedenklich einzustufen.

MRK + Sensorik = ist aus ethischer Sicht als prüfenswert einzustufen.

MRK + Sensorik + Speicherung = ist aus ethischer Sicht als kritisch einzustufen Jegliche Anwendung im Bereich "Internet Of Things" (IoT) ist hier die höchste Stufe und muss aus datenschutzrechtlicher Sicht kritisch hinterfragt werden.


6. Aufklärung u. informationelle Selbstbestimmung

 

Ausgangslage: Nutzer/-innen von MRK sollen vollständig über die Funktion und Erhebung der sie betreffenden Daten und die Funktion des Systems informiert werden und erst auf dieser Basis eine informierte Einwilligung geben. Über Umfang, Rahmen, Eingriffstiefe, Funktionalität und Datennutzung des MRK-Systems sollen Nutzer/-innen ausführlich, vollständig, verständlich und angemessen informiert werden. Erst auf Basis dieser Aufklärung und Information sollen Nutzer/-innen über die Nutzung von MRK entscheiden.

 

Herausforderungen: Diese Leitlinie ist relevant, wenn MRK und Datenerfassung und -speicherung kombiniert werden. Unternehmen müssen sich die Frage stellen, ob sie ausreichend verständlich und transparent hinsichtlich der Funktionalitäten von MRK kommunizieren. Verstehen das auch alle Mitarbeitenden oder ist die Komplexität zu hoch? Warum werden bspw. für den Einsatz des Roboters die Körpergrößen gemessen?

Wenn sich das System auf den Menschen einstellt (einstellen soll), dann ist es notwendig, dass bestimmte personenbezogene Parameter erhoben werden; dies wiederum muss umfangreich erklärt werden. Es muss berücksichtigt werden in wie weit es möglich sein kann, dass Mitarbeitende individuell entscheiden, welche Daten sie preisgeben, ohne die Sicherheit durch die Interaktion zu gefährden?


7. Haftung

 

Ausgangslage: Verantwortungsübernahme und Haftung im Fall einer fehlerhaften Funktion von MRK-Systemen müssen transparent und verbindlich geregelt werden. Die Verantwortlichkeiten und Haftungsrisiken bei hochkomplexen systemischen Lösungen sind genau zu definieren. Ein Verantwortungsvakuum sollte vermieden werden.

 

Herausforderungen: Die zentrale Herausforderung besteht in der Komplexität der Haftung: Hersteller, Systemintegrator, Unternehmen, Werker/-innen: wer ist in welchem Fall wofür haftbar? Arbeitsplätze werden vor Inbetriebnahme einzeln abgenommen; hierfür müssen geltende Normen umgesetzt werden. Eine Risikobeurteilung ist Voraussetzung für eine erfolgreiche Abnahme. Dennoch sind die Fragen zu klären: Wer haftet bei Fehlern? Haften auch die Werker/-innen? Ist Haftung vertretbar in Bezug zum Sicherheitsrisiko? Was passiert, wenn ich mich als Bediener/-in falsch verhalte? Wer ist schuld bei einer Anpassung oder Nicht-Nutzung? Wer haftet bei komplexen Anwendungen? Ist es aus ethischer Sicht vertretbar, dass immer ein Restrisiko besteht, weil nicht alle Eventualitäten in die Risikobeurteilung aufgenommen werden können? Besonders beim Einsatz KI-basierter Technologien sind Haftungsfragen eine Herausforderung, da das System lernfähig ist und sich im Laufe der Zeit verändert. Für Hersteller ist es kaum möglich, eine Garantie für diese Veränderungen zu übernehmen. In Zusammenhang mit diesen Herausforderungen steht außerdem auch die Frage nach der Überprüfbarkeit von verletzten Sicherheitsbestimmungen. Wie kann nachverfolgt werden, ob im Unternehmen die notwendigen Sicherheitseinweisungen ordnungsgemäß durchgeführt wurde? Wie kann festgestellt werden, ob Mitarbeitende grob fahrlässig gehandelt haben? Inwieweit müssen hierfür Daten gesammelt und gespeichert werden? Dies ist besonders unter dem Aspekt des Datenschutzes (siehe 5.) kritisch zu beurteilen


8. Altersbilder

 

Ausgangslage: Das MRK-System soll möglichst vielfältige Bilder vom Alter zulassen. Ein einseitig defizitär gezeichnetes Bild von jungen oder älteren Menschen soll genauso vermieden werden wie ein einseitig positiv gezeichnetes Bild von jungen oder alten Menschen, z.B. als vitalen, leistungsfähigen, disziplinierten Menschen. Vereinseitigungen werden dem vielschichtigen Phänomen der Erfahrung von Alter nicht gerecht. Vielmehr ist es notwendig, alle Facetten der Erfahrung und des Alters im gesellschaftlichen Diskurs zu berücksichtigen ohne dabei vorab selektive und/oder diskriminierende Positionen und/oder Normen aufzustellen. Der Einsatz vom MRK-Systemen kann daher als inspirierende Anregung verstanden werden, um gesamtgesellschaftliche, offene Diskurse über das »gute Alter(n)« (im Kontext Berufsleben) zu initiieren.

 

Herausforderungen: Führt MRK zu einer einseitigen Darstellung von Alter? Bin ich, wenn ich als Mitarbeiter/-in MRK nutze, nicht mehr leistungsfähig? Welche Altersnormen muss MRK klären und implementieren? Wenn es bspw. altersrelevante Einschränkungen gibt, dann muss es das MRK-System wissen, um adäquat reagieren zu können. So verändert sich bspw. Haut im Laufe des Alters und ein Touchscreen muss sich darauf anpassen. Dadurch gibt das System auch vor, was „normal/norm“ ist. Schließt das System sogar die Nutzung durch ältere Personen auf Grund von motorischen, visuellen oder kognitiven Einschränkungen aus? Bedeutet dies auf lange Sicht zwangsweise eine Umschulung von Mitarbeitenden ab einer gewissen Altersgrenze oder muss es möglich sein, MRK auch im fortgeschrittenen Alter nutzen zu können?


9. Vermeidung von Diskriminierung und Nominierung

 

Ausgangslage: Stigmatisierungen oder Diskriminierungen im Kontext der Nutzung von MRK-Systemen sind unerwünscht. Genauso unerwünscht ist es, wenn von den Systemen (direkte oder indirekte) Normierungen ausgehen. Der Einsatz von Technik kann (versteckt) normierend wirken, z.B. indem sich Menschen an technische Rhythmen und Routinen anpassen und/oder sich in ihrem Berufsalltag und ihre Handlungen daran ausrichten. Solche (subtilen) Wirkungen sind offenzulegen. Wenn sie als unerwünschte Eingriffe in die individuelle Lebensführung empfunden werden, sind solche unterschwelligen oder offenen Normierungen zu vermeiden.

 

Herausforderungen: Ab wann ist Normierung ethisch bedenklich im Kontext von MRK? Wer gibt hier den Grad vor und wie viele Möglichkeiten bestehen vor dem aktuellen Stand der Technik? Kann MRK diskriminierend wirken? Schränkt MRK Mitarbeitende mehr ein oder gibt es mehr Freiheit? Automatische Systeme wie MRK sind starrer als menschliche Entscheidungsprozesse 🡪 führt das unweigerlich zu mehr Normierung? Man muss aufpassen, dass das menschliche Verhalten nicht zu starr gepresst wird; nur Weg A führt zum Erfolg und ist daher sehr normierend 🡪 Flexibilität von MRK ist hier wieder entscheidend, dies jedoch ist noch ein langer Weg in der Umsetzung.

 

Wie wird mit Diskriminierung durch Kolleg/-innen umgegangen? Wie können weder MRK Optimist/-innen noch MRK Pessimist/-inne zu Außenseitern im Unternehmen werden? Wie kann man hier aktiv gegensteuern? Wie soll ich mich verhalten, wenn ich die Technologie eigentlich ablehne? Was passiert, wenn ich es nicht nutzen will, aber Angst habe, meinen Job zu verlieren. Wie kann Schubladendenken/Stereotype verhindert werden („Alte Frau = keine Ahnung von MRK“). Auch körperliche Normierungen sollten hinterfragt und geprüft werden. Sind MRK-Arbeitsplätze bspw. für alle Körpergrößen und –umfänge ausgelegt oder kommt es hier zu Ausschlüssen und Diskriminierungen? Welche Personengruppen können in der Auslegung von MRK-Arbeitsplätzen ggf. nicht berücksichtigt werden auf Grund zu hoher Anforderungen und Kosten? Ist es z.B. vertretbar, dass Menschen mit einer bestimmten Behinderung nicht an MRK-Arbeitsplätzen tätig sein können oder sind jegliche Ausschlüsse zu vermeiden?


10. Anwenderfreundlichkeit

 

Ausgangslage: Das System soll so gestaltet sein, dass der Umgang für die Anwender/-innen einfach, intuitiv und gut nachvollziehbar ist. Entscheidend für die Gebrauchstauglichkeit und -freundlichkeit (engl. »Usability«) von Systemen ist eine einfache und eingängige Bedienung, bei der auch die unterstützende Eigenschaft des Systems zu erkennen ist. Dies findet vor allem vor dem Hintergrund unerfahrener Nutzer/-innen Berücksichtigung, deren z.B. langsamere Auffassungsgabe, mangelnde Sprachkenntnisse, mangelnde Lesekenntnisse, eingeschränkte Mobilität oder reduzierte kognitive Fähigkeiten (etwa Gedächtnisleistung) andere Nutzungsanforderungen an technische Systeme stellen. Anforderungen und Nutzerinteressen sind bei der Planung, Konzeption, Testung, Vermarktung, Anwendung sowie Weiterentwicklung und Wartung von Lernsystemen einzubeziehen.

 

Herausforderungen: Wird die Mensch-Maschine Schnittstelle bei MRK-Anwendungen ausreichend adressiert? Ist MRK ausreichend einfach gestaltet und führt weder zu kognitiver Über- noch Unterforderung? Findet ein ausreichender Einbezug wissenschaftlicher Erkenntnisse, Normen und Standards bei der Gestaltung von MRK statt? Sind bestehende Normen ausreichend? Wie adaptiv ist das MRK-System? Darf ich Anpassungen vornehmen, um den Prozess an meine individuellen Bedürfnisse anzupassen? Wie einschränkend und normierend sind die von Herstellern mitgelieferten Systeminterfaces? Inwieweit ist es möglich, diese an die individuellen Rahmenbedingungen im Unternehmen anzupassen?


11. Qualifizierung und Weiterbildung

 

Ausgangslage: Alle Akteure im Bereich des MRK-Systems sollen an regelmäßigen Fort- und Weiterbildungsmaßnahmen teilnehmen. Die Anbieter von MRK fühlen sich zur ständigen Weiterbildung und Weiterqualifizierung verpflichtet. Das impliziert auch die Berücksichtigung von Nutzer/-innen-Akzeptanzstudien und Nutzer/-innen-Wünschen sowie Grundkenntnisse in juristischen, ökonomischen, ethischen und sozialen Fragen.

 

Herausforderungen:  Wo können Fachkräfte rekrutiert und ausgebildet werden im Angesicht des Fachkräftemangels? Ist es ethisch vertretbar, Fachkräfte aus anderen Ländern anzuwerben anstatt eigenes Personal weiterzubilden? Wie kann die Qualifizierung und Weiterbildung von Fachkräften ausreichend adressiert bzw. institutionalisiert werden? Wie kann ich Personen mit unterschiedlichen Wissensvoraussetzungen die Technologie erklären? Sollten Ausbildungen in Hinblick auf die zunehmende Präsenz von Robotern im Produktionsumfeld angepasst werden? Welche Angebote können für Menschen geschaffen werden, die nicht an MRK-Arbeitsplätzen arbeiten können bzw. wollen? Inwieweit liegt es in der Verantwortung des Unternehmens, diese Menschen zu unterstützen? Weiterbildung und Qualifizierung sollte sich außerdem nicht nur auf die direkten Bediener*innen richten. Sollten bspw. nicht auch Personen in Entscheidungspositionen in Bezug auf eine menschenwürdige Gestaltung des Unternehmenswandels hin zu MRK geschult werden?


12. Verantwortung und bestmögliche Unterstützung durch Technik

 

Ausgangslage: Anbieter/-innen von MRK sollen verantwortlich agieren. Das vorrangige Ziel von MRK ist es, bestehende Unterstützung in der Produktion zu ergänzen und dabei einen eindeutigen Mehrwert für die Beteiligten zu bieten. Die Technik dient dem Menschen und passt sich seinen Bedürfnissen, Wünschen und Lebensprozessen an – nicht umgekehrt. Technik soll nicht Lebensvollzüge in unerwünschter Weise einengen oder von den Nutzer/-innen eine zu starke Anpassung verlangen. Daher ist es besonders wichtig, dass Nutzen und Mehrwert von technischen Systemen für alle Beteiligten klar ersichtlich und nachvollziehbar sind. Der Mehrwert kann sich für unterschiedliche Nutzergruppen in unterschiedlicher Weise manifestieren und ist transparent darzustellen.

 

Herausforderungen: Dient MRK dem Menschen oder dem Unternehmen? Stehen soziale und ökonomische Aspekte in Konflikt oder können sich diese ergänzen? Es ist ethisch bedenklich, wenn der Zweck von MRK nicht offen und transparent kommuniziert wird, sondern die Ergonomie herangezogen wird, um MRK als „gut für die Menschen“ darzustellen? Wird MRK in Unternehmen als „Deckmantel“ für Rationalisierung und reduzierten Personaleinsatz verwendet? Unternehmen sollten für sich klären, wo sie sich positionieren und wo das Thema soziale Verantwortung zu verorten ist. Wie stehen sich Verantwortung gegenüber Individuen und Wirtschaftlichkeit gegenüber? Wie groß ist das Spannungsfeld und wie kann es ggf. in Unternehmen aufgelöst werden? Braucht es ggf. ethische Expertise in den Betriebsräten?


KoMPI

Technische Universität Dortmund

Institut für Produktionssysteme

 

Ruhr-Universität Bochum

Lehrstuhl für Produktionssysteme

 

SafeMate

Leibniz Universität Hannover

Institut für Fabrikanlagen und Logistik

 

Leibniz Universität Hannover

Institut für Montagetechnik

 



Förderhinweis

Diese Forschungs- und Entwicklungsprojekte (KUKoMo 02P15A02x, KoMPI 02P15A06x, SafeMate 02P15A08x) wurden durch das Bundesministerium für Bildung und Forschung (BMBF) im Programm „Innovationen für die Produktion, Dienstleistung und Arbeit von morgen“ gefördert und vom Projektträger Karlsruhe (PTKA) betreut.