Daten sind das Lebenselixier von Unternehmen: Ohne ihre ständige Zufuhr können sie kaum existieren. Zudem ermöglichen Daten und ihre korrekte Analyse die Lösung bisher unlösbarer Probleme und eine ungeahnte Verbesserung von Prozessen.
Doch Skandale wie die um Facebook und Cambridge Analytica zeigen, dass Daten und ihre Analyse bedeutende ethische Fragen aufwerfen. Der Begriff „Datenethik“ ist längst etabliert, und diverse Gesetze befassen sich nur mit der Frage, in welchem Umfang Kundendaten von Unternehmen gesammelt und zu welchem Zweck genutzt werden dürfen. Ergo: Sobald Ihr Unternehmen Kundendaten sammelt und auswertet, müssen Sie sich mit ethischen und rechtlichen Fragen auseinandersetzen.
Experten für ethisches Denken
In unserem letzten Blog haben wir die Probleme beschrieben, die eine fahrlässigen Nutzung von Daten auslösen kann. Wir haben auch die Leitlinien erwähnt, die Data Scientists nutzen können, um potenzielle Probleme zu identifizieren und zu evaluieren. Angesichts der Bedeutung von Daten darf das Bewusstsein für Datenethik im Unternehmen nicht auf die Data Scientists beschränkt bleiben. Vielmehr muss Datenethik Eingang in viele, wenn nicht sogar alle Prozesse finden.
IG&H bewahrt Unternehmen vor datenethischen Fallstricken. Datenethik ist ein wesentlicher Teil unserer DNA. Jeder IG&H-Berater ist bis zu einem gewissen Grad in den Themen Datensicherheit und -ethik geschult. Außerdem haben wir vor Kurzem eine IDEA-Gruppe (Inclusivity Diversity Equity and Awareness) innerhalb der IG&H gegründet, die sich mit der Auswirkung von Ethik und Fairness auf geschäftliche Entscheidungen befasst. Zudem informiert die IDEA-Gruppe unsere Data Scientists über die neuesten Trends bezüglich der ethischen Nutzung von Kundendaten.
Rahmen für die ethische Datennutzung
Viele Unternehmen empfinden die Auseinandersetzung mit datenethischen Fragen als lästig. Unsere Erfahrung zeigt, dass diese Haltung falsch ist. Wir tun alles, damit Sie ihre auf Datenanalyse beruhenden Ziel auf ethische Weise erreichen.
Zu diesem Zweck haben wir den Ethical Risk Quick Scan entwickelt. Mit seiner Hilfe können unsere Kunden schnell einschätzen, ob ihr Umgang mit Daten ein ethisches Risiko darstellt. Es ist naturgemäß schwierig, die Risiken zukünftiger Anwendungsfälle zu bewerten. Dennoch ist das ethische Risiko ein entscheidendes Kriterium für die Priorisierung von Anwendungsfällen und die Wahl eines geeigneten Lösungsansatzes. Daher setzt unser Quick Scan bereits in einem frühen Projektstadium an und schafft Aufmerksamkeit für Wahrscheinlichkeit und Ausmaß der verbundenen Risiken.
Der Quick Scan sieht wie folgt aus:
Wir haben den Quick Scan so konzipiert, dass er potenzielle ethische Problembereiche visuell darstellt. Die Analyse erfolgt durch die Eingabe der Details des Anwendungsfalles.
Ein Beispiel: Stellen Sie sich ein Taxiunternehmen vor, der die Fahrten seiner Taxifahrer digital überwacht. Das Unternehmen möchte ein Modell entwickeln, das die Leistung der Fahrer auf Grundlage dieser Daten bewertet und deren Vergütung automatisch der ermittelten Leistung anpasst.
Lassen Sie uns diesen Anwendungsfall mit dem Framework bewerten:
Sind gefährdete Menschen betroffen? Die betroffenen Fahrer verfügen in der Regel über unterdurchschnittliches Einkommen.
Ist die Anzahl der betroffenen Personen groß? Es handelt sich um eine interne Anwendung, von der nur die Taxifahrer des Unternehmens betroffen sind.
Sind „Lebensbereiche“ betroffen? Die Entscheidungen des Modells werden sich auf diverse Lebensbereiche auswirken, da sie die finanzielle Situation und die Sicherheit des Arbeitsplatzes betreffen.
Beeinflussung des persönlichen Verhaltens? Die Entscheidungen des Modells können das Verhalten der Taxifahrer dahingehend beeinflussen, dass sie länger arbeiten oder Fahrten anzunehmen, mit denen sie sich nicht wohlfühlen.
Keine oder langsame Rückkopplungsschleife? Die Auswirkungen der Entscheidungen des Modells werden kurzfristig sichtbar (mit jeder Gehaltsauszahlung), sodass es eine schnelle Rückkopplungsschleife geben wird.
Keine menschliche Instanz involviert? Der Anwendungsfall erfordert eine autonome Leistungsbewertung und Gehaltsanpassung, d. h. es gibt keinen Menschen in der Schleife.
Verzerrungen in den Daten? Leistung ist in der Regel ein subjektives Konzept, sodass die Daten, anhand derer das Modell trainiert wird, verzerrt sein können.
Werden persönliche Daten verwendet? Die Daten werden exakte Standortinformationen enthalten, die als personenbezogene Daten gelten.
So würde der Quick Scan in diesem speziellen Anwendungsfall ausgefüllt werden:
Für jeden der Bereiche, die mit roten Punkten versehen sind, müssen Maßnahmen zur Abschwächung potenzieller Probleme erwogen oder ergriffen werden. Zusätzlich wird empfohlen, den Bereichen ab der Einstufung „Mittleres Risiko“ besondere Aufmerksamkeit zu schenken. Die nachstehende Tabelle enthält ein Beispiel für mögliche Abhilfemaßnahmen:
Der Quick Scan lenkt die Aufmerksamkeit auf Maßnahmen, die noch vor Projektbeginn ergriffen werden können. Sobald ein Projekt in vollem Gange ist und die tatsächlichen Lösungs- und Datenanforderungen immer klarer werden, kann das Team seine Bewertung mit dem Ethical Risk Evaluation Framework auf die nächste Stufe heben. Dabei werden die Risikodimensionen im Hinblick auf die anerkannten ethischen Kriterien Sicherheit, Fairness, Transparenz und Datenschutz weiter untersucht.
Sicherstellung einer ethischen digitalen Transformation
Während einer Transformation arbeiten die Lösungsteams von IG&H mit unseren Branchenexperten zusammen, um ein nahtloses Zusammenspiel von Daten, Analytik, Technologie und Geschäftsfähigkeiten zu gewährleisten. Gleichzeitig stellen die Lösungsteams von IG&H sicher, dass die Datennutzung die Erreichung der Geschäftsziele effektiv fördert, ohne gegen ethische Richtlinien und Vorschriften zur Datennutzung zu verstoßen.
In unserem nächsten Artikel beleuchten wir die Maßnahmen, die wir mithilfe von Quick Scan und Ethical Risk Evaluation Framework ergreifen können – mit dem Ziel, Sicherheit, Fairness, Transparenz und Datenschutz zu gewährleisten und erkannte Risiken zu beseitigen oder zu verringern.
Laden Sie das Ethical Risk Quick Scan Framework herunter und bewerten Sie Ihr eigenes Datenprojekt!
Kontakt
Mando Rotman
Tom Jongen
Floor Komen