Shift 2019: Digitale Geschäftsmodelle auf dem Prüfstand

Am 28. Februar fand in Zürich die erste Shift-Konferenz des Centre for Digital Responsibility statt. Die SATW war Netzwerkpartner der Veranstaltung, die auf Anhieb ausverkauft war.

Die «Shift 2019» in Zürich drehte sich um Vertrauen und Akzeptanz digitaler Geschäftsmodelle, speziell aus ethischer Sicht. «Es geht also nicht nur ums Business, sondern um jeden selbst», so Organisatorin Cornelia Diethelm in ihrer Begrüssung. Erster Referent war Markus Gross, Direktor von Disney Research und SATW-Mitglied. Disney Research entwickelt mithilfe von Künstlicher Intelligenz (KI) und Visual Computing neue Technologien für Storytelling. Eine Herausforderung sei etwa die digitale Erzeugung von Gesichtern. Dafür wurde mit der ETH das System «Medusa» entwickelt, das inzwischen digitaler Standard in Hollywood sei. Weitere Systeme dienen zur Modellierung der Augen und Zähne. «Wir sind schon sehr nahe an der Realitätstreue.

Von Moderatorin Patrizia Laeri zu «Deepfakes» befragt, gab er Entwarnung: Zwar könnten menschliche Augen diese kaum noch entlarven, Algorithmen liessen sich aber dafür trainieren: «Es gibt ein Wettrüsten zwischen neuronalen Netzen, welche Deepfakes erzeugen, und jenen, die sie entlarven.»

Datenstrategie: Worauf fokussieren?

Lässt sich Ethik in Systeme integrieren? Die Daumen der Podiumsgäste gingen runter, ausser bei Marc Holitscher, National Technology Officer von Microsoft Schweiz: Es brauche den gesellschaftlichen Diskurs über Leitplanken. Doch sobald diese festgelegt seien, könne man sie abbilden. Marcel Blattner, Chief Data Scientist bei Tamedia, sah dies kritischer: «Ich finde es beunruhigend, wenn man ethische Probleme mit Tools lösen will und so die Verantwortung ein Stück weit auf die Technologie überträgt.» Bezüglich Datenstrategie fokussieren Microsoft und Tamedia auf die Prozesse. Diese seien gut zu dokumentieren, um Transparenz zu schaffen und Mitarbeitende für Gefahren zu sensibilisieren. Bei Swisscom hingegen seien die Mitarbeitenden im Zentrum, so Nicolas Passadelis, Head of Data Governance und Datenschutzbeauftragter. Der verantwortungsvolle Umgang mit Daten müsse in ihre DNA einfliessen. Dies alleine reiche aber nicht, es brauche auch Compliance-Massnahmen. Und wie sieht es in der Politik aus? Verheerend, wenn man Kantonsrätin Judith Bellaiche glaubt: «Die Politik ist von der Digitalisierung und dem Umgang mit Daten vollkommen überfordert. Sie ist regelrecht gelähmt.»

Mensch oder Maschine?

Wie verändert Technik das Kundenverhalten? Dazu forscht Anne Scherer an der Universität Zürich(UZH). Digitale Assistenten übernehmen immer öfter Aufgaben menschlicher Berater. Doch wie verändert dies die Interaktion zwischen Kunden und Unternehmen? Kunden würden extremer auf Menschen reagieren – positiv wie negativ. Das Ziel könne also nicht sein, Maschinen immer menschlicher zu machen. Indes müsse man sich fragen, welche Reaktion man hervorrufen wolle. «Gegebenenfalls macht es Sinn, die Maschine Maschine sein zu lassen.» Melanie Schefer Bräker, Head of Customer Care bei Swisscom, präsentierte ein Praxisbeispiel: Seit 2016 nutzt die Swisscom biometrische Stimmerkennung zur Identifizierung. Die Erfolgsquote sei 85 Prozent und man spare durchschnittlich ca. 30 Sekunden pro Anruf. Bisher hätten sich keine Kunden beschwert und nur 8 Prozent das Opt-out genutzt. «Vielleicht löst die Stimme künftig alle Passwörter und PINs ab.» Sie räumte aber ein, dass ihr das unheimlich wäre. Die Praxis der Swisscom ist umstritten, wie ein Twitter-Diskurs unter Teilnehmenden zeigt. Dominik Brumm, Head of Development bei Cubera Solutions, stellte Anwendungen mit Gesichtserkennung vor. «Die Systeme sind sehr gut heute: Die Fehlerrate liegt bei ca. 1 Prozent.» Oft genüge ein Referenzbild und die Rechenleistung eines Smartphones. «Dass bei dem Thema vielen unwohl ist, liegt am Kontrollverlust.» So liessen sich die Daten mit wenig Aufwand speichern, was zur Vorratsdatenspeicherung verleiten könne. Im Kontext von Überwachungen oder Marketing sei dies problematisch, weshalb Entwickler und Unternehmen ihre Verantwortung bzgl. Datenschutz wahrzunehmen hätten.

Problem Privatsphäre

Nach der Mittagspause folgten die Breakout-Sessions. Adrienne Fichter, Die Republik, zeigte einen Widerspruch vieler Tech-Konzerne auf: Obwohl sie betonen, die Privatsphäre der Nutzer zu schützen, gibt es laufend Missbräuche. Deshalb empfahl sie den WOZ-Ratgeber «Digitale Selbstverteidigung». Ein grosses Problem sei das Algorithmic Decision Making, das häufig intransparent sei. Man wisse nicht, wo es verwendet werde und ob allfällige Bias bestünden. Das revidierte Datenschutzgesetz schaffe zwar Abhilfe, doch klammere es Assistenzsysteme aus. Laut Sibylle Peuker, Partnerin bei Zeix, sei bei Systemen das Erwartungsmanagement zentral: Nutzer müssten wissen, was ein System kann, und es vor dem Ernstfall testen dürfen. «Für die Entwicklung vertrauenswürdiger Technologie braucht man Empathie und kritisches Denken.»

Thema des Workshops von Markus Christen, UZH Digital Society Initiative, und Karin Lange, Mobiliar, war ein ethisches Framework für Unternehmen. Einleitend zeigte Markus Christen den Zusammenhang von Big Data und Ethik auf, wie er das 2017 mit weiteren Autoren in einer SATW-Studie getan hat. Fiktives Fallbeispiel war ein Versicherungsangebot: Wer einen Fahrtenschreiber im Auto einbaue, werde bei sicherem Fahren mit Prämienreduktionen belohnt. Die Teilnehmenden identifizierten viele Probleme: Das Spektrum reichte vom Schutz der Privatsphäre bis zur Verletzung des Solidaritätsprinzips, dem Fundament einer Versicherung. Zur Orientierung bei solchen Fragen will die Swiss Alliance for Data-Intensive Services einen Ethik-Kodex zur Verfügung stellen.

Verantwortung übernehmen

Verantwortung war das Hauptthema des «CEO-Talks». Stefan Metzger, Country Managing Director Schweiz von Cognizant, hört oft, «man» müsse etwas tun. «Aber wer ist ‹man›? Machen wir als Industrie genug? Ich glaube ‹Nein›.» Bezüglich Bias warnte Marianne Janik, Country General Manager von Microsoft Schweiz, davor, KI ohne genügend Know-how einzusetzen. Sie plädierte für eine Entmystifizierung der KI: «Wir müssen Fakten und Daten bereitstellen. Es gibt noch zu viel Halbwissen und Ängste.» Christiane Müller-Haye, Director Continental Europe bei Phoenix, wies auf die Verantwortung beim Records Management hin. Es sei essenziell zu verstehen, welche Daten man besitze und was in der Softwareentwicklung damit passiere.