Responsible by Design

Digitale Produkte sind nicht neutral. Sie beeinflussen, wie Menschen kommunizieren, entscheiden, lernen, konsumieren und sich orientieren. Wer Apps baut, gestaltet Realität mit – und trägt Verantwortung für ihre Wirkung.

Ich leite seit acht Jahren die Cuckoo Coding GmbH, eine App Agentur mit Fokus auf Flutter, bringe aber auch einen Philosophie-Background mit. Und je länger ich mit Teams an digitalen Produkten arbeite, desto klarer wird mir: Wir brauchen Werkzeuge, um ethische Fragestellungen in unseren Produkt-Alltag zu bringen.

Deshalb haben wir mit unserem Team hier ein einfaches Framework entwickelt, das hilft, Verantwortung im Entwicklungsprozess sichtbar und diskutierbar zu machen. Es richtet sich an alle, die an digitalen Produkten arbeiten: Product Owner, Entwickler:innen, UX-Designer:innen, Manager:innen.

Warum ein Framework?

Verantwortung beginnt nicht erst bei der Feature-Entscheidung. Sie ist Teil jeder Projektphase: von der Auswahl der Tools über das UX-Design bis hin zur Datennutzung. Unser Framework unterstützt Teams dabei, zentrale Fragen nicht zu übersehen.

Es basiert auf sechs Bereichen, die in unserer Arbeit immer wieder vorkommen. Die ethischen Fragestellungen sind nicht neu - aber wir haben versucht sie zu organisieren und runterzubrechen. Im Arbeitsalltag sind wir in der Regel direkt auf der funktional-wirtschaftlichen Ebene und verbannen die menschliche Ebene in unser Privatleben.

Doch hier im Business haben wir die größte Hebelwirkung. Und dass wir ein bißchen mehr Verantwortung in der Tech-Welt gebrauchen können, hat uns Trump's Amtseinführung letztes Jahr gezeigt: mit den Tech Bros an seiner Seite, die mittlerweile dank unserer Daten Politik mitgestalten können.

Die sechs Bereiche im Framework

In folgenden Bereichen tauchen in unserem Arbeitsalltag immer wieder ethische Fragestellungen auf. Bei euch lieben Leser*innen können es natürlich ganz andere sein. Aber es ist eine spannende Aufgabe, diese für seine Firma zu definieren.

1) Daten für Menschen vs. Daten über Menschen

Natürlich müssen wir über Daten sprechen. Dieser Bereich wird eh viel diskutiert, weil er mittlerweile legal relevant ist. Aber auch auf ethischer Ebene ist er spannend und die ethische Ebene unterscheidet sich von der legalen.

Denn auf der legalen Ebene heißt es: Je weniger Daten, desto safer. Ethisch gesehen ist Daten zu erheben erstmal nicht per se gut oder schlecht. Entscheidend ist der Zweck. Wir sprechen hier immer über Daten für versus Daten über Menschen.

Daten für Menschen verbessern Nutzbarkeit. Sie zeigen, wo Nutzer hängenbleiben, was unverständlich ist, wo Orientierung fehlt. Diese Daten können anonym sein und dienen vor Allem dem Mehrwert für den Nutzer.

Daten über Menschen dienen dem App Anbieter, nicht dem Nutzer. Sie ermöglichen Profiling, Druck oder Vorhersage und Beeinflussen von Verhalten.

Die Leitfrage in der Besprechung kann sein: Sammeln wir Daten, um Nutzbarkeit zu verbessern? Oder um Verhalten zu lenken?

2) Dark Patterns vs. Nutzerbindung

In der App Entwicklung ist der heilige Grahl die User Retention. Wie können wir den User an uns binden?

Hier finden wir es sinnvoll zu unterscheiden zwischen Nutzerbindung und Abhängigkeit. Denn Retention ist kein Qualitätskriterium, wenn die Bindung aus Druck entsteht.

Kommt der User zurück weil die App einen echten Mehrwert schafft? Oder kehrt er zurück um ein unangenehmes Gefühl zu beenden?

Werkzeuge wie Push, Dringlichkeit, Gamification sind erstmal neutral. Aber die Frage ist: Was soll damit erreicht werden?

Leitfrage: Würde ich meinen Kindern meine App in die Hände geben? Wenn einem dabei ein flaues Gefühl im Magen entsteht: Nochmal genauer auseinandernehmen, das Produkt, das man da gerade baut.

3) Digitale Teilhabe

Digitale Teilhabe bedeutet: Möglichst viele Menschen können die Anwendung selbstständig nutzen. Nicht nur „barrierefrei“ im legalen Sinn, sondern verständlich, navigierbar, klar.

Das bedeutet in der Praxis: Hypes, technische und Design Spielereien zurückstellen und dein Produkt ein bißchen durchschnittlicher machen. Damit es auch ältere Menschen und digital nicht affine Menschen benutzen können und es ihren Alltag bereichert und nicht stressiger macht.

Dazu in Meetings dieses Thema immer dann im Hinterkopf haben, wenn neue Designideen im Raum stehen. Wir lassen diese Ideen erstmal zu, damit sie durchdacht werden können, aber zum Schluß stellen wir sie dann mit Blick auf Digitale Teilhabe und Barrierefreiheit nochmal in Frage, bevor irgendwas als Task aufgenommen wird.

Wie wichtig das Thema Digitale Teilhabe ist, kommt natürlich sehr darauf an, was für eine App ihr baut. Baut ihr das nächste Doctolib? Sehr wichtig. Eine App um WoW Memorabilia zu tauschen? Vielleicht nicht so relevant.

Dafür Raum zu schaffen kann sehr wertvoll sein - zu diskutieren, wie sehr dieses Thema für euer digitales Produkt relevant sein sollte und hier eure Verantwortung gegenüber solchen Usergruppen für euer Team zu klären.

Leitfrage: Kann jemand mit geringer digitaler Erfahrung oder sonstigen Einschränkungen den Kern-Use-Case ohne Hilfe ausführen? Und wie wichtig ist das für uns?

4) Diversität

Teams gestalten Produkte aus ihrer eigenen Erfahrungswelt.

Wenn bestimmte Perspektiven fehlen, werden bestimmte Nutzerbedürfnisse gar nicht erst gesehen – und damit auch nicht mitgedacht. Das versperrt natürlich Chancen bei der Produktentwicklung - aber vor allem schließt es halt Menschengruppen aus.

Diversität im Team verhindert blinde Flecken in Anforderungen und UX. Auch und vor Allem beim Testen: Deine Testerinnen sollten nicht nur tech-affine deutsche Männer Mitte 30 sein, die zufällig auch Devs in eurem Team sind. Denn Digitale Teilhabe (siehe oben) kann nur sinnvoll vertestet werden, wenn auch entsprechende Testerinnen an Bord sind.

Es geht hier übrigens auch nicht nur um bestimmte kulturelle Backgrounds oder Geschlecht. Apps werden so oft nicht in "normalen" Situationen benutzt - je mehr Lebensrealitäten vertreten sind, desto besser wird das Produkt. Unterschiedliche Altersgruppen nutzen andere Finger zum Tippen, die Mama hat nur eine Hand frei weil sie die App immer beim Kinderwagen schieben nutzt und der andere trägt Handschuhe und hätte gern eine Sprachfunktion,... Sowas erfährt man nur, wenn man unterschiedliche Menschen ins Team lässt.

Leitfrage: Haben wir mit Menschen gearbeitet oder getestet, die wirklich die Lebensrealitäten unserer Nutzer:innen repräsentieren? Was können wir aktiv tun um unser Team zu diversifizieren?

5) Digitale Lieferkette & Abhängigkeiten

Neben unserem eigenen Code bestehen digitale Produkte aus Komponenten andere Unternehmen: Hosting, APIs, Frameworks, Plugins.

Damit unterstützen wir automatisch die Unternehmen hinter diesen Komponenten und treten auch in eine Abhängigkeit.

Zwei Punkte die wir dabei bedenken sollten, um damit auch später glücklich zu bleiben:

Robustheit: Vermeiden unnötiger Abhängigkeiten, die später Lock-in erzeugen. (Und gefährlich werden können, Stichwort Digitale Souveränität)

Wertekompatibilität: Entscheidungen treffen, die vertretbar sind – auch langfristig. Vor euren Kund*innen aber auch und vor Allem vor eurem Team.

Als Team kann es wertvoll sein darüber zu reden, was hier No Gos sind, und was für bestimmte Vorteile toleriert werden kann.

Leitfrage: Wovon und von wem machen wir uns abhängig, und können wir damit leben?

6) Nachhaltigkeit

Digitale Produkte verbrauchen Ressourcen. Weniger Rechenlast, weniger Datenübertragung und -speicherung sparen Energie. Vor dem Anbruch des KI Zeitalter hat das schon eine Menge Strom und Wasser verbraucht - jetzt wächst der Verbrauch exponentiell.

Wir brauchen hier realistische Abwägungen zwischen Nutzererlebnis und Nachhaltigkeit. Wieviel KI brauchen wir wirklich für eine gute App? Dieses Thema in Meetings anzusprechen kann hilfreich sein um klar zu machen: Die digitale Welt hat Auswirkungen auf die reale Welt, und wir sind auch für letztere verantwortlich.

Leitfrage: Auf welche Daten kann ich verzichten? Wie halte ich meinen Speicher clean? Und vor allem: Brauch ich wirklich diese AI?

Das Framework zur Anwendung

Damit die Verantwortung nicht zwischen Tickets, Deadlines und Business-Zielen verloren geht, haben wir die sechs Bereiche für euch in einer einfachen Tabelle organisiert. Sie soll während der App-Entwicklung zum Einsatz kommen und eine zweite Ebene eröffnen: Neben der wirtschaftlichen eine ethische.

Wenn ihr Hilfe mit der Implementierung braucht, können wir gern einen Workshop mit euch durchführen. Wenn ihr Feedback habt und Ergänzungen - schreibt uns gern eine Email, wir freuen uns :)

Jede Zeile der Tabelle stellt eine Leitfrage. Wer mag, kann sein digitales Produkt selbst oder im Team zu jedem Bereich einschätzen: von 1 (nicht so gut aufgestellt hier) bis 5 (vorbildlich umgesetzt).

Ein Foto der Tabelle hängen wir unten an. Nutzt sie gern für euren eigenen Kontext, passt sie an, diskutiert darüber. Vielleicht reicht nicht alles für eine glatte 5 – aber irgendwo sollte man anfangen.

Denn verantwortungsbewusstes Handeln, auch in der Tech-Branche - hat seine Wurzeln nicht im stillen Kämmerlein. Welche Verantwortung man für andere Menschen trägt und welches Verhalten fair ist, das muss laut verhandelt werden. Mit möglichst vielen verschiedenartigen Menschen, möglichst regelmäßig.

Viel Spaß dabei, Mira & das Cuckoo Team