Privacy by Design: Wie man Privatsphäre verkauft und Änderungen vornimmt

Datenschutz ist ein grundlegendes Menschenrecht, das uns erlaubt, wir selbst zu sein. Es erlaubt uns, Verrückte ohne Scham zu sein. Es erlaubt uns, abweichende Meinungen ohne Konsequenzen zu haben. Und letztendlich ist es das, was uns erlaubt, frei zu sein. Aus diesem Grund haben viele Nationen strenge Datenschutzgesetze. Trotz dieses gemeinsamen Verständnisses ist der Datenschutz im Internet jedoch eines der am wenigsten verstandenen und schlecht definierten Themen, da es eine Vielzahl von Themen umfasst und in vielen verschiedenen Formen Gestalt annimmt, was es unglaublich schwierig macht, es zu identifizieren und zu diskutieren . Ich möchte jedoch versuchen, diese Unklarheit aufzulösen.

In den Vereinigten Staaten ist es ein Bundesvergehen, die Post von jemandem zu öffnen. Dies wird als kriminelle Verletzung der Privatsphäre angesehen, die jemanden für bis zu fünf Jahre ins Gefängnis bringen kann. Bildlich gesprochen kann man sich jede Datei, die wir im Internet erstellen – ob Foto, Video, Text oder etwas anderes – als Postpaket vorstellen. Im Gegensatz zum Öffnen unserer Post im wirklichen Leben können Internetunternehmen jedoch jede Post, die über ihr System zugestellt wird, ohne rechtliche Konsequenzen legal öffnen. Darüber hinaus können sie auch Kopien davon anfertigen. Was diese Unternehmen tun, wäre vergleichbar mit jemandem, der unsere Post öffnet, sie bei Kinkos kopiert, sie dann in einem Aktenschrank mit unserem Namen darauf aufbewahrt und sie mit jedem teilt, der bereit ist, dafür zu bezahlen. Möchten Sie diesen Aktenschrank öffnen oder einige der Kopien löschen? Schade. Unsere Post gilt derzeit als ihr Eigentum, und wir haben fast keine Kontrolle darüber, wie sie verwendet wird .

Können Sie sich die Empörung vorstellen, die die Öffentlichkeit erfahren würde, wenn sie herausfände, dass die Post ihre Post als Geisel hält und sie an jeden verkauft, der bereit ist zu zahlen? Was mit Daten im Internet passiert, ist nicht anders, und es ist an der Zeit, dass sich dies ändert.

Es ist mehr als nur eine Frage der Ethik, dass dies geschieht, es ist eine Frage der grundlegenden Menschenrechte.

Das Problem bei der Durchführung der erforderlichen Änderungen (ohne dass Änderungen durch Vorschriften erzwungen werden) besteht darin, die Probleme mit Dollarzeichen zu versehen. Wie hoch ist die finanzielle Rendite einer 20.000-stündigen technischen Investition zur Verbesserung der Datenschutzstandards für Verbraucher? Fordern die Verbraucher diese Änderungen? Denn wenn es keine Steuerrendite bringt und die Verbraucher es nicht fordern, warum sollte dann etwas geändert werden? Und selbst wenn sie es sind und es eine Rendite gibt, wie sehen 20.000 Stunden Investition überhaupt aus? Was wird wann auf die Produkt-Roadmap gesetzt? All dies sind berechtigte Bedenken, die angegangen werden müssen, damit wir effektiv vorankommen können. Also, lass uns diskutieren.

Empfohlene Lektüre : Verwendung von Ethik im Webdesign

Wollen die Verbraucher es?

Die Antwort auf diese Frage ist ein hartes Ja. Ergebnisse des Pew Research Center zeigen, dass 90 Prozent der Erwachsenen in den Vereinigten Staaten es für wichtig halten, dass sie die Kontrolle darüber haben, welche Informationen über sie gesammelt werden, 93 Prozent glauben, dass es wichtig ist, dass sie kontrollieren können, wer Zugriff auf diese Informationen hat, und 86 Prozent haben dies Schritte unternommen, um ihre digitalen Fußabdrücke zu entfernen oder zu maskieren. Ähnliche Zahlen wurden im Digital Attitudes-Bericht 2018 von doteveryone über Europäer entdeckt. Trotz dieser Zahlen haben 59 Prozent immer noch das Gefühl, dass es unmöglich ist, online anonym zu bleiben, 68 Prozent glauben, dass die aktuellen Gesetze nicht genug tun, um ihre Privatsphäre zu schützen, und nur 6 Prozent sind „sehr zuversichtlich“, dass Regierungsbehörden sie schützen können.

Nun, ich weiß, was du denkst. Dies ist die Verbrauchernachfrage, und bis diese Verbraucher alte Produkte zurücklassen, gibt es keinen steuerlichen Grund, Änderungen vorzunehmen. Und (obwohl ich Ihrer Logik nicht zustimme) Sie haben Recht. Im Moment gibt es kaum steuerlichen Grund, Änderungen vorzunehmen. Wenn die Verbrauchernachfrage jedoch eine kritische Masse erreicht, ändern sich die Dinge immer. Und die Unternehmen, die vorangehen, bevor der Wandel gefordert wird, gewinnen langfristig immer. Diejenigen, die sich weigern, etwas zu ändern, bis sie gezwungen sind, immer den größten Schmerz zu empfinden . Die Geschichte zeigt, dass dies die Wahrheit ist. Aber was wird in der Gesetzgebung passieren, die das Geschäft so sehr verändern wird? Tolle Frage.

Was mit Datenschutz- und Datenschutzstandards auf der ganzen Welt durch Regulierung geschehen wird, wird sich nicht so sehr von dem unterscheiden, was vor weniger als einem Jahrzehnt geschah, als Verbraucher Schutz vor Spam-E-Mails forderten, was in den Vereinigten Staaten zum CAN-SPAM-Gesetz führte – aber in viel größerem Umfang und mit exponentiell größerer Wirkung. Dieses Gesetz, das geschaffen wurde, weil die Verbraucher es satt hatten, Spam-E-Mails zu erhalten, legte die Regeln für kommerzielle E-Mails fest, legte Anforderungen für kommerzielle Nachrichten fest, räumte den Empfängern das Recht ein, dass Einzelpersonen und Unternehmen keine E-Mails mehr senden, und legte harte Strafen für Verstöße fest. Während wir in eine Zeit eintreten, in der die Verbraucher beginnen zu verstehen, wie sehr sie getäuscht wurden (es wird zweifellos die Zukunft der Datenerfassung sein, den Menschen seit Jahren eine intime Kontrolle über ihre Daten zu geben) – sei es durch freien Willen oder Gesetze. Und diejenigen, die sich zuerst entscheiden, werden gewinnen. Glauben Sie mir nicht?

Bedenken Sie, dass Ingenieure für den von ihnen geschriebenen Code rechtliche Probleme bekommen können. Apple Watch-, Alexa- und FitBit-Daten wurden unter anderem als Beweismittel vor Gericht verwendet, was die Wahrnehmung der Verbraucher in Bezug auf ihre Daten veränderte. Microsoft und der Oberste Gerichtshof der Vereinigten Staaten gingen Anfang dieses Jahres vor Gericht, um zu definieren, wo sich physische Grenzen bei cloudbasierten kriminellen Aktivitäten erstrecken, der Beginn eines langen Kampfes. Diese Beispiele sind nur ein kleiner Vorgeschmack auf das, was kommt. Die Menschen verlangen mehr, und wir erreichen den Wendepunkt.

Die erste, die Schritte unternimmt, um auf diese Forderung zu reagieren, ist die EU, die die DSGVO eingeführt hat, und jetzt beginnen die politischen Entscheidungsträger in anderen Ländern, diesem Beispiel zu folgen, und arbeiten an Gesetzen in ihrem Land, um unsere Cyber-Zukunft zu definieren. Zum Beispiel hat der stellvertretende Vorsitzende des Geheimdienstausschusses des US-Senats, Mark Warner, erst vor ein paar Monaten einige Ideen in einem zusammenfassenden Bericht dargelegt, der zeigt, wohin die Gesetzgebung in den Staaten bald führen könnte. Aber nicht nur die Progressiven glauben, dass dies die Zukunft ist; selbst rechte Influencer wie Steve Bannon meinen, wir brauchen Regulierung.

Was wir sehen, ist eine menschliche Reaktion auf unglaubliche Manipulation. Egal wie domestiziert wir im Vergleich zu früheren Generationen sein mögen, die Menschen werden immer zurückschlagen, wenn sie sich bedroht fühlen. Es ist eine natürliche Reaktion, die es uns ermöglicht hat, Jahrtausende lang zu überleben. Tech ist heute mehr als nur eine verbraucherorientierte Branche. Es wird nun auch zu einer Frage der nationalen Sicherheit . Und aus diesem Grund wird es eine Reaktion geben, ob wir wollen oder nicht. Und es ist besser, wenn wir eine Strategie entwickeln, um uns vorzubereiten, anstatt unter den Teppich gekehrt zu werden. Also, was ist die finanzielle Rendite, die Sie fragen? Nun, wie viel ist Ihr Unternehmen wert? So viel.

Empfohlene Lektüre : Wie die DSGVO Ihre Entwicklung verändern wird

Für einen einfachen Rahmen dessen, was genau angegangen werden muss und warum, können wir mehrere Wahrheiten als grundlegend für die Erstellung digitaler Systeme betrachten:

1. Der Datenschutz muss proaktiv und nicht reaktiv sein und Datenschutzprobleme antizipieren, bevor sie den Benutzer erreichen.
   Diese Probleme sind keine Probleme, mit denen wir uns befassen möchten, nachdem ein Problem aufgetreten ist, sondern Probleme, die wir nach Möglichkeit vollständig verhindern möchten.
2. Datenschutz muss die Standardeinstellung sein.
   In Bezug auf den Datenschutz gibt es keine „Best for Business“-Option; hier geht es darum, was für den verbraucher am besten ist, was langfristig besser für das unternehmen ist. Wir können sehen, was passiert, wenn Zwangsmängel der Öffentlichkeit aufgedeckt werden, was mit Paypal und Venmo im August 2018 passiert ist, als Public by Default für die Öffentlichkeit freigegeben wurde, was der Marke ein paar Brocken schlechter Presse einbrachte. Mehr davon wird sicherlich auf die Unternehmen zukommen, die darauf warten, dass etwas Schlimmes passiert, bevor sie eine Änderung vornehmen.
3. Datenschutz muss eine positive Summe sein und sollte Dichotomien vermeiden.
   Es gibt keine binäre Beziehung zum Datenschutz; Es ist ein ewig formbares Problem, das ständige Überwachung und ständige Iteration erfordert. Unsere Arbeit endet nicht mit den Bedingungen und Servicevereinbarungen, sie dauert ewig und sollte als grundlegendes Element Ihres Produkts betrachtet werden, das sich mit dem Produkt weiterentwickelt und es den Verbrauchern ermöglicht, sich selbst zu schützen – nicht als eines, das ihr mangelndes Verständnis ausnutzt.
4. Datenschutzstandards müssen sichtbar, transparent, offen, dokumentiert und unabhängig überprüfbar sein.
   Es gibt keine gute Möglichkeit, einen Lackmustest für Ihre Datenschutzstandards zu definieren, aber ein paar Fragen, die wir uns alle als Geschäftsleute stellen sollten, sind: Erstens, wenn die Presse Ihre Datenschutzvereinbarung veröffentlichen würde, wäre sie verständlich? Zweitens, wenn es verständlich wäre, würde den Verbrauchern gefallen, was sie lesen? Und zu guter Letzt, wenn nicht, was müssen Sie ändern?

Diese Prinzipien sind sehr wertvolle Grundlagen, die man bei der Konstruktion und Weiterentwicklung von Produkten im Auge behalten sollte. Sie stellen schnelle und einfache Fragen dar, die Sie sich und Ihrem Team stellen können, um eine gute ethische Grundlage zu schaffen, aber für einen längeren Artikel über rechtliche Grundlagen können Sie mehr von Heather Burns lesen, die letztes Jahr mehrere zusätzliche Prinzipien zum Thema Smashing umrissen hat. Und für eine vollständige Liste der Dinge, die während einer Datenschutz-Folgenabschätzung (PIA) überprüft werden müssen, können Sie auch nachlesen, wie Bewertungen durchgeführt werden:

• Das Büro des Informationsbeauftragten des Vereinigten Königreichs (ICO)
• Das Büro des Datenschutzbeauftragten von Kanada
• Das Heimatschutzministerium der Vereinigten Staaten

Aber bevor Sie sich aufmachen, Änderungen an Ihrem Produkt vorzunehmen, lassen Sie uns zunächst auf einige der aktuellen Schwachstellen hinweisen und darüber sprechen, wie Änderungen aussehen könnten, wenn sie richtig implementiert sind.

Wie man Änderungen vornimmt

Eines der größten Probleme mit den US-Datenschutzpraktiken ist, wie schwer es ist, Bedingungen und Dienstleistungsvereinbarungen (T&S) zu verstehen, die eine wichtige Rolle bei der Definition des Datenschutzes spielen, dies aber tendenziell sehr schlecht tun. Derzeit sind Benutzer gezwungen, lange Dokumente voller juristischer Sprache und Fachjargon zu lesen, wenn sie hoffen zu verstehen, worauf sie sich einlassen. Eine Studie hat tatsächlich gezeigt, dass es ungefähr 201 Stunden (fast zehn Tage) pro Jahr dauern würde, bis eine durchschnittliche Person jede Datenschutzrichtlinie gelesen hätte, der sie jährlich begegnen . Die Forscher schätzten, dass sich der Wert dieser verlorenen Zeit auf fast 781 Milliarden US-Dollar pro Jahr belaufen würde, was mehr als inakzeptabel ist, wenn man bedenkt, dass dies die Regeln sind, die die Verbraucher schützen sollen – Regeln, die als leicht und verdaulich angepriesen werden. Dies bringt die Verbraucher in eine Position, in der sie gezwungen sind, sich anzumelden, ohne wirklich zu verstehen, worauf sie sich einlassen. Und in vielen Fällen ist es nicht einmal die juristische Sprache, die zwingend ist, sondern die Art und Weise, wie Optionen im Allgemeinen gegeben werden, wie durch verschiedene Erfahrungen klar bewiesen wurde:

Das obige Beispiel ist ein generisches Wireframe, aber ich habe mich dafür entschieden, weil wir alle Muster wie dieses und andere ähnliche Muster gesehen haben, die mit dem Sammeln spezifischerer Arten von Daten zusammenhängen. Ich könnte konkrete Beispiele aufzählen, aber die Liste würde ewig weitergehen und es gibt keinen Grund, bestimmte Unternehmen aufzulisten, die manipulative Muster zeigen, da diese Muster (und andere, sehr ähnliche Muster) auf fast jeder einzelnen Website oder App im Internet zu finden sind. Es gibt ein großes Problem, wenn man auf diese Weise um Zustimmung bittet: Verbraucher dürfen Bedingungen und Dienste nicht ohne mehrere zusätzliche Schritte, viel Lesen und oft viel mehr ablehnen. Dies ist ein grundlegender Fehler, der behoben werden muss, da die Bitte um Zustimmung bedeutet, dass es eine Option geben muss, Nein zu sagen, und um zu wissen, ob „Nein“ die beste Option ist, müssen die Verbraucher verstehen, wozu sie ihre Zustimmung geben. Produkte werden jedoch nicht auf diese Weise hergestellt. Warum? Nun, es ist das Beste fürs Geschäft.

Wenn wir wirklich dasitzen und darüber nachdenken, ist es leicht zu erkennen, dass Unternehmen mehr Zeit damit verbringen, Begrüßungsseiten zu erstellen, um zu erklären, wie die App verwendet wird, als wir, um zu erklären, welche Daten gesammelt werden und warum. Warum? Einfache Änderungen an der Art und Weise, wie T&S-Vereinbarungen getroffen werden, würden den Verbrauchern nicht nur bewusster machen, wofür sie sich anmelden, sondern ihnen auch ermöglichen, verantwortungsbewusstere Verbraucher zu sein . Wir können sehen, dass einige dieser Änderungen bereits aufgrund der Auswirkungen der DSGVO auf der ganzen Welt vorgenommen wurden. In vielen europäischen Ländern ist es nicht ungewöhnlich, dass die Zustimmung durch Modalitäten wie diese eingeholt wird:

Dieses erste Beispiel ist ein guter Schritt nach vorn. Es sagt dem Verbraucher, wofür seine Daten verwendet werden, aber es fehlt immer noch die Transparenz darüber, wohin die Daten gehen, und es wird der Vereinbarung Vorrang eingeräumt, ohne dass die Möglichkeit besteht, sie abzulehnen. Es staut auch alles in einem einzigen Textkörper, was die Informationen viel weniger verdaulich macht.

Ein besseres Beispiel dafür, wie dies gestaltet werden könnte, ist so etwas wie das unten stehende Modal, das inzwischen auf vielen europäischen Websites üblich ist:

Dies gibt den Verbrauchern ein umfassendes Verständnis dafür, wofür ihre Daten verwendet werden, und zwar auf verständliche Weise. Es fehlen jedoch noch signifikante Informationen darüber, wohin die Daten nach ihrer Zustimmung gehen werden. Es gibt keinen einzigen Hinweis darauf, wo ihre Daten geteilt werden, mit wem sie geteilt werden und welche Beschränkungen innerhalb dieser Vereinbarungen bestehen. Obwohl dies viel besser ist als die meisten Optionen im Internet, müssen noch Verbesserungen vorgenommen werden.

Anmeldeaufforderung von Drittanbietern

Wenn Sie beispielsweise einen Drittanbieterdienst verwenden, um sich bei Ihrer Plattform anzumelden, sollten Verbraucher auf Folgendes aufmerksam gemacht werden:

1. Welche Daten werden vom Drittanbieter übernommen?
2. Wofür es verwendet wird und wie es sich auf ihre Erfahrung auswirken könnte, wenn Sie keinen Zugriff darauf haben;
3. Wer sonst noch Zugriff darauf hat oder haben könnte.

Um dies so umzusetzen, dass der Verbraucher die Kontrolle hat, sollte diese Erfahrung es den Verbrauchern auch ermöglichen, sich für einzelne Teile der Sammlung anzumelden, und nicht gezwungen werden, allem oder gar nichts zuzustimmen.

Dies würde die T&S verdaulich machen und es den Verbrauchern ermöglichen, sich für das zu entscheiden, dem sie wirklich zustimmen, und nicht für das, dem das Unternehmen will, dass sie zustimmen. Und um sicherzustellen, dass es sich wirklich um ein Opt-in handelt, sollte die Standardeinstellung auf Opt-out eingestellt sein. Dies wäre eine kleine Änderung, die einen dramatischen Unterschied in der Art und Weise bewirken würde, wie um Zustimmung gebeten wird. Heutzutage hüllen die meisten Unternehmen diese Inhalte in Rechtsjargon , um zu verbergen, woran sie wirklich interessiert sind, aber die Zeiten, in denen sie auf diese Weise um Zustimmung gebeten haben, gehen schnell zu Ende.

Wenn Sie den Verbrauchern einen sinnvollen Service bieten und dies ethisch vertretbar tun, sollten diese Änderungen kein Problem darstellen. Wenn der Service einen echten Wert hat, werden die Verbraucher Ihrer Bitte nicht widerstehen. Sie wollen nur wissen, wem sie vertrauen können und wem nicht, und dies ist ein einfacher Schritt, der Ihrem Unternehmen helfen kann, seine Vertrauenswürdigkeit zu beweisen.

Einzel- und Mehrpunkt-Datenerfassungsanfragen

Wenn es darum geht, verständliche T&S-Vereinbarungen für Ihre Plattform zu erstellen, müssen wir als Nächstes überlegen, wie sich dies kontextbezogener auswirken könnte – innerhalb der Anwendungserfahrung. Denken Sie daran, dass es nicht verdaulich ist, wenn alles im Voraus aufgegeben wird. Aus diesem Grund sollte die Anfrage zur Datenerfassung kontextbezogen erfolgen , wenn der Verbraucher einen Teil Ihres Dienstes nutzt, für den eine zusätzliche Datenebene erfasst werden muss.

Um zu demonstrieren, wie diese Anfrage auftreten kann, sind hier ein paar Beispiele dafür, wie eine Einzel- und Mehrpunkt-Datenerfassungsanfrage aussehen könnte:

Die Aufschlüsselung der T&S in verdauliche Interaktionspunkte innerhalb der Erfahrung, anstatt den Benutzer im Voraus nach allem zu fragen, ermöglicht es ihm, ein besseres Verständnis dafür zu bekommen, was vor sich geht und warum. Wenn Sie die Daten nicht benötigen, um das Erlebnis zu verbessern, warum werden sie gesammelt? Und wenn es aus leichtfertigen Gründen gesammelt wird, die nur dem Unternehmen zugute kommen, dann seien Sie ehrlich. Das ist nur grundlegende Ehrlichkeit, die in der modernen Welt leider als revolutionärer, fortschrittlicher Kundenservice gilt.

Der wichtigste Schlüssel zu diesen anfänglichen Fragen ist, dass nichts davon standardmäßig aktiviert sein sollte . Alle anfänglichen Auslöser sollten den Personen, die das Tool verwenden, die Möglichkeit geben, sich anzumelden, wenn sie dies wünschen, und es zu verwenden, ohne sich anzumelden, wenn sie dies wünschen. Die Tage des erzwungenen Opt-in (oder, noch schlimmer, des erzwungenen Opt-in) kommen zu einem abrupten Ende, und diejenigen, die den Weg weisen, werden noch lange vor der Masse bleiben.

Datenkontrollzentrum

Abgesehen davon, dass wir sinnvoll um Zustimmung bitten, wird es auch wichtig sein, dass wir den Verbrauchern die Möglichkeit geben, ihre Daten nachträglich zu kontrollieren. Der Zugang der Verbraucher zur Kontrolle ihrer Daten sollte nicht mit der Vereinbarung über die Nutzungsbedingungen enden. Irgendwo in ihren Kontokontrollen sollte es auch einen Ort (oder Orte) geben, an dem Verbraucher ihre Daten auf der Plattform kontrollieren können, nachdem sie Zeit in den Dienst investiert haben. Dieser Bereich sollte ihnen zeigen, welche Daten gesammelt werden, mit wem sie geteilt werden, wie sie sie entfernen können und vieles mehr.

Die Idee der vollständigen Datenkontrolle mag unglaublich liberal erscheinen, aber sie ist zweifellos die Zukunft. Und als Eigentum des Verbrauchers, der die Daten erstellt, sollten sie als grundlegendes Menschenrecht betrachtet werden. Es gibt keinen Grund, warum dies zu diesem Zeitpunkt in der Geschichte eine Debatte sein sollte. Daten repräsentieren die Geschichte unseres Lebens – kollektiv – und zusammen erzeugen sie enorme Macht gegen diejenigen, die sie erschaffen, insbesondere wenn wir zulassen, dass die Systeme Black Boxes bleiben. Abgesehen davon, dass wir den Verbrauchern Zugriff auf ihre Daten gewähren, wie wir in den vorherigen Abschnitten besprochen haben, müssen wir die Erfahrung auch verständlicher gestalten, damit sich die Verbraucher wehren können.

Erstellen Sie erklärbare KI

Während es unglaublich ist, ein vorgeschlagenes Ergebnis zu erhalten, das uns Dinge zeigt, die wir wollen, bevor wir überhaupt wussten, dass wir sie wollen, versetzt dies Maschinen auch in eine starke Position, die sie noch nicht allein aufrecht erhalten können. Wenn Maschinen als Experten positioniert sind und auf einem Niveau arbeiten, das intelligent genug ist, um als solches durchzugehen, wird die Öffentlichkeit ihnen im Allgemeinen vertrauen, bis sie versagen. Wenn Maschinen jedoch auf eine Weise versagen, die die Öffentlichkeit nicht verstehen kann, werden sie trotz ihres Versagens Experten bleiben, was eine der größten Bedrohungen für die Menschheit darstellt.

Wenn beispielsweise jemand ein visuelles Suchwerkzeug verwenden würde, um den Unterschied zwischen einem essbaren Pilz und einem giftigen Pilz zu identifizieren, und er nicht wüsste, dass die Maschine ihm sagte, dass ein giftiger Pilz sicher sei, könnte diese Person sterben. Oder was passiert, wenn eine Maschine über den Ausgang eines Gerichtsverfahrens entscheidet und ihre Entscheidung nicht begründen muss? Oder schlimmer noch, was ist, wenn diese Technologien für militärische Zwecke eingesetzt werden und das Recht erhalten, tödliche Gewalt anzuwenden? Diese letzte Situation mag extrem klingen, aber es ist ein Thema, das derzeit innerhalb der Vereinten Nationen diskutiert wird.

Um sicherzustellen, dass die Öffentlichkeit verstehen kann, was hinter den Kulissen passiert, müssen wir das schaffen, was DARPA als erklärbare künstliche Intelligenz (XAI) bezeichnet – Werkzeuge, die erklären, wie Maschinen ihre Entscheidungen treffen und mit welcher Genauigkeit diese Aufgaben erfüllt wurden. Dabei geht es nicht darum, Geschäftsgeheimnisse preiszugeben, sondern den Verbrauchern das Gefühl zu geben, dass sie diesen Maschinen vertrauen und sich im Falle eines Fehlers wehren können.

Obwohl es nicht auf künstlicher Intelligenz basiert, ist CreditKarma ein gutes Beispiel dafür, wie dies aussehen könnte, das es Menschen ermöglicht, ihre Kreditwürdigkeit besser zu verstehen – ein System, das früher genauso verborgen war wie heute Algorithmen. Dieses Tool ermöglicht es den Verbrauchern, besser zu verstehen, was hinter den Kulissen passiert, und die Legitimität ihrer Ergebnisse zu diskutieren, wenn sie glauben, dass das System versagt hat. Ähnliche Tools werden mit Systemen wie Googles Match Score auf Maps und Netflix Percent Match in Shows entwickelt, aber diese Systeme kratzen gerade erst an der Oberfläche erklärbarer KI.

Trotz dieser Bemühungen diktieren die meisten Algorithmen heute unsere Erfahrung auf der Grundlage dessen, was ein Unternehmen glaubt, dass wir es wollen. Aber die Verbraucher sollten nicht länger unsichtbar von großen, börsennotierten Unternehmen kontrolliert werden. Verbraucher sollten das Recht haben, ihren eigenen Algorithmus zu kontrollieren . Dies könnte etwas so Einfaches sein, wie ihnen mitzuteilen, welche Variablen für welche Teile der Erfahrung verwendet werden und wie sich die Änderung der Gewichtung jeder Variablen auf ihre Erfahrung auswirkt, und ihnen dann die Möglichkeit zu geben, dies zu optimieren, bis es ihren Bedürfnissen entspricht – einschließlich der Änderung der Algorithmus vollständig ausschalten, wenn sie das bevorzugen. Ob dies ein kostenpflichtiges Feature oder ein kostenloses Feature wäre, steht noch zur Debatte, aber was nicht strittig ist, ist, ob diese Freiheit angeboten werden sollte.

Während das obige Beispiel ein allgemeiner Vorschlag ist, beginnt es sich vorzustellen, wie wir die Erfahrung in spezifischeren Situationen machen könnten. Indem wir den Verbrauchern die Möglichkeit geben, ihre Daten zu verstehen, wie sie verwendet werden und wie sich das auf ihr Leben auswirkt, haben wir ein System entwickelt, das den Verbrauchern die Kontrolle über ihre eigene Freiheit gibt.

Unabhängig davon, wie gut diese Änderungen vorgenommen werden, müssen wir uns jedoch darüber im Klaren sein, dass eine bessere Kontrolle der Privatsphäre der Menschen nicht automatisch eine sicherere Umgebung für die Verbraucher bedeutet. In der Tat kann es die Dinge noch schlimmer machen. Studien haben gezeigt, dass Menschen mit besserer Kontrolle über ihre Daten die Wahrscheinlichkeit erhöhen, dass sie sensiblere Informationen preisgeben . Und wenn der Verbraucher nicht weiß, wie diese Daten verwendet werden können (selbst wenn er weiß, wo sie geteilt werden), bringt ihn das in Gefahr. In diesem Sinne ist es, den Verbrauchern eine bessere Kontrolle über ihre Daten zu geben und zu erwarten, dass das Internet dadurch sicherer wird, wie ein Snickers mit einem Nährwertetikett zu versehen und zu erwarten, dass der Schokoriegel dadurch weniger dick macht. Das wird es nicht, und die Leute werden es trotzdem essen.

Obwohl ich glaube, dass Verbraucher ein Grundrecht auf bessere Datenschutzkontrollen und mehr Transparenz haben, glaube ich auch, dass es unsere Aufgabe als datenkompetente Technologen ist, nicht nur bessere Systeme zu bauen, sondern auch der Öffentlichkeit zu helfen, die Internetsicherheit zu verstehen. Der letzte Schritt, um dies zusammenzubringen, besteht also darin, das Bewusstsein dafür zu schärfen, dass Kontrolle nicht alles ist, was Verbraucher brauchen. Sie müssen auch verstehen, was im Backend passiert – und warum. Das bedeutet nicht unbedingt, ihnen den Quellcode zur Verfügung zu stellen oder ihre IPs preiszugeben, aber ihnen aus Sicherheitsgründen zumindest genügend Informationen zu geben, um zu verstehen, was auf einer Basisebene vor sich geht. Und um dies zu erreichen, müssen wir über unsere Bildschirme hinausgehen. Wir müssen unsere Arbeit auf unsere Gemeinden ausdehnen und dazu beitragen, diese Zukunft zu gestalten.

Empfohlene Lektüre : Ethik entwerfen: Ethisches Verständnis im Design verändern

Wandel anregen

Das Aufgeben der Privatsphäre ist etwas, in das die Bevölkerung aufgrund der in der Technologiewelt bestehenden Monopole, des Missverständnisses der Verbraucher darüber, warum dies im Inneren so gefährlich ist, und des Mangels an taktischen Lösungen im Zusammenhang mit Steuerrückflüssen eingepfercht wurde. Dies ist jedoch ein Problem, das gelöst werden muss. Wie Barack Obama in der Zusammenfassung der Bedenken seiner Regierung zum Datenschutz im Internet feststellte:

„Eines sollte klar sein: Auch wenn wir in einer Welt leben, in der wir persönliche Informationen freizügiger als in der Vergangenheit teilen, müssen wir den Schluss zurückweisen, dass Privatsphäre ein überholter Wert ist. Sie war von Anfang an das Herzstück unserer Demokratie, und wir brauchen sie jetzt mehr denn je.“

Die Schaffung vertrauenswürdiger und sicherer Datenaustauscherfahrungen wird eine der größten Herausforderungen sein, vor denen unsere Welt in den kommenden Jahrzehnten stehen wird.

Wir können uns ansehen, wie die Aktie von Facebook innerhalb eines Tages um 19 Prozent gefallen ist, nachdem angekündigt wurde, dass sie sich wieder auf Datenschutzbemühungen konzentrieren werden, als Beweis dafür, wie schwierig es sein kann, diese Änderungen vorzunehmen. Dies liegt daran, dass Investoren, die sich in letzter Zeit auf das kurzfristige Umsatzwachstum konzentriert haben, wissen, wie dringend Unternehmen bessere Strategien umsetzen müssen, aber auch die Kosten erkennen, die damit verbunden sind, wenn die Öffentlichkeit anfängt, ein Unternehmen in Frage zu stellen – und die öffentliche Erklärung von Facebook, die dies zugibt, hat die Schafe erschreckt .

Obwohl der Prozess nicht einfach sein wird (und manchmal schmerzhaft sein kann), wissen wir alle, dass die Privatsphäre die weiche Schattenseite der Technologie ist und es an der Zeit ist, dies zu ändern. Die heute getroffenen Entscheidungen werden sich langfristig auszahlen; ein deutlicher Unterschied zu der kurzfristigen, vierteljährlichen Denkweise, die das Geschäft in den letzten zehn Jahren des Wachstums dominiert hat. Daher sollte es für Unternehmen und politische Entscheidungsträger gleichermaßen als wesentlich angesehen werden, kreative Wege zu finden, um diese Themen zu einer Priorität für alle Beteiligten zu machen, was bedeutet, dass unsere Arbeit als Technologen über die Vorstandsetage hinausgehen muss.

Eine großartige Möglichkeit, diese Änderungen über die Diskussion der in diesem Artikel angesprochenen Zahlen und Probleme hinaus zu fördern, wären beispielsweise Steuererleichterungen für Unternehmen, die große Beträge ihres Budgets für die Verbesserung ihrer Systeme aufwenden. Unternehmen, die beschließen, regelmäßige Schulungen oder Workshops für ihre Mitarbeiter anzubieten, könnten Pausen eingeräumt werden, um Datenschutz und Sicherheit zu einer Priorität in der Unternehmenskultur zu machen. Sie könnten an Unternehmen vergeben werden, die professionelle Hacker einstellen, um Schlupflöcher in ihren Systemen zu finden, bevor Angriffe stattfinden. Sie könnten an diejenigen vergeben werden, die viel Zeit darauf verwenden, ihre Geschäftspraktiken so umzustrukturieren, dass die Verbraucher davon profitieren. In diesem Sinne würden sich solche Anreize nicht so sehr von Steuervergünstigungen unterscheiden, die Unternehmen gewährt werden, die umweltfreundliche Praktiken anwenden.

Die Idee von Steuererleichterungen mag für manche empörend klingen, aber Anreize wie diese wären eine proaktivere Lösung als die Art und Weise, wie die Dinge jetzt gehandhabt werden. Auch wenn es sich gut anfühlen mag, eine Überschrift zu lesen, die besagt: „Google hat von der EU eine Rekordstrafe von 5 Milliarden US-Dollar wegen Verstößen gegen das Android-Kartellrecht verhängt“, müssen wir bedenken, dass Bußgelder wie diese nur einen kleinen Bruchteil der Einnahmen solcher Unternehmen ausmachen. Kombinieren Sie dies mit der Tatsache, dass die meisten Fälle mehrere Jahre oder Jahrzehnte dauern, bis sie abgeschlossen sind, und dieser Prozentsatz immer kleiner wird. Mit dieser Überlegung lässt sich die Idee der Steuervergünstigungen aus einer anderen Perspektive angehen, nämlich dass es nicht darum geht, bisher fahrlässiges Verhalten zu belohnen, sondern um die Erhöhung der öffentlichen Sicherheit im besten Interesse aller Beteiligten . Die Aufrechterhaltung unseres derzeitigen Systems, das es Unternehmen ermöglicht, Gerichtsverfahren zu beenden, während sie ihre Fehlpraktiken fortsetzen, ist genauso gefährlich, wenn nicht sogar gefährlicher, als überhaupt keine Gesetze zu haben.

Wenn Sie diesen Artikel gerne gelesen haben und denken, dass andere ihn auch lesen sollten, helfen Sie bitte, das Wort zu verbreiten.

Dieser Artikel ist der Beginn einer Reihe von Artikeln, über die ich schreiben werde, die sich mit Internetsicherheit befassen und in denen ich daran arbeiten werde, Steuerzahlen ethischen Designmustern zuzuordnen, damit wir als Technologen die Unternehmen, die wir aufbauen und schaffen, verändern können bessere Kultur rund um die Entwicklung von Internet-verbundenen Erfahrungen.