Confidențialitate prin design: cum să vinzi confidențialitate și să faci schimbări

Publicat: 2022-03-10
Rezumat rapid ↬ Confidențialitatea este un drept fundamental al omului care a devenit unul dintre cele mai iluzie și mai puțin înțelese subiecte de pe internet. Cu toate acestea, vine vremea schimbării. Acest articol vă va explica exact de ce efectuarea acestor modificări este atât de esențială pentru succesul afacerii dvs. și cum puteți face modificările care trebuie făcute într-un mod care să aibă un impact pozitiv asupra profitului dvs.

Confidențialitatea este un drept fundamental al omului care ne permite să fim adevăratele noastre sine. Este ceea ce ne permite să fim ciudați fără rușine. Ne permite să avem opinii divergente fără consecințe. Și, în cele din urmă, este ceea ce ne permite să fim liberi. Acesta este motivul pentru care multe națiuni au legi stricte privind confidențialitatea. Cu toate acestea, în ciuda acestei înțelegeri comune, confidențialitatea pe Internet este unul dintre subiectele cel mai puțin înțelese și prost definite până în prezent , deoarece acoperă o gamă largă de probleme, luând contur în multe forme diferite, ceea ce face incredibil de dificil de identificat și de discutat. . Cu toate acestea, aș dori să încerc să rezolv această ambiguitate.

În Statele Unite, deschiderea corespondenței cuiva este o infracțiune federală. Aceasta este considerată o încălcare penală a vieții private, care ar putea duce pe cineva la închisoare până la cinci ani. Metaforic vorbind, fiecare parte de date pe care o creăm pe Internet – fie că este fotografie, video, text sau altceva – poate fi considerată ca un pachet de corespondență. Cu toate acestea, spre deosebire de deschiderea corespondenței noastre în viața reală, companiile de internet pot deschide legal fiecare bucată de e-mail care este livrată prin sistemul lor fără consecințe legale. Mai mult, ei pot face și copii ale acestuia. Ceea ce fac aceste companii ar fi comparabil cu cineva care ne deschide corespondența, le copia la Kinkos, apoi le stochează într-un dulap de fișiere cu numele nostru și le împărtășește cu oricine dorește să plătească pentru el. Doriți să deschideți acel cabinet de fișiere sau să ștergeți unele dintre copii? Pacat. Poșta noastră este considerată în prezent proprietatea lor și nu avem aproape niciun control asupra modului în care este folosită .

Vă puteți imagina indignarea pe care o va experimenta publicul dacă ar afla că serviciul poștal le ține ostatică corespondența și o vinde oricui ar fi dispus să plătească? Ceea ce se întâmplă cu datele de pe Internet nu este diferit și este timpul să se schimbe.

Este mai mult decât o chestiune de etică să se întâmple asta, este o chestiune de drepturi fundamentale ale omului.

Problema cu efectuarea modificărilor care trebuie făcute (fără ca modificările să fie impuse prin reglementări) este punerea semnelor dolarului în probleme. Care este rentabilitatea financiară a unei investiții de inginerie de 20.000 de ore pentru îmbunătățirea standardelor de confidențialitate a consumatorilor? Consumatorii cer aceste schimbări? Pentru că dacă nu face declarație fiscală și consumatorii nu o cer, atunci de ce ar trebui făcută schimbarea? Și chiar dacă sunt și există o rentabilitate, cum arată 20.000 de ore de investiție? Ce va fi inclus pe foaia de parcurs al produsului și când? Toate acestea sunt preocupări valide care trebuie abordate pentru a ne ajuta să mergem mai departe în mod eficient. Deci, hai să discutăm.

Lectură recomandată : Utilizarea eticii în designul web

Mai multe după săritură! Continuați să citiți mai jos ↓

Îl doresc consumatorii?

Răspunsul la această întrebare este un da greu. Descoperirile Centrului de Cercetare Pew arată că 90% dintre adulții din Statele Unite cred că este important să aibă control asupra informațiilor colectate despre ei, 93% cred că este important să poată controla cine are acces la aceste informații, iar 86% au au luat măsuri pentru a elimina sau a masca amprentele lor digitale. Cifre similare au fost descoperite despre europeni în raportul Digital Attitudes din 2018 al tuturor. În ciuda acestor cifre, 59% simt că este imposibil să rămână anonimi online, 68% cred că legile actuale nu fac suficient pentru a le proteja confidențialitatea și doar 6% sunt „foarte încrezători” că agențiile guvernamentale le pot menține în siguranță.

Acum, știu la ce te gândești. Aceasta este cererea consumatorilor și până când acești consumatori încep să lase în urmă produsele vechi, nu există niciun motiv fiscal pentru a face vreo schimbare. Și (deși nu sunt de acord cu logica ta) ai dreptate. În prezent, există puține motive fiscale pentru a face vreo schimbare. Cu toate acestea, atunci când cererea consumatorilor atinge o masă critică, lucrurile se schimbă întotdeauna. Iar afacerile care conduc înainte ca schimbarea să fie cerută câștigă întotdeauna pe termen lung. Cei care refuză să facă o schimbare până când sunt forțați să simtă întotdeauna cea mai mare durere . Istoria arată că acesta este adevărul. Dar ce se va întâmpla cu legislația care va schimba atât de mult afacerile? Mare întrebare.

Ceea ce urmează să se întâmple cu standardele de protecție a datelor și de confidențialitate din întreaga lume, prin reglementări, nu va fi atât de diferit de ceea ce s-a întâmplat cu mai puțin de un deceniu în urmă, când consumatorii au cerut protecție împotriva e-mailurilor spam, ceea ce a dus la Legea CAN-SPAM în Statele Unite. — dar la o scară mult mai mare și cu un impact exponențial mai mare. Această legislație, care a fost creată pentru că consumatorii s-au săturat să primească e-mailuri spam, a stabilit regulile pentru e-mailurile comerciale, a stabilit cerințe pentru mesajele comerciale, a dat destinatarilor dreptul de a le impune persoanelor și companiilor să nu le mai trimită e-mailuri și a stabilit sancțiuni severe pentru încălcări. Pe măsură ce intrăm într-o perioadă în care consumatorii încep să înțeleagă cât de rău au fost înșelați (de ani de zile, oferirea oamenilor de control intim asupra datelor lor va fi, fără îndoială, viitorul culegerii de date), fie prin liberul arbitru sau prin legislație. Și cei care aleg să se miște primii vor câștiga. Nu mă crezi?

Luați în considerare faptul că inginerii pot avea probleme legale pentru codul pe care îl scriu. Datele Apple Watch, Alexa și FitBit, printre altele, au fost folosite ca probe în instanță, schimbând percepția consumatorilor asupra datelor lor. Microsoft și Curtea Supremă a Statelor Unite au mers în instanță la începutul acestui an pentru a defini unde se extind granițele fizice în activitatea criminală bazată pe cloud, începutul a ceea ce va fi o luptă lungă. Aceste exemple sunt doar o privire asupra a ceea ce urmează. Oamenii cer mai mult, iar noi ajungem la punctul culminant.

Prima care a luat măsuri pentru a răspunde acestei cereri este UE, care a instituit GDPR, iar acum factorii de decizie din alte țări încep să urmeze exemplul, lucrând la legile din țara lor pentru a ne defini viitorul cibernetic. De exemplu, vicepreședintele Comitetului de Informații al Senatului Statelor Unite ale Americii, Mark Warner, a expus recent câteva idei într-un raport de sinteză în urmă cu doar câteva luni, demonstrând spre ce se poate îndrepta legislația în curând în Statele Unite. Dar nu doar progresiștii cred că acesta este viitorul; chiar și influenți de dreapta precum Steve Bannon cred că avem nevoie de reglementări.

Ceea ce vedem este o reacție umană la o manipulare incredibilă. Indiferent cât de domestici am fi comparați cu generațiile anterioare, oamenii se vor respinge întotdeauna atunci când simt că sunt amenințați. Este o reacție naturală care ne-a permis să supraviețuim de milenii. Astăzi, tehnologia a devenit mai mult decât o simplă industrie orientată spre consumatori. Acum devine și o chestiune de securitate națională . Și din acest motiv, va exista o reacție indiferent că ne place sau nu. Și va fi mai bine dacă ieșim cu o strategie de pregătit în loc să ne lăsăm măturați sub covor. Deci, care este profitul financiar pe care îl întrebi? Ei bine, cât valorează afacerea ta? Atât.

Lectură recomandată : Cum va schimba GDPR modul în care vă dezvoltați

Pentru un cadru simplu despre ce anume trebuie abordat și de ce, putem considera că mai multe adevăruri sunt fundamentale în crearea sistemelor digitale:

  1. Confidențialitatea trebuie să fie proactivă, nu reactivă și trebuie să anticipeze problemele de confidențialitate înainte ca acestea să ajungă la utilizator.
    Aceste probleme nu sunt probleme cu care vrem să le confruntăm după ce o problemă a luat viață, ci sunt probleme pe care dorim să le prevenim în întregime, dacă este posibil.
  2. Confidențialitatea trebuie să fie setarea implicită.
    Nu există o opțiune „cel mai bun pentru afaceri” în ceea ce privește confidențialitatea; aceasta este o problemă care se referă la ceea ce este mai bine pentru consumator, care, pe termen lung, va fi mai bun pentru afacere. Putem vedea ce se întâmplă atunci când defectele coercitive sunt expuse publicului prin ceea ce s-a întâmplat cu Paypal și Venmo în august 2018, când Public by Default a fost lansat publicului, aducând un pumn de presă proastă mărcii. Mai multe dintre acestea vor veni cu siguranță în afacerile care așteaptă să se întâmple ceva rău înainte de a face o schimbare.
  3. Confidențialitatea trebuie să fie o sumă pozitivă și ar trebui să evite dihotomiile.
    Nu există nicio relație binară cu intimitatea; este o problemă pentru totdeauna maleabilă care necesită o supraveghere constantă și o iterație perpetuă. Munca noastră nu se termină la termenii și acordul de servicii, ea durează pentru totdeauna și ar trebui să fie considerat un element de bază al produsului dvs. care evoluează odată cu produsul și le permite consumatorilor să se protejeze, nu unul care profită de lipsa de înțelegere a acestora.
  4. Standardele de confidențialitate trebuie să fie vizibile, transparente, deschise, documentate și verificabile în mod independent.
    Nu există o modalitate excelentă de a defini un test de turnesol pentru standardele dvs. de confidențialitate, dar ar trebui să ni le punem cu toții în calitate de oameni de afaceri: În primul rând, dacă presa ar publica acordul dvs. de confidențialitate, ar fi de înțeles? În al doilea rând, dacă ar fi de înțeles, consumatorii s-ar bucura de ceea ce citesc? Și nu în ultimul rând, dacă nu, ce trebuie să schimbi?

Aceste principii vor fi baze extrem de valoroase de reținut pe măsură ce produsele sunt construite și evoluează. Ele reprezintă întrebări rapide și ușor de adresat ție și echipei tale, care îți vor permite să ai o bază bună de etică, dar pentru o bucată mai lungă despre fundamentele legale poți citi mai multe de la Heather Burns, care a subliniat câteva principii suplimentare anul trecut despre Smashing. Și pentru o listă completă de lucruri de inspectat în timpul unei evaluări a impactului asupra confidențialității (PIA), puteți, de asemenea, să verificați cum se fac evaluările în funcție de:

  • Biroul Comisarului pentru Informații (ICO) al Regatului Unit
  • Biroul Comisarului pentru confidențialitate din Canada
  • Departamentul de Securitate Internă al Statelor Unite

Dar înainte de a vă grăbi să faceți modificări în produsul dvs., mai întâi să subliniem unele dintre defectele actuale din sălbăticie și să vorbim despre cum ar putea arăta schimbarea odată ce sunt implementate corect.

Cum să faci o schimbare

Una dintre cele mai mari probleme cu practicile de confidențialitate din SUA este cât de greu este să înțelegeți termenii și acordurile de servicii (T&S), care joacă un rol major în definirea confidențialității, dar tind să o facă foarte slab. În prezent, utilizatorii sunt obligați să citească documente lungi, pline de limbaj juridic și jargon tehnic, dacă speră să înțeleagă cu ce sunt de acord. Un studiu a demonstrat de fapt că ar dura aproximativ 201 de ore (aproape zece zile) pe an pentru ca o persoană obișnuită să citească fiecare politică de confidențialitate pe care o întâlnește anual . Cercetătorii au estimat că valoarea acestui timp pierdut s-ar ridica la aproape 781 de miliarde de dolari pe an, ceea ce este dincolo de inacceptabil, având în vedere că acestea sunt regulile care ar trebui să protejeze consumatorii - reguli despre care se spune că sunt ușoare și digerabile. Acest lucru îi pune pe consumatori într-o poziție în care sunt forțați să se înscrie fără să înțeleagă cu adevărat în ce se bagă. Și, în multe cazuri, nici măcar limbajul juridic nu este coercitiv, ci modul în care sunt oferite opțiunile, în general, așa cum s-a dovedit clar în diverse experiențe:

Această imagine arată ceea ce fac multe site-uri în prezent pentru a colecta consimțământul într-un mod care presupune consimțământ și îl face pe consumator să fie de acord într-un mod periculos.
Atunci când consimțământul este colectat în acest fel, acesta se presupune. (Previzualizare mare)

Exemplul dat mai sus este un cadru generic, dar am ales să fac acest lucru pentru că toți am văzut modele ca acesta și altele asemănătoare care sunt legate de colectarea unor tipuri mai specifice de date. Aș putea enumera exemple specifice, dar lista ar continua pentru totdeauna și nu există niciun motiv pentru a enumera anumite companii care demonstrează modele manipulative, deoarece aceste modele (și alte modele foarte asemănătoare) pot fi găsite pe aproape fiecare site web sau aplicație de pe Internet. Există o problemă majoră cu solicitarea consimțământului în acest fel: consumatorii nu au voie să nu accepte termenii și serviciile fără câțiva pași suplimentari, multă lectură și, adesea, multe altele. Acesta este un defect fundamental care trebuie abordat , deoarece solicitarea consimțământului înseamnă că trebuie să existe o opțiune de a spune nu și, pentru a ști dacă „nu” este cea mai bună opțiune, consumatorii trebuie să înțeleagă la ce sunt de acord. Cu toate acestea, produsele nu sunt construite astfel. De ce? Ei bine, este cel mai bine pentru afaceri.

Dacă stăm cu adevărat și ne gândim la asta, ceea ce este ușor de văzut, dar nu este recunoscut, este că companiile petrec mai mult timp creând pagini splash pentru a explica cum se utilizează aplicația decât noi pentru a explica ce date sunt colectate și de ce. De ce? Simplele modificări ale modului în care sunt încheiate acordurile T&S nu numai că ar face consumatorii mai conștienți de ceea ce se înscriu, dar le-ar permite și să fie consumatori mai responsabili . Putem vedea că unele dintre aceste schimbări sunt deja făcute din cauza impactului pe care GDPR l-a avut în întreaga lume. În multe națiuni europene, nu este neobișnuit ca consimțământul să fie solicitat prin modalități precum acestea:

În această imagine, beneficiile acordării consimțământului au fost recunoscute, dar mai este loc de îmbunătățire.
În această imagine, beneficiile acordării consimțământului au fost recunoscute. (Previzualizare mare)

Acest prim exemplu este un bun pas înainte. Îi spune consumatorului pentru ce vor fi folosite datele lor, dar încă îi lipsește transparența cu privire la unde vor merge datele și acordă prioritate acordului fără opțiunea de a refuza. De asemenea, blochează totul într-un singur corp de text, ceea ce face ca informațiile să fie mult mai puțin digerabile.

Un exemplu mai bun al modului în care ar putea fi proiectat este ceva asemănător modalului de mai jos, care este acum comun în multe site-uri europene:

Această imagine arată cum este cerut consimțământul pe multe site-uri din Europa, pentru a respecta Regulamentul general privind protecția datelor (GDPR) și pentru a oferi consumatorilor opțiuni mai bune. Totuși, nu este ceea ce au nevoie.
După ce conformitatea cu GDPR a devenit o problemă, au fost oferite mai multe opțiuni, dar încă mai puteau fi aduse îmbunătățiri. (Previzualizare mare)

Acest lucru oferă consumatorilor o înțelegere cuprinzătoare a pentru ce vor fi utilizate datele lor și o face într-o manieră digerabilă. Cu toate acestea, încă îi lipsește orice informație semnificativă despre unde vor fi direcționate datele după ce își dă acordul. Nu există nici un indiciu despre unde vor fi partajate datele lor, cui vor fi partajate și ce limitări există în cadrul acestor acorduri. Deși acest lucru este mult mai bun decât majoritatea opțiunilor de pe web, mai sunt încă îmbunătățiri de făcut.

Solicitare de conectare terță parte

De exemplu, atunci când utilizați un serviciu terță parte pentru a vă conecta la platforma dvs., consumatorii ar trebui să fie conștienți de următoarele:

  1. Ce date vor fi preluate de la terț;
  2. Pentru ce este folosit și cum le-ar putea afecta experiența dacă nu aveți acces la el;
  3. Cine altcineva are sau ar putea avea acces la el.

Pentru a implementa acest lucru într-un mod care să ofere consumatorului control, această experiență ar trebui, de asemenea, să permită consumatorilor să se înscrie pentru anumite părți ale colecției, să nu fie forțați să fie de acord cu totul sau cu nimic.

Această machetă arată o versiune generică a modului în care un site ar putea cere consimțământul atunci când folosește o autentificare terță parte pe site-ul său. Demonstrează cum listarea mai multor variabile nu este bună și de ce trebuie să cerem consimțământul pentru fiecare punct individual.
Forțând consumatorii să verifice în fiecare punct, adaugă frecare procesului, da, dar se asigură și că conținutul este digerabil. (Previzualizare mare)

Acest lucru ar face ca T&S să fie digerabilă și ar permite consumatorilor să opteze pentru ceea ce sunt de acord cu adevărat, nu pentru ceea ce compania vrea să fie de acord. Și pentru a vă asigura că este cu adevărat opt-in, valoarea implicită ar trebui să fie setată la opt-out. Aceasta ar fi o mică schimbare care ar face o diferență dramatică în modul în care este cerut consimțământul. Astăzi, majoritatea companiilor acoperă acest conținut în jargon legal pentru a ascunde ceea ce le interesează cu adevărat, dar zilele în care se cere consimțământul în acest fel se apropie rapid de sfârșit.

Dacă oferiți consumatorilor un serviciu semnificativ și faceți acest lucru din punct de vedere etic, aceste modificări nu ar trebui să fie o problemă. Dacă serviciul are o adevărată valoare, consumatorii nu vor rezista cererii tale. Vor doar să știe în cine pot și în cine nu pot avea încredere, iar acesta este un pas simplu care vă poate ajuta afacerea să-și demonstreze credibilitatea.

Solicitări de colectare a datelor cu un singur punct și mai multe puncte

În continuare, când vine vorba de crearea unor acorduri T&S înțelese pentru platforma dvs., trebuie să luăm în considerare modul în care acest lucru s-ar putea desfășura mai contextual - în cadrul experienței aplicației. Rețineți că, dacă totul este dat în avans, nu este digerabil. Din acest motiv, solicitarea de colectare a datelor ar trebui să aibă loc în context , atunci când consumatorul este pe cale să utilizeze o parte a serviciului dvs. care necesită colectarea unui strat suplimentar de date.

Pentru a demonstra cum poate apărea această solicitare, iată câteva exemple despre cum ar putea arăta o solicitare de colectare a datelor cu un singur punct și mai multe puncte:

Aceste machete arată cum ar putea arăta atunci când se solicită permisiunea de a utiliza anumite puncte de date. Aceasta include să le arăți oamenilor pentru ce sunt folosite datele lor, de ce sunt importante pentru acest proces și să le permită să se înscrie sau să renunțe la fiecare punct individual, fără a fi nevoie să citească o listă lungă de jargon legal din termeni și servicii. acord.
Solicitările de date cu un singur și mai multe puncte pot fi proiectate pentru a reduce complexitatea acordurilor actuale privind condițiile serviciilor. (Previzualizare mare)

Împărțirea T&S în puncte de interacțiune digerabile în cadrul experienței, în loc să ceară utilizatorului totul din față, îi permite să înțeleagă mai bine ce se întâmplă și de ce. Dacă nu aveți nevoie de date pentru a îmbunătăți experiența, de ce sunt colectate? Și dacă este colectat din motive frivole care doar beneficiază compania, atunci fii sincer. Aceasta este doar onestitatea de bază, care, din păcate, este considerată un serviciu pentru clienți revoluționar și progresiv în lumea modernă.

Cea mai mare cheie a acestor solicitări inițiale este că niciuna dintre acestea nu ar trebui să fie înscrisă în mod implicit . Toate declanșatoarele inițiale ar trebui să le permită persoanelor care folosesc instrumentul să se înscrie dacă aleg și să-l folosească fără a se înscrie dacă aleg. Zilele de înscriere forțată (sau, și mai rău, de înscriere coercitivă) se opresc brusc, iar cei care conduc drumul vor rămâne în fruntea grupului pentru mult timp de acum încolo.

Centrul de control al datelor

Dincolo de a cere consimțământul într-un mod semnificativ, va fi, de asemenea, important să oferim consumatorilor posibilitatea de a-și controla datele post-hoc. Accesul consumatorilor pentru a-și controla datele nu ar trebui să se încheie la termenii și acordul de servicii. Undeva în controalele contului lor, ar trebui să existe și un loc (sau locuri) în care consumatorii să își poată controla datele de pe platformă după ce au investit timp cu serviciul. Această zonă ar trebui să le arate ce date sunt colectate, cui sunt partajate, cum le pot elimina și multe altele.

Această machetă afișează modalitatea de a crea controale de date care informează consumatorul nu numai despre ce date sunt utilizate, ci și unde se duc acestea și le permite consumatorilor să controleze în mod intim aceste fluxuri de date într-un mod în care se simt în siguranță.
Deși de multe ori ne putem descărca datele acum, în general, nu avem control asupra acestora, sau nu avem foarte puțin control. Acest lucru trebuie să se schimbe. (Previzualizare mare)

Ideea de control complet al datelor poate părea incredibil de liberală, dar este fără îndoială viitorul. Și ca proprietate a consumatorului care creează datele, ar trebui să fie considerat un drept fundamental al omului. Nu există niciun motiv pentru care aceasta ar trebui să fie o dezbatere în acest moment al istoriei. Datele reprezintă povestea vieții noastre – în mod colectiv – și, combinate, creează cantități mari de putere împotriva celor care le creează, mai ales dacă permitem sistemelor să rămână cutii negre. Deci, dincolo de a oferi consumatorilor acces la datele lor, așa cum am discutat în secțiunile anterioare, va trebui, de asemenea, să facem experiența mai ușor de înțeles, astfel încât consumatorii să se poată apăra.

Creați IA explicabilă

Deși este incredibil să obținem un rezultat sugerat care ne arată lucrurile pe care le dorim înainte de a ne da seama că le dorim, acest lucru pune și mașinile într-o poziție puternică pe care nu sunt încă gata să le susțină singure. Atunci când mașinile sunt poziționate ca experți și performează la un nivel suficient de inteligent pentru a trece ca atare, publicul va avea în general încredere în ele până când eșuează. Cu toate acestea, dacă mașinile eșuează în moduri pe care publicul este incapabil să înțeleagă, ele vor rămâne experte în ciuda eșecului lor, care este una dintre cele mai mari amenințări la adresa umanității.

De exemplu, dacă cineva ar folosi un instrument de căutare vizuală pentru a identifica diferența dintre o ciupercă comestibilă și o ciupercă otrăvitoare și nu știa că aparatul le-a spus că o ciupercă otrăvitoare este în siguranță, acea persoană ar putea muri. Sau ce se întâmplă atunci când o mașină determină rezultatul unui caz în instanță și nu este obligată să ofere o explicație pentru decizia sa? Sau, mai rău, ce se întâmplă atunci când aceste tehnologii sunt folosite în scopuri militare și au dreptul de a folosi forța letală? Această ultimă situație ar putea suna extremă, dar este o problemă care este dezbătută în prezent în cadrul Națiunilor Unite.

Pentru a ne asigura că publicul este capabil să înțeleagă ce se întâmplă în culise, trebuie să creăm ceea ce DARPA numește inteligență artificială explicabilă (XAI) – instrumente care explică modul în care mașinile iau deciziile și acuratețea cu care au fost realizate aceste sarcini. Nu este vorba de a oferi secrete comerciale, ci de a le permite consumatorilor să simtă că pot avea încredere în aceste mașini și să se apere în cazul în care ar apărea o eroare.

Deși nu se bazează pe inteligența artificială, un bun exemplu despre cum ar putea arăta este CreditKarma, care permite oamenilor să înțeleagă mai bine scorul lor de credit - un sistem care era ascuns la fel ca algoritmii de astăzi. Acest instrument permite consumatorilor să înțeleagă mai bine ce se întâmplă în culise și să dezbată legitimitatea rezultatelor lor dacă cred că sistemul a eșuat. Instrumente similare sunt create cu sisteme precum Scorul Google Match pe Maps și Netflix Percent Match în emisiuni, dar aceste sisteme abia încep să zgârie suprafața AI explicabilă.

Imaginea include capturi de ecran de la Google Maps și Netflix pentru a demonstra cum ar putea arăta să creeze un sistem care să-și explice deciziile. Ambii sunt primii pași buni, dar sunt multe îmbunătățiri de făcut.
Aici vedem sisteme care încearcă să explice decizia mașinii la un nivel foarte superficial. Acesta este un început bun, dar avem nevoie de mai bine. (Previzualizare mare)

În ciuda acestor eforturi, majoritatea algoritmilor de astăzi ne dictează experiența în funcție de ceea ce o companie crede că ne dorim. Dar consumatorii nu ar trebui să mai fie controlați în mod invizibil de corporații mari, tranzacționate public. Consumatorii ar trebui să aibă dreptul de a-și controla propriul algoritm . Acest lucru ar putea fi ceva la fel de simplu ca să le anunțați ce variabile sunt folosite pentru ce părți ale experienței și modul în care modificarea ponderilor fiecărei variabile le va afecta experiența, oferindu-le apoi posibilitatea de a modifica asta până când se potrivește nevoilor lor - inclusiv schimbarea algoritmul este oprit complet, dacă asta preferă. Dacă aceasta ar fi o funcție plătită sau o funcție gratuită, este încă în discuție, dar ceea ce nu este discutabil este dacă această libertate ar trebui oferită.

Macheta arată cum am putea crea inteligență artificială care să se explice într-un mod în care consumatorii sunt capabili să se folosească și să se controleze singuri, în loc ca controlul să fie lăsat în mâinile corporațiilor private sau tranzacționate public.
Controalele algoritmilor vor fi viitorul afacerilor. Ar putea fi aceasta o modalitate de a genera venituri din servicii în loc să se bazeze doar pe reclame? Ar trebui să fie gratuit? (Previzualizare mare)

Deși exemplul de mai sus este o propunere generică, începe să ne imaginăm cum am putea face experiența în situații mai specifice. Oferind consumatorilor posibilitatea de a-și înțelege datele, modul în care sunt utilizate și modul în care acestea le afectează viața, vom fi proiectat un sistem care pune consumatorii în control asupra propriei libertăți.

Cu toate acestea, indiferent cât de bine ar fi făcute aceste schimbări, trebuie să ne dăm seama că oferirea oamenilor de un control mai bun asupra confidențialității lor nu implică automat un mediu mai sigur pentru consumatori. De fapt, poate înrăutăți lucrurile. Studiile au arătat că, oferind oamenilor un control mai bun asupra datelor lor, este mai probabil ca aceștia să furnizeze informații mai sensibile . Și dacă consumatorul nu știe cum pot fi utilizate acele date (chiar dacă știe unde sunt partajate), acest lucru îl pune în pericol. În acest sens, a oferi consumatorilor un control mai bun asupra datelor lor și a aștepta ca acesta să facă internetul mai sigur este ca și cum ai pune o etichetă nutrițională pe un Snickers și te aștepți ca acest baton să îngrașă mai puțin. Nu va fi, iar oamenii încă o vor mânca.

Deși cred că consumatorii au un drept fundamental la un control mai bun al confidențialității și la o mai mare transparență, cred, de asemenea, că este datoria noastră, în calitate de tehnologi cunoașteți în date, nu numai să construim sisteme mai bune, ci și să ajutăm publicul să înțeleagă siguranța pe internet. Așadar, ultimul pas în reunirea acestora este conștientizarea faptului că controlul nu este tot de care au nevoie consumatorii. De asemenea, trebuie să înțeleagă ce se întâmplă pe backend - și de ce. Acest lucru nu înseamnă neapărat să le oferiți codul sursă sau să le oferiți IP-urile, ci cel puțin să le furnizați suficiente informații pentru a înțelege ce se întâmplă la nivel de bază, ca o chestiune de siguranță. Și pentru a realiza acest lucru, va trebui să depășim ecranele noastre. Va trebui să ne extindem munca în comunitățile noastre și să contribuim la crearea acestui viitor.

Lectură recomandată : Proiectarea eticii: schimbarea înțelegerii etice în proiectare

Stimulează schimbarea

Renunțarea la confidențialitate este ceva în care populația a fost blocată din cauza monopolurilor care există în lumea tehnologiei, a neînțelegerii consumatorilor cu privire la motivul pentru care acest lucru este atât de periculos în interior și a lipsei de soluții tactice asociate cu veniturile fiscale. Cu toate acestea, aceasta este o problemă care trebuie rezolvată. După cum a remarcat Barack Obama în rezumatul administrației sale privind preocupările legate de confidențialitatea pe internet:

„Un lucru ar trebui să fie clar: chiar dacă trăim într-o lume în care împărtășim informațiile personale mai liber decât în ​​trecut, trebuie să respingem concluzia că confidențialitatea este o valoare depășită. A fost în centrul democrației noastre de la începuturi și avem nevoie de ea acum mai mult ca oricând.”

Crearea unor experiențe de partajare a datelor de încredere și sigure va fi una dintre cele mai mari provocări cu care se va confrunta lumea noastră în următoarele decenii.

Putem vedea cum acțiunile Facebook au scăzut cu 19 la sută într-o zi după ce am anunțat că se vor reorienta asupra eforturilor de confidențialitate, ca dovadă a cât de dificilă poate fi efectuarea acestor schimbări. Acest lucru se datorează faptului că investitorii care s-au concentrat recent pe creșterea veniturilor pe termen scurt știu cât de mult au nevoie companiile pentru a implementa strategii mai bune, dar își dau seama și de costul implicat dacă publicul începe să pună sub semnul întrebării o afacere - și declarația publică a Facebook care admite că acest lucru a uimit oaia. .

Deși procesul nu va fi ușor (și de multe ori poate fi dureros), știm cu toții că confidențialitatea este partea moale a tehnologiei și este timpul să schimbăm asta. Deciziile luate astăzi vor da roade mari pe termen lung; o diferență majoră față de mentalitatea pe termen scurt, trimestrial, care a ajuns să domine afacerile în ultimul deceniu de creștere. Astfel, descoperirea unor modalități creative de a face din aceste probleme o prioritate pentru toate părțile interesate ar trebui considerată esențială atât pentru întreprinderi, cât și pentru factorii de decizie, ceea ce înseamnă că munca noastră de tehnologi trebuie să se extindă dincolo de sala de consiliu.

De exemplu, o modalitate excelentă de a stimula aceste schimbări dincolo de discutarea numerelor și problemelor abordate în acest articol ar fi prin scutiri de taxe pentru companiile care alocă sume mari din buget pentru îmbunătățirea sistemelor lor. Ar putea fi acordate pauze companiilor care decid să ofere cursuri regulate de formare sau ateliere pentru personalul lor, pentru a contribui la transformarea confidențialității și a securității într-o prioritate în cultura companiei. Acestea ar putea fi date companiilor care angajează hackeri profesioniști pentru a găsi lacune în sistemele lor înainte de a avea loc atacurile. Acestea ar putea fi date celor care alocă cantități mari de ore pentru a-și restructura practicile de afaceri într-un mod care să beneficieze consumatorii. În acest sens, astfel de stimulente nu ar fi atât de diferite de reducerile fiscale acordate afacerilor care implementează practici ecologice.

Ideea scutirilor de taxe poate suna scandalos pentru unii, dar stimulente ca acestea ar reprezenta o soluție mai proactivă decât modul în care sunt gestionate lucrurile acum. Deși ar putea fi bine să citim un titlu care afirmă „Google a amendat un record de 5 miliarde de dolari de către UE pentru încălcări antitrust Android”, trebuie să ținem cont că amenzile de acest fel reprezintă doar o mică parte din veniturile acestor companii. Combinați acest lucru cu faptul că cele mai multe cazuri durează câțiva ani sau decenii pentru a se încheia, iar acest procent nu face decât să fie mai mic. Având în vedere acest lucru, ideea reducerilor fiscale poate fi abordată dintr-o perspectivă diferită, și anume că nu se referă la recompensarea comportamentului anterior neglijent, ci la creșterea siguranței publice într-un mod care este în interesul tuturor celor implicați . Menținerea sistemului nostru actual, care permite companiilor să înlăture cauzele în instanță în timp ce își continuă malpraxisurile, este la fel de periculoasă, dacă nu mai mult decât a nu avea nicio lege.

Dacă ți-a plăcut să citești acest articol și crezi că și alții ar trebui să-l citească, te rugăm să răspândești vestea.

Acest articol este începutul unei serii de articole despre care voi scrie dedicate siguranței pe internet, în care voi lucra pentru a pune cifre fiscale modelelor de design etic, astfel încât noi, ca tehnologi, să putem schimba afacerile pe care le construim și să creăm un o cultură mai bună în jurul dezvoltării experiențelor conectate la internet.