Smashing Podcast Episodul 41 Cu Eva PenzeyMoog: Designing For Safety

Acest articol a fost susținut cu amabilitate de dragii noștri prieteni de la Netlify, care sunt un grup divers de talente incredibile din întreaga lume și oferă o platformă pentru dezvoltatorii web care multiplică productivitatea. Mulțumesc!

În acest episod, vorbim despre proiectarea pentru siguranță. Ce înseamnă să luăm în considerare utilizatorii vulnerabili în design-urile noastre? Drew McLellan discută cu experta Eva PenzeyMoog pentru a afla.

Afișați note

• Design pentru siguranță dintr-o carte în afară
• Proiectul Siguranță Incluzivă
• Eva pe Twitter
• Site-ul personal al Evei

Actualizare săptămânală

• Cum să construiești un site de comerț electronic cu Angular 11, Commerce Layer și Paypal scris de Zara Cooper
• Refactoring CSS: Strategy, Regression Testing And Maintenance scris de Adrian Bece
• Cum să construiți interfețe de utilizare JavaScript rezistente scrise de Callum Hart
• React Children And Iteration Methods scris de Arihant Verma
• Modele de design frustrante: butoane dezactivate scrise de Vitaly Friedman

Transcriere

Drew McLellan: Ea este fondatoarea The Inclusive Safety Project, autoarea cărții, Designed For Safety, care se lansează luna aceasta de la A Book Apart. Ea este designer principal la 8th Light, unde proiectează și construiește software personalizat și oferă consultanță cu privire la strategia de proiectare sigură și incluzivă. Știm că este o expertă în proiectarea tehnologiei pentru protejarea celor vulnerabili, dar știați că este deținătoarea recordului internațional pentru cele mai multe gogoși realizate într-un stivuitor? Prietenii mei zdrobitori, vă rog bun venit, Eva PenzeyMoog. Buna Eva, ce mai faci?

Eva PenzeyMoog: Sunt zdrobitoare.

Drew: E bine să aud. Am vrut să vă vorbesc astăzi despre principiile proiectării produselor și experiențelor având în vedere siguranța utilizatorilor vulnerabili. Ar fi corect încă de la început să dăm un fel de avertisment declanșator pentru orice subiect anume pe care l-am putea atinge?

Eva: Absolut, da. Mulțumesc că ai adus asta în discuție. Declanșează cu siguranță un avertisment pentru mențiuni explicite despre violența domestică, de asemenea, posibil, unele abuzuri asupra bătrânilor și abuzuri asupra copiilor.

Drew: Asta e important. Simte-te liber. Dacă vă faceți griji pentru oricare dintre aceste probleme, ar putea fi declanșatoare pentru dvs. Simțiți-vă liber să săriți peste ele. Ne vedem la următorul episod. Încadrați conversația pentru noi, Eva. Când vorbim despre Design For Safety, despre ce fel de probleme de siguranță vorbim? Nu vorbim de interfețe pentru mașini care conduc singuri. Nu este acest tip de siguranță, nu-i așa?

Eva: Corect, exact. Da. Când vorbesc despre siguranță, vorbesc cu adevărat despre siguranța interpersonală, despre modalitățile prin care utilizatorii pot arma produsele noastre pentru a se dăuna reciproc într-un mod interpersonal. Oameni care se cunosc, locuiesc împreună, multă violență domestică din partea partenerilor romantici, dar și părinților și copiilor. Există, de asemenea, un pic de angajatori și angajați mai mult în domeniul supravegherii. Dar există acea relație personală interioară necesară în termenii de siguranță despre care vorbesc, spre deosebire de, da, cineva anonim pe internet sau o entitate anonimă care încearcă să obțină datele tale, lucruri de genul ăsta.

Drew: Ar putea fi probleme la fel de simple ca... Mă gândesc la toate zilele pe care le vezi pe rețelele de socializare în care există posibilitatea ca diferiți utilizatori să-și adreseze mesaje unii altora și cum ar trebui să fie un mic instrument util pentru a le permite oamenilor să ia o conversație offline sau în afara publicului. Dar așa ceva ar putea fi, de asemenea, fără garanțiile potrivite, un vector pentru un fel de abuz de control.

Eva: Da, absolut. Cu siguranță, oricând permiteți utilizatorilor să-și trimită orice tip de text unul altuia, există posibilitatea de abuz. Mesajele de pe Facebook, aia sunt puțin mai evidente și cred că... Ei bine, aș sper că au niște măsuri de protecție pe care să recunoască că poate nu vrei să vezi anumite mesaje sau vrei să lași pe cineva să te contacteze. Dar una care este cu adevărat interesantă și legată de care am întâlnit în timp ce făceam cercetări este o mulțime de aplicații sau servicii bancare diferite, cum ar fi Venmo, care vă permit să împărtășiți bani. Există adesea un spațiu pentru un mesaj. Cel puțin cu Venmo, este necesar.

Eva: Unele bănci, este opțional, dar oamenii vor trimite un ban cuiva și apoi vor primi un mesaj abuziv sau ceva cu adevărat dăunător sau înfricoșător sau amenințător și nu există o modalitate ca utilizatorul care primește acele mesaje să semnaleze asta sau să spună: „Vreau să blochez acest utilizator, pentru că de ce ai vrea să împiedici pe cineva să trimită bani de la tine?” Aceasta este o situație în care cred că designerul pur și simplu nu a considerat că abuzatorii caută mereu modalități de a face astfel de lucruri. Sunt foarte creativi și nu a fost luat în considerare în design.

Drew: Vorbim adesea despre proiectarea căii fericite în care totul este folosit așa cum este conceput pentru a fi folosit și experiența decurge fără probleme. Apoi, în calitate de ingineri, ne gândim, ei bine, la modul în care lucrurile ar putea merge prost în ceea ce privește eșecul validării sau ca API-urile să nu funcționeze. Dar nu sunt sigur... În calitate de industrie, avem un punct orb cu privire la modalitățile în care tehnologiile ar putea fi utilizate greșit atunci când vine vorba de luarea în considerare a siguranței utilizatorilor noștri?

Eva: Da. Cred că există un punct orb uriaș. Oamenii sunt foarte familiarizați cu astfel de modele de amenințare, așa cum am menționat, ale persoanei anonime care vă hărțuiesc pe Twitter, diferite entități care încearcă să pirateze datele unei companii bancare, lucruri de genul acesta. Dar noi îl numim modelul de amenințare cu violența domestică, care este foarte diferit și este unul la care majoritatea oamenilor nu se gândesc și acesta a fost întotdeauna feedback-ul când am făcut discursul meu, proiectând împotriva violenței domestice în vremurile dinainte înainte ca pandemia să înceteze conferințele. . Acesta a fost întotdeauna feedback-ul, oamenii spun: „Nu auzisem niciodată de asta. N-am avut nici o idee." Acesta este scopul vorbirii mele și cu cartea mea și munca mea în general este de a ajuta oamenii să înțeleagă ce este asta și ce să facă în privința asta, deoarece este ceva care este doar un punct orb enorm.

Drew: Cred că avem o tendință și, evident, este periculos să presupunem că fiecare utilizator este la fel ca noi. La fel ca oamenii care construiesc serviciul sau produsul, la fel ca soldații noștri, ca prietenii noștri și familia noastră și oamenii pe care îi cunoaștem și să presupunem că toată lumea se află într-o situație stabilă acasă și deține proprietatea sau controlul deplin asupra serviciilor lor. și dispozitive. Nu este întotdeauna cazul, nu-i așa?

Eva: Da, absolut. Cu siguranță nu este întotdeauna cazul. Cred că s-ar putea să ne uităm la prietenii și familia și să credem că toată lumea este într-o relație bună, dar ceva ce am descoperit este că cu siguranță majoritatea oamenilor care trec prin violență domestică nu le spun exact tuturor în viața lor și o strigă de la acoperişurile. Majoritatea oamenilor, doar pe baza statisticilor, este atât de comun. Probabil că cunoști pe cineva care a fost în acea situație sau se află în prezent în acea situație și pur și simplu nu vorbește cu adevărat despre asta sau poate nu împărtășește întreaga amploare a comportamentului.

Eva: În multe feluri, este de înțeles că nu este ceva la care oamenii s-au gândit cu adevărat la locul de muncă, deoarece nu este ceva la care ne gândim în societate și în viață în general și reproducem asta la locul nostru de muncă. Munca mea încearcă să ne facă să vorbim despre asta puțin mai explicit.

Drew: Care sunt unele dintre lucrurile la care ar trebui să ne gândim când vine vorba de aceste considerații? Doar gândindu-ne când altcineva ar putea avea acces la contul dvs. sau dacă un partener vă cunoaște parola și poate intra, ați crede că acele produse au fost concepute pentru a fi controlate de o singură persoană, dar acum poate cineva nefast îl accesează. Ce fel de considerații există acolo?

Eva: Da. Ei bine, sunt atât de multe lucruri diferite, dar acesta este unul foarte mare pe care îl am... Trei capitole principale din noua mea carte sunt concentrate pe cele trei mari domenii diferite în care se întâmplă acest lucru, iar ceea ce tocmai ai menționat este punctul central al unuia dintre despre problemele de control și putere cu produse care sunt concepute pentru mai multe persoane. Lucruri precum un cont bancar partajat, lucruri precum Netflix sau Spotify, lucruri precum tot felul de dispozitive de acasă diferite, dispozitive Internet of Things, care sunt aparent destinate mai multor persoane. Dar există presupunerea că toată lumea este o persoană respectuoasă care nu caută să găsească o altă modalitate de a pune în aplicare puterea și controlul asupra oamenilor din jurul lor.

Eva: O mulțime de conturi bancare comune sau lucruri precum serviciul de card de credit partajat se mascadă drept un cont comun, dar într-adevăr o singură persoană are mai multă putere. De exemplu, asta mi s-a întâmplat și a fost foarte frustrant pentru că mă ocup de majoritatea finanțelor din căsnicia mea. Dar când am creat primul nostru cont bancar comun cu ani în urmă, l-au stabilit pe soțul meu ca utilizator principal, ceea ce în principiu însemna că datele sale disponibile public au fost folosite pentru a crea un test de securitate. Când mă conectez la banca noastră de la o nouă rețea Wi-Fi, trebuie să-l întreb pe care dintre aceste străzi locuiai când erai copil? De fapt, sunt în mare parte... La unele dintre ele pot răspunde.

Eva: Știu că nu a locuit niciodată în California, dar mulți dintre ei sunt de fapt foarte buni și trebuie să-l întreb deși suntem împreună de mult timp. Sunt destul de eficiente în a ține pe cineva afară. Dar este ca și cum acesta ar trebui să fie un cont comun, de ce este de fapt... De fapt, este doar un cont pentru el la care am și eu acces. O mulțime de probleme cu asta în care permit cuiva să aibă mai mult control pentru că pur și simplu nu ar putea să-mi dea răspunsurile și atunci nu aș avea acces la finanțele noastre fără a fi nevoie să sun la banca sau să trec prin ceva și să trec printr-un proces diferit. Da. O mulțime de probleme diferite cu controlul.

Eva: Cred că ori de câte ori proiectați un produs care va implica mai mulți utilizatori, să se gândească la modul în care un utilizator va folosi acest lucru pentru a controla o altă persoană și apoi cum putem pune anumite măsuri de siguranță în acest sens, fie făcând astfel încât o persoană nu are controlul. Dacă acest lucru nu este posibil, cum ne putem asigura măcar că cealaltă persoană înțelege exact ce se întâmplă și știe exact cum să-și recapete puterea? Le putem da un număr pe care să-l sune, un fel de setare de schimbat? Orice ar fi, totul devine cam complicat.

Eva: Am un întreg proces în carte despre cum arată în practică, ceva mai specific decât să luăm în considerare violența domestică sau doar cine deține controlul. Nu mi se pare super util acel tip de sfat. Am un proces foarte amănunțit pe care designerii îl pot pune pe lângă procesul de proiectare existent pentru a ajunge la unele dintre aceste lucruri.

Drew: Bănuiesc, unde aveți aceste conturi... A avea un cont este un concept atât de banal. Construim produse sau servicii care elementul fundamental este, bine, avem un cont de utilizator. Probabil că nici măcar nu ne gândim prea îndeaproape la felul de probleme atunci când înființăm acel cont și ne gândim că este contul diferit de persoanele care sunt responsabile pentru cont? Adesea, ele sunt considerate doar o singură entitate, iar apoi trebuie să acoperiți alte entități pentru a crea conturi comune și astfel de lucruri. Dar, luând în considerare și problema a ceea ce se întâmplă cu acel cont dacă doi oameni merg pe căi separate, cum poate fi împărțit în viitor? Este ceva la care ar trebui să ne gândim de la început?

Eva: Da, absolut. Este un punct foarte bun pe care îl aduci în discuție. Cred că unul dintre lucrurile pentru care mă simt foarte puternic este că atunci când concentrăm supraviețuitorii diferitelor tipuri de abuz în designul nostru, ajungem să facem produse care sunt mai bune pentru toată lumea. Am intervievat un număr destul de mare de oameni în special despre elementul de abuz financiar, care este cu adevărat comun în situațiile de violență domestică. Statistica este de 99% dintre oameni într-o relație de violență domestică, există un element de abuz financiar care este cu adevărat comun. Dar am ajuns să intervievez și câțiva oameni care și-au pierdut tragic soțul, o persoană murise și aveau un cont comun.

Eva: Este ca un frumos... Este un scenariu foarte comun, din păcate, dar nu este ceva pentru care multe dintre aceste produse sunt concepute să se ocupe și pot dura ani pentru a obține controlul deplin asupra unui cont partajat sau asupra a ceva de genul... Când bunica mea a murit, a avut multă previziune și i-a oferit tatălui meu acces la toate. Dar chiar și cu asta, i-a luat încă mult timp pentru a pune totul în ordine, deoarece aceste produse pur și simplu nu sunt concepute pentru a face față unor astfel de lucruri. Dar dacă ar fi să concentrăm supraviețuitorii și să ne gândim cum ar fi, da, cum arată când doi oameni se despart și să putem face față eficient, asta ar ajuta în cele din urmă o grămadă de alți oameni în alte situații.

Drew: Ne gândim mult la procesul de integrare și la crearea de noi conturi și la aducerea oamenilor într-un produs, apoi uităm să luăm în considerare ce se întâmplă atunci când pleacă prin orice mijloace, dacă mor, din păcate, sau cum se completează asta la celălalt capăt al procesului. Cred că este ceva care nu atrage atenția de care ar putea beneficia cu adevărat.

Eva: Da.

Drew: Purtăm telefoane în buzunare și sunt dispozitive foarte personale și sunt adesea literalmente cheile pentru accesul nostru la informații, finanțe și comunicare. Într-o situație negativă, asta ar putea cu ușurință... Faptul că este un astfel de dispozitiv personal poate deveni un vector de control și abuz. Mă gândesc doar la lucruri precum serviciile de localizare, servicii precum Find My de la Apple, ceea ce este grozav dacă ai copii de vârstă școlară și poți să te înregistrezi și să vezi unde sunt, să vezi că sunt acolo unde ar trebui, că sunt în siguranță . Este o caracteristică de siguranță în multe feluri, dar acea caracteristică poate fi subminată, nu-i așa?

Eva: Da, absolut. Da, și mă bucur că ai discutat despre asta, deoarece atât de multe dintre aceste produse sunt elemente de siguranță pentru copii. Da, desigur, părinții vor să știe unde sunt copiii lor, vor să se asigure că sunt în siguranță, iar acesta poate fi un instrument cu adevărat eficient. Cred că există o mulțime de probleme cu părinții care folosesc excesiv aceste produse. Am găsit câteva cazuri de studenți care încă sunt verificați de părinții lor și vor primi un telefon dacă merg la o petrecere în afara campusului, cum ar fi de ce nu ești în camera ta de cămin? Lucruri de genul acela. Poate ajunge să fie prea mult. Dar da, în cea mai mare parte, acestea sunt produse grozave. Dar mulți oameni le folosesc greșit pentru a urmări adulții care nu sunt de acord ca locația lor să fie urmărită și de multe ori fie...

Eva: Trebuie să intri în serviciu ca în Google Maps, de exemplu, partajarea locației. Trebuie să intri în ea pentru a vedea că o împărtășești cu cineva. Nu există alertă. Similar cu Find My. Utilizatorul a cărui locație este urmărită primește o alertă, dar într-o situație de violență domestică, este foarte ușor pentru abuzator să șteargă alerta de pe telefonul persoanei înainte ca aceasta să o poată vedea, iar apoi nu există o altă modalitate prin care persoana respectivă va realiza că chiar se întâmplă asta. Cred că acesta este un exemplu bun de ceva în care cazurile de abuz pur și simplu nu sunt luate în considerare atunci când creăm lucruri care în cele din urmă sunt legate de siguranța copiilor. Dar trebuie să realizăm că există o mulțime de oameni care îl vor folosi pentru nu copii în aceste alte setări.

Drew: Presupun că într-o relație, s-ar putea să dai consimțământul ca locația ta să fie urmărită de bunăvoie la un moment dat și atunci s-ar putea să nu înțelegi că asta continuă și s-ar putea să nu știi că asta se întâmplă și tu ești fiind urmărit fără să-și dea seama.

Eva: Da. Acesta este un lucru foarte important de luat în considerare, deoarece în cadrul relațiilor abuzive, nu este ca... Abuzul nu începe în prima zi, în cea mai mare parte. De obicei, este o relație cu adevărat grozavă la început, iar apoi ei introduc încet diferite forme de control și de preluare a puterii și de îndepărtare a persoanei din rețeaua lor de suport, iar acest lucru se întâmplă de-a lungul timpului, adesea de-a lungul anilor, pentru că dacă tocmai ai început să faci asta pe la prima întâlnire, majoritatea oamenilor ar spune: „Da, nu, am plecat”. Dar odată ce există această relație de dragoste, devine mult mai greu să părăsești acea persoană.

Eva: Dar da, de multe ori lucrurile care erau absolut sigure de făcut la începutul relației nu mai sunt sigure, dar persoana respectivă a uitat de mult că și-a împărtășit locația cu această persoană și, apoi, din nou, nu există nici un lucru bun. mod de a fi reamintit. Există unele lucruri precum meritul lor, Google trimite un e-mail la fiecare 30 de zile, deși unii oameni au spus că de fapt nu le primesc atât de des, iar unii oameni o fac. Nu sunt sigur ce se întâmplă exact, dar trimit un e-mail rezumat cu aceștia sunt toate persoanele cărora le partajați locația, ceea ce este cu adevărat minunat.

Eva: Dar cred că se pot face multe daune în 30 de zile. Aș prefera ceva mai frecvent sau chiar un lucru omniprezent care să vă anunțe că acest lucru se întâmplă sau ceva care se întâmplă mai des, apoi ar permite abuzatorului să șteargă acea notificare. Da, asta e un punct foarte bun, este consimțământul. Sunt o mulțime de lucruri care provin din practicile de consimțământ pentru agresiuni sexuale. Cred că este atât de multă relevanță pentru tehnologie. Doar pentru că ai consimțit la ceva în trecut nu înseamnă că ești de acord cu asta acum sau în viitor. Dar în tehnologie, ne spunem: „Ei bine, au fost de acord cu cinci ani în urmă, așa că acel consimțământ, este încă valabil”, și chiar nu este cazul. Ar trebui să obținem din nou consimțământul lor mai târziu.

Drew: Da, prezintă tot felul de provocări, nu-i așa? În modul în care sunt concepute aceste lucruri, pentru că nu doriți să puneți atât de multe obstacole în designul unui produs încât să nu devină util. Sau într-un caz în care urmăriți un copil și acesta nu și-a dat acordul în acea zi și, dintr-o dată, lipsesc și nu au activat serviciul. Dar din nou, asigurându-vă că acel consimțământ este valabil doar atâta timp cât este dat cu adevărat. Cred că este destul de ușor într-un document partajat, dacă folosești Documente Google sau orice altceva, să vezi cine se uită la acel document în acel moment, apar toate pictogramele, dacă... Avatarurile tuturor utilizatorilor diferiți care au fost acolo și a avea acces. Ai crezut că astfel de soluții ar putea funcționa la fel de bine atunci când oamenii accesează locația ta?

Eva: Da, pe deplin. Da, devine lipicios. Nu există o mulțime de soluții simple și ușoare cu chestiile astea, și chestii despre, da, vrei să... Poate că nu este o idee grozavă să-i lași pe copiii tăi de opt ani să-și dea consimțământul în fiecare zi, pentru că și dacă într-o zi sunt doar de genul „Nu”, sau spun din greșeală nu sau orice altceva, și apoi, dintr-o dată, nu le poți găsi. Da, acesta este un scenariu real. Cred că, cu unele dintre aceste lucruri, este ca și cum nu cred că va fi realist să spui: „Ei bine, această producție nu ar trebui să existe sau ar trebui să obții consimțământul în fiecare zi”.

Eva: Dar apoi, în acele cazuri, mai sunt lucruri pe care le poți face, cum ar fi să-i spui persoanei că această persoană, acest alt utilizator își pot vedea locația, chiar dacă nu pot face multe în privința asta. Cel puțin, oferindu-le acele informații, astfel încât să înțeleagă clar ce se întâmplă și apoi să poată lua măsuri pentru a se menține în siguranță dacă se află în acea relație abuzivă, va fi cu adevărat util. Poate că acum știu, bine, nu o să-mi iau telefonul cu mine când ies de la birou în timpul prânzului să-mi văd prietena pe care partenerul meu nu o aprobă, pentru că ea susține întotdeauna cu multă putere să părăsesc relație și ar ști că am plecat undeva dacă îmi aduc telefonul.

Eva: Dar dacă îmi țin telefonul la birou, atunci el nu va ști. A fi capabil să ia aceste tipuri de decizii informate. Chiar dacă nu reușiți să încheiați neapărat partajarea locației, există cu siguranță alte lucruri pe care le putem face care vor menține utilizatorii în siguranță, păstrând în același timp funcționalitatea de bază a produsului cu caracteristici.

Drew: Da. Se rezumă la deciziile de proiectare, nu-i așa? Și să găsești soluții la probleme dificile, dar mai întâi să înțelegi că problema există și trebuie rezolvată, ceea ce cred că este locul în care această conversație este atât de importantă pentru a înțelege diferitele moduri în care sunt folosite lucrurile. Din ce în ce mai mult, avem dispozitive cu microfoane și camere în ele. Avem o mulțime de camere de supraveghere în casele noastre și la sonerii, iar supravegherea ascunsă nu mai este doar ceva din filme de spionaj și emisiuni polițiști, nu-i așa?

Eva: Da. Oh da. Este o problemă atât de mare. Am sentimente foarte puternice cu privire la aceste lucruri și știu că mulți oameni sunt foarte interesați de aceste dispozitive și cred că este în regulă. Cred că sunt foarte folosiți pentru supraveghere. Cred că o mulțime de soți și membri ai familiei, dar și o mulțime de... Aici cred că intru în chestii cu copiii, cel puțin pentru mine, devine puțin mai clar faptul că chiar și copiii au niște drepturi la intimitate, și mai ales când te uiți la adolescenți au nevoie de mult mai multă independență și au nevoie de spațiu, iar în jurul independenței se întâmplă literalmente chestii de dezvoltare a creierului.

Eva: Cred că există modalități de a-ți ajuta copiii să fie în siguranță online și să ia decizii bune și, de asemenea, să verifici uneori ce fac ei fără să fie ceva în care îi urmărești constant sau te injectezi în mod constant în viața lor. că ei nu vor. Dar da, multitudinea de diferite dispozitive de supraveghere este pur și simplu scăpată de sub control, iar oamenii le folosesc tot timpul pentru a se urmări pe ascuns unul pe celălalt sau nici măcar în mod deschis. Uneori este în aer liber, cum ar fi: „Da, te urmăresc. Ce ai de gând să faci în privința asta? Nu poți pentru că suntem în această relație în care am ales să folosesc violența pentru a-mi păstra puterea și controlul asupra ta.”

Eva: Devine o problemă foarte mare. Ceva cu care am întâlnit foarte des sunt oamenii... Devine încă o modalitate prin care abuzatorul îl izolează pe supraviețuitor departe de rețeaua lor de sprijin. Nu puteți avea o conversație telefonică privată cu prietenul sau fratele sau terapeutul. Dintr-o dată, nu există niciun loc în casa ta care să fie de fapt un spațiu privat, ceea ce a fost, de asemenea, o problemă foarte mare în timpul pandemiei, în care oamenii sunt forțați să fie acasă. Am văzut o creștere atât de mare a violenței domestice, precum și tehnologia a facilitat violența domestică, deoarece abuzatorii au avut mai mult timp să își dea seama cum să facă aceste lucruri și este un spațiu mult mai mic pe care trebuie să îl conecteze pentru control. Mulți oameni au făcut asta. A fost o problemă cu adevărat mare.

Drew: M-aș aștepta ca producătorii acestui tip de produse, camere de supraveghere și ce ați spus, să spună: „Noi facem doar instrumente aici. Nu avem nicio responsabilitate asupra modului în care sunt folosite. Nu putem face nimic în privința asta.” Dar ați argumenta că, da, ei au o responsabilitate pentru modul în care sunt utilizate acele instrumente?

Eva: Da, aș face-o. În primul rând, aș spune cuiva care a spus că: „Ești o ființă umană înainte de a fi angajat la o companie de tehnologie, o persoană capitalistă care face bani. Ești o ființă umană și produsele tale afectează ființele umane și ești responsabil pentru asta.” Al doilea lucru pe care l-aș spune este că doar solicitarea unui nivel mai înalt de cunoaștere a tehnologiei de la utilizatorii noștri este o mentalitate cu adevărat problematică, deoarece este ușor pentru cei dintre noi care lucrează în tehnologie să spună: „Ei bine, oamenii trebuie doar să învețe mai multe. despre. Nu suntem responsabili dacă cineva nu înțelege cum este folosit produsul nostru.”

Eva: Dar majoritatea oamenilor nu lucrează în tehnologie și încă sunt, evident, o mulțime de oameni cu adevărat cunoscători în tehnologie, care nu lucrează în tehnologie. Dar le cere oamenilor să înțeleagă exact cum fiecare aplicație pe care o au, fiecare lucru pe care îl folosesc pe telefonul sau laptopul lor, fiecare dispozitiv pe care îl au în case, să înțeleagă fiecare caracteristică și să identifice modalitățile în care ar putea fi folosit împotriva lor, asta e o povară atât de mare. S-ar putea să nu pară mare lucru dacă vă gândiți doar la unul dvs. produs, cum ar fi, oh, bine, bineînțeles, oamenii ar trebui să-și facă timp să-l înțeleagă.

Eva: Dar vorbim despre zeci de produse pe care le punem sarcina oamenilor care trec printr-o situație periculoasă să le înțeleagă, ceea ce este pur și simplu foarte nerealist și destul de inuman, mai ales având în vedere ce abuz și supraveghere și aceste lucruri diferite fac. pentru creierul tău dacă ești în mod constant într-o stare de a fi amenințat și în acest mod de supraviețuire tot timpul. Creierul tău nu va fi capabil să aibă o funcționare executivă completă în defavoarea de a înțelege, uitându-se la această aplicație și încercând să identifice cum folosește soțul meu aceasta pentru a mă urmări sau pentru a mă controla sau orice ar fi. Aș spune că, sincer, este o mentalitate proastă și că suntem responsabili pentru modul în care oamenii folosesc produsele noastre.

Drew: Când crezi că majoritatea oamenilor nu înțeleg mai mult de unul sau două butoane ale cuptorului cu microunde, cum ne putem aștepta să înțelegem capabilitățile și funcționarea tuturor aplicațiilor și serviciilor diferite cu care venim în contact?

Eva: Absolut. Da.

Drew: Când vine vorba de proiectarea de produse și servicii, simt ca un bărbat alb care vorbește engleza că am un punct orb uriaș prin poziția privilegiată pe care mi-o oferă societatea și mă simt foarte naiv și sunt conștient că ar putea. duce la alegeri problematice de design în lucrurile pe care le fac. Există pași pe care îi putem face și un proces pe care îl putem urma pentru a ne asigura că expunem acele puncte moarte și că facem tot posibilul să ieșim din domeniul nostru de experiență și să includem mai multe scenarii?

Eva: Da, absolut. Am atât de multe gânduri despre asta. Cred că sunt câteva lucruri. În primul rând, suntem cu toții responsabili pentru a ne educa despre punctele noastre oarbe. Toată lumea are puncte moarte. Cred că poate un mascul alb cis are mai multe puncte oarbe decât alte grupuri, dar nu este ca și cum ar fi un grup care nu va avea puncte oarbe. Toată lumea le are. Cred că ne educăm despre diferitele moduri în care tehnologia noastră poate fi folosită greșit. Cred că este mai mult decât... Evident, siguranța interpersonală este treaba mea la care lucrez. Dar există și toate aceste alte lucruri despre care încerc în mod constant să învăț și să-mi dau seama cum mă asigur că tehnologia la care lucrez nu va perpetua aceste lucruri diferite.

Eva: Îmi place foarte mult Design For Real Life de Sara Wachter-Boettcher și Eric Meyer este grozav pentru design cuprinzător și design plin de compasiune. Dar apoi am învățat și despre algoritmi și rasism și sexism și despre diferite probleme legate de algoritmi. Sunt atât de multe lucruri diferite pe care trebuie să le luăm în considerare și cred că toți suntem responsabili pentru a afla despre aceste lucruri. Apoi, cred, de asemenea, că aducem experiența trăită a oamenilor care au trecut prin aceste lucruri odată ce ați identificat, bine, rasismul va fi o problemă cu acest produs și trebuie să ne asigurăm că ne confruntăm cu asta și încercând să preveniți acest lucru și oferind cu siguranță modalități pentru ca oamenii să raporteze rasismul sau ce aveți.

Eva: Unul dintre lucruri, exemplul pe care îl dau în cartea mea este că Airbnb are o mulțime de probleme cu rasismul și gazdele rasiste. Chiar și doar studiul despre dacă ai... Dacă fotografia ta este a unei persoane de culoare, vei fi refuzat. Solicitarea dvs. de rezervare a unui sejur va fi refuzată mai des decât dacă aveți o persoană albă în fotografie. Cred că sunt o persoană albă, asta este ceva despre care nu cred că aș putea să învăț și apoi să vorbesc ca o autoritate în această problemă. Cred că în acest caz, trebuie să aduci pe cineva cu acea experiență trăită, care să te poată informa, așa că angajezi un consultant de designer negru pentru că evident că știm că nu există o mare diversitate în tehnologie.

Eva: În mod ideal, ai avea deja oameni în echipa ta care ar putea vorbi despre asta, dar cred că... Dar atunci este atât de complicat. Aici se pune problema: cerem astfel de muncă de la colegii noștri de echipă? Poate fi și asta problematic. Persoana de culoare din echipa ta probabil se va confrunta deja cu multe lucruri diferite, iar apoi oamenii albi vor spune: „Hei, vorbește-mi despre experiențele traumatizante pe care le-ai avut din cauza rasei tale”. Probabil că nu ar trebui să punem acest tip de povară asupra oamenilor, decât dacă...

Eva: Mulți oameni vor aduce de bunăvoie asta și vor vorbi despre asta, iar eu voi vorbi despre lucruri, despre experiența mea ca femeie, dar poate că nu este ceva ce vreau să fac în fiecare zi. În acest caz, angajați oameni care fac asta pentru muncă și apoi plătiți întotdeauna oameni pentru experiențele lor trăite și nu faceți-o exploatare în ceea ce privește compensarea efectivă a oamenilor pentru acele cunoștințe și acea experiență trăită.

Drew: Da. Cred că într-adevăr subliniază cât de incredibil de important și de benefic este să avem echipe diverse care lucrează la produse, aducând tot felul de experiențe diferite.

Eva: Da, absolut.

Drew: Unul dintre lucrurile pe care le acoperiți în cartea dvs. în procesul de proiectare este crearea de arhetipuri de abuzator și de supraviețuitor pentru a vă ajuta să vă testați caracteristicile. Ne poți spune puțin despre această idee?

Eva: Da. Acest lucru a apărut din dorința de a avea un fel de artefact personal care să-i ajute pe oameni să înțeleagă foarte clar care este problema. Acesta este ceva care vine după ce echipa a făcut cercetări asupra problemei și a identificat diferitele probleme posibile atunci când vine vorba de siguranța interpersonală și poate articula foarte clar care sunt acestea. Apoi faci arhetipul abuzatorului, care este persoana care încearcă să folosească produsul tău pentru orice rău ar fi, și apoi arhetipul supraviețuitorului, care va fi victima acelui rău. Cel mai important lucru este să ai obiectivele. Este aproape ca și cum ai găsi o poză sau nici măcar nu ai nevoie de o poză, dar doar articulează care este abuzul și apoi obiectivele persoanei.

Eva: Dacă este cineva care vrea să-și dea seama unde locuiește fosta iubită acum pentru că vrea să o urmărească, scopul lui este să o urmărească. Apoi, scopul supraviețuitorului... Ei bine, îmi pare rău, scopul abuzatorului ar fi să vă folosească produsul. Să zicem că Strava, de exemplu, este unul dintre cei pe care îi folosesc ca exemplu în carte. Vreau să folosesc Strava pentru a-mi găsi fosta iubită, iar apoi arhetipul supraviețuitor spune: „Vreau să-mi păstrez locația secretă de fostul meu care încearcă să mă urmărească”. Apoi puteți folosi acele obiective pentru a vă informa o parte din design și pentru a testa produsul pentru a vedea dacă există ceva despre datele despre locația supraviețuitorului care este disponibil public pentru cineva care încearcă să-și găsească locația, chiar dacă și-a activat toată confidențialitatea. Caracteristici?

Eva: Folosesc Strava ca exemplu pentru că până acum câteva luni exista această abilitate. A existat ceva care, chiar dacă ai pus totul în privat, dacă alergai sau făceai exerciții în apropierea altcuiva folosind aplicația pentru o anumită perioadă de timp, nu este clar cât de aproape trebuie să fii sau cât timp trebuie să rulezi la fel. Street ca și această altă persoană, o va eticheta ca fiind apărute în antrenamentul tău. Acesta ar fi un exemplu în care abuzatorul și-a putut îndeplini obiectivele, și-a putut găsi fostul în acest fel. Atunci ai ști, bine, trebuie să lucrăm împotriva ei și să împiedicăm ca obiectivul să aibă succes.

Drew: Mai ales, nu poți să te gândești la fiecare scenariu. Nu poți înțelege ce ar încerca să facă un abuzator în toate circumstanțele. But by covering some key apparent problems that could crop up, then I guess you're closing lots of doors for other lines of abuse that you haven't thought of.

Eva: Yes. Yeah, exactly. That brings up a really good other related point, which is that, yeah, you're probably not going to think of everything. Then having ways for users to report issues and then being the type of team and company that can take those criticisms or issues that users identify with some grace and quickly course correcting because there's always going to be things you don't think about and users are going to cover all sorts of things. I feel like this always happens. Being able to have a way to get that feedback and then to quickly course correct is also a really big part of the whole process of designing for safety.

Drew: Is there a process that would help you come up with these potential problems? Say you're designing a product that uses location data, what process would you go through to think of the different ways it could be abused? Is there anything that helps in that regard?

Eva: Yeah. This is something I get more in depth about in the book, but having some research around it first is the first thing. With location services is a pretty easy one, so to speak. There's so many documented issues with location services. There's also been academic studies done on this stuff, there's lots of literature out there that could help inform the issues that you're going to face. Then the other thing that I suggest that teams do is after doing this research is doing a brainstorm for novel of use cases that have not been covered elsewhere.

Eva: The way I usually do this is I have the team do a Black Mirror brainstorm. Let's make a Black Mirror episode. What's the worst, most ridiculous, just anything goes, worst case scenario for this product or feature that we're talking about? People usually come up with some really wild stuff and it's actually usually really fun. Then you say, “Okay, let's dial it back. Let's use this as inspiration for some more realistic issues that we might come across,” and then people are usually able to identify all sorts of things that their product might enable.

Drew: For people listening who feel like they would really love to champion this area of work within their organization, do you have any advice as to how they could go about doing that?

Eva: Yeah. There is a lot of stuff about this in the book, about integrating this into your practice and bringing it to your company. Advice for things like talking to a reluctant stakeholder whose only concern is, well, how much is this going to cost me? How much extra time is this going to take? Being able to give really explicit answers about things like that is really useful. Also, I have recordings of my conference talk which people usually say, “I had just had no idea that this was a thing.” You can help educate your team or your company.

Eva: I talked about this in the book too, honestly, it can be awkward and weird to bring this stuff up and just being mentally prepared for how it's going to feel to be like, “We should talk about domestic violence,” or, “We should talk about invasive child surveillance.” It can be really hard and just weird. One of the pieces of advice I give is for people to talk to a supportive coworker ahead of time, who can back them up if you're going to bring this up in a meeting and just help reduce the weirdness, and there are some other tactics in the book. But those are definitely the big ones.

Drew: I would normally ask at this point where our listeners should go to find out more about the topic. But I know that the answer is actually to go and read your book. We've only really just scratched the surface on what's covered in Design For Safety, which is out now, this August 2021 from A Book Apart. The book, for me, it's sometimes an uneasy read in terms of content, but it's superbly written and it really opened my eyes to a very important topic. One thing I really like about all the A Book Apart books is they're small and focused and they're easy to consume. I would really recommend that listeners check out the book if the topic is interesting to them.

Eva: Yeah, thanks for that. Theinclusivesafetyproject.com is the website I have to house all of this information. There's a lot of great resources in the back of the book for people who want to learn more. But if you just want something and more immediately, you can go to Theinclusivesafetyproject.com and there's a resources page there that has different sort of articles or studies to look at different people working in related spaces to follow on Twitter, books to read, things like that.

Drew: Corect. I've been learning what it means to design for safety. What have you been learning about, Eva?

Eva: I have been learning about data. I'm reading a really interesting book called Living in Data by Jer Thorp, which I thought it was going to be all about different issues with big data, which is such a big thing but it's actually an extremely thoughtful, much more interesting approach to what it means to live in data and just how much data is taken from us every day and what's done with it and just data out there in the world. It's really interesting and important, and yeah, I would definitely recommend that book.

Drew: No, amazing. If you the listener would like to hear more from Eva, you can follow her on Twitter where she's @epenzeymoog, and you can find all her work linked from her website at evapenzeymoog.com. Design For Safety is published abookapart.com and is available now. Thanks for joining us today, Eva. Ai cuvinte de despărțire?

Eva: Please get vaccinated so that we can go back to normal.