Smashing Podcast Episódio 41 com Eva PenzeyMoog: projetando para a segurança

Este artigo foi gentilmente apoiado por nossos queridos amigos da Netlify, que são um grupo diversificado de talentos incríveis de todo o mundo e oferece uma plataforma para desenvolvedores web que multiplica a produtividade. Obrigado!

Neste episódio, estamos falando sobre projetar para a segurança. O que significa considerar usuários vulneráveis ​​em nossos projetos? Drew McLellan fala com a especialista Eva PenzeyMoog para descobrir.

Mostrar notas

• Design para segurança a partir de um livro à parte
• O Projeto de Segurança Inclusiva
• Eva no Twitter
• site pessoal de Eva

Atualização semanal

• Como construir um site de comércio eletrônico com Angular 11, Commerce Layer e Paypal escrito por Zara Cooper
• Refatorando CSS: Estratégia, Teste de Regressão e Manutenção escrito por Adrian Bece
• Como construir interfaces de usuário JavaScript resilientes escritas por Callum Hart
• Reagir Filhos e Métodos de Iteração escritos por Arihant Verma
• Padrões de design frustrantes: botões desativados escritos por Vitaly Friedman

Transcrição

Drew McLellan: Ela é a fundadora do The Inclusive Safety Project, autora do livro Designed For Safety, lançado este mês pela A Book Apart. Ela é a designer principal da 8th Light, onde projeta e constrói software personalizado e presta consultoria em estratégias de design seguras e inclusivas. Sabemos que ela é especialista em projetar tecnologia para proteger os vulneráveis, mas você sabia que ela é a recordista internacional de mais donuts realizados em uma empilhadeira? Meus amigos esmagadores, por favor, sejam bem-vindos, Eva PenzeyMoog. Olá, Eva, tudo bem?

Eva PenzeyMoog: Estou arrasando.

Drew: É bom ouvir. Eu queria falar com você hoje sobre os princípios de projetar produtos e experiências com a segurança de usuários vulneráveis ​​em mente. Seria justo desde o início dar algum tipo de alerta de gatilho para qualquer assunto específico que pudéssemos abordar?

Eva: Com certeza, sim. Obrigado por trazer isso à tona. Definitivamente, acione o aviso para menções explícitas de violência doméstica, também possivelmente algum abuso de idosos e abuso infantil.

Drew: Isso é importante. Fique à vontade. Se você se preocupar com algum desses problemas, pode ser um gatilho para você. Sinta-se à vontade para ignorá-los. Nos vemos no próximo episódio. Enquadre a conversa para nós, Eva. Quando falamos de Design For Safety, de que tipo de questões de segurança estamos falando? Não estamos falando de interfaces para carros autônomos. Não é esse tipo de segurança, é?

Eva: Certo, exatamente. Sim. Quando estou falando sobre segurança, estou realmente falando sobre segurança interpessoal, as maneiras pelas quais os usuários podem armar nossos produtos para prejudicar uns aos outros de maneira interpessoal. Pessoas que se conhecem, convivem, muita violência doméstica por parte de parceiros românticos, mas também pais e filhos. Há também um pouco de empregadores e empregados mais no domínio da vigilância. Mas há esse relacionamento pessoal interno real exigido em termos de segurança de que estou falando, em oposição a, sim, alguém anônimo na internet ou alguma entidade anônima tentando obter seus dados, coisas assim.

Drew: Poderiam ser questões tão simples como... Eu penso em todos os dias que você vê nas redes sociais onde há a capacidade de diferentes usuários enviarem mensagens diretas uns aos outros, e como isso deveria ser uma pequena ferramenta útil para permitir que as pessoas conversem offline ou fora do público. Mas esse tipo de coisa também pode, sem as devidas salvaguardas, ser um vetor para algum tipo de abuso de controle.

Eva: Sim, com certeza. Definitivamente, sempre que você permite que os usuários enviem qualquer tipo de texto entre si, existe a possibilidade de abuso. As mensagens do Facebook, essa é um pouco mais óbvia, e eu acho... Bem, eu espero que eles tenham algumas salvaguardas que reconheçam que talvez você não queira ver certas mensagens ou deixar alguém entrar em contato com você. Mas um que é realmente interessante e relacionado que encontrei enquanto pesquisava é um monte de aplicativos ou serviços bancários diferentes, como o Venmo, que permitem compartilhar dinheiro. Muitas vezes há um espaço para uma mensagem. Pelo menos com o Venmo, é necessário.

Eva: Alguns bancos, é opcional, mas as pessoas enviam um centavo para alguém e depois têm alguma mensagem abusiva ou algo realmente prejudicial, assustador ou ameaçador, e não há realmente uma maneira de o usuário que recebe essas mensagens sinalizar isso ou dizer: “Quero bloquear este usuário, porque você quer impedir alguém de enviar dinheiro de você?” Essa é uma situação em que acho que o designer simplesmente não considerou que os abusadores estão sempre procurando maneiras de fazer coisas assim. Eles são muito criativos, e isso não foi considerado no design.

Drew: Costumamos falar sobre projetar o caminho feliz onde tudo é usado como foi projetado para ser usado e a experiência ocorre sem problemas. Então, como engenheiros, pensamos em como as coisas podem dar errado em termos de falha de validação ou APIs inativas. Mas não tenho certeza... Como indústria, temos um grande ponto cego sobre como as tecnologias podem ser mal utilizadas quando se trata de considerar a segurança de nossos usuários?

Eva: Sim. Eu absolutamente acho que há um ponto cego gigante. As pessoas estão muito familiarizadas com esses vários modelos de ameaças, como mencionei, de uma pessoa anônima assediando você no Twitter, diferentes entidades tentando invadir os dados de uma empresa bancária, coisas assim. Mas nós o chamamos de modelo de ameaça de violência doméstica, que é super diferente e é um que a maioria das pessoas não está pensando e esse sempre foi o feedback quando eu fiz minha palestra, projetando contra a violência doméstica antes da pandemia parar as conferências . Esse sempre foi o feedback, as pessoas dizendo: “Eu nunca tinha ouvido falar disso. Eu não fazia ideia." Esse é o objetivo com minhas palestras e meu livro e meu trabalho em geral é ajudar as pessoas a entender o que é isso e o que fazer sobre isso, porque é algo que é apenas um enorme ponto cego.

Drew: Acho que temos uma tendência, e obviamente é perigoso presumir que todo usuário é igual a nós. Assim como as pessoas que estão construindo o serviço ou produto, assim como nossos soldados, como nossos amigos e nossa família e as pessoas que conhecemos, e presumir que todos estão em uma situação doméstica estável e têm total propriedade ou controle de seus serviços e dispositivos. Nem sempre é assim, não é?

Eva: Sim, com certeza. Definitivamente, nem sempre é o caso. Acho que podemos olhar para nossos amigos e familiares e pensar que todos estão em um bom relacionamento, mas algo que descobri é que definitivamente a maioria das pessoas que passam por violência doméstica não está exatamente contando a todos em sua vida e gritando os telhados. A maioria das pessoas, apenas com base nas estatísticas, é tão comum. Você provavelmente conhece alguém que esteve nessa situação ou está atualmente nessa situação, e eles simplesmente não estão realmente falando sobre isso ou talvez não estejam compartilhando toda a extensão do comportamento.

Eva: De muitas maneiras, é compreensível que não seja algo que as pessoas realmente tenham pensado no local de trabalho porque não é algo que pensamos na sociedade e na vida em geral e reproduzimos isso em nosso local de trabalho. Meu trabalho está tentando nos fazer falar sobre isso um pouco mais explicitamente.

Drew: Quais são algumas das coisas em que devemos pensar quando se trata dessas considerações? Basta pensar em quando outra pessoa pode ter acesso à sua conta, ou se um parceiro sabe sua senha e pode entrar, você pensaria que esses produtos foram projetados para serem controlados por uma pessoa, mas agora talvez alguém nefasto esteja acessando. Que tipo de considerações existem?

Eva: Sim. Bem, há tantas coisas diferentes, mas isso é realmente grande que eu tenho… Três capítulos principais no meu novo livro estão focados nas três grandes áreas diferentes onde isso acontece, e o que você acabou de mencionar é o foco de um dos sobre problemas de controle e energia com produtos projetados para várias pessoas. Coisas como uma conta bancária compartilhada, coisas como Netflix ou Spotify, coisas como todos os tipos de dispositivos domésticos diferentes, dispositivos de Internet das Coisas, que são ostensivamente destinados a várias pessoas. Mas há a suposição de que todo mundo é uma pessoa respeitosa que não está procurando outra maneira de exercer poder e controle sobre as pessoas ao seu redor.

Eva: Muitas contas bancárias conjuntas ou coisas como serviço de cartão de crédito compartilhado se disfarçam de conta conjunta, mas na verdade uma pessoa tem mais poder. Por exemplo, isso aconteceu comigo e foi muito frustrante porque eu cuido da maior parte das finanças do meu casamento. Mas quando criamos nossa primeira conta bancária conjunta anos atrás, eles definiram meu marido como o usuário principal, o que basicamente significava que eram seus dados publicamente disponíveis que foram usados ​​para criar um teste de segurança. Quando entro em nosso banco a partir de uma nova rede Wi-Fi, tenho que perguntar a ele como em qual dessas ruas você morava quando era criança? Na verdade, eles são principalmente... Alguns deles eu posso responder.

Eva: Eu sei que ele nunca morou na Califórnia, mas muitos deles são realmente muito bons, e eu tenho que perguntar a ele mesmo estando juntos há muito tempo. Eles são bastante eficazes em manter alguém fora. Mas é como se fosse uma conta conjunta, por que na verdade... Na verdade é só uma conta dele que eu também tenho acesso. Muitos problemas com isso onde eles estão permitindo que alguém tenha mais controle porque ele simplesmente não poderia me dar as respostas e então eu não teria acesso às nossas finanças sem ter que ligar para o banco ou passar por algo e passar por um processo diferente. Sim. Muitos problemas diferentes com controle.

Eva: Eu acho que sempre que você está projetando um produto que vai envolver vários usuários pensando em como um usuário vai usar isso para controlar outra pessoa, e então como podemos colocar algumas salvaguardas para isso, seja fazendo com que uma pessoa não tem controle. Se isso não for possível, como podemos pelo menos ter certeza de que a outra pessoa entende exatamente o que está acontecendo e sabe exatamente como recuperar o poder? Podemos dar a eles um número para ligar, algum tipo de configuração para mudar? Seja o que for, tudo fica meio complicado.

Eva: Eu tenho todo um processo no livro sobre como isso realmente se parece na prática, algo um pouco mais específico do que apenas considerar a violência doméstica ou apenas considerar quem está no controle. Não acho esse tipo de conselho super útil. Eu tenho um processo muito completo que os designers podem colocar em cima de seu processo de design existente para obter algumas dessas coisas.

Drew: Eu acho, onde você tem essas contas... Ter uma conta é um conceito tão comum. Estamos construindo produtos ou serviços cujo bloco de construção fundamental é, ok, temos uma conta de usuário. Provavelmente, nem pensamos muito sobre os tipos de problemas ao configurar isso e pensar que a conta é diferente das pessoas responsáveis ​​​​pela conta? Muitas vezes, eles são considerados apenas uma entidade, e então você tem que adicionar outras entidades a ela para criar contas conjuntas e esse tipo de coisa. Mas também considerando a questão do que acontece com essa conta se duas pessoas seguirem caminhos separados, como isso pode ser separado no futuro? Isso é algo que devemos pensar desde o início?

Eva: Sim, com certeza. Esse é um ponto muito bom que você levanta. Eu acho que uma das coisas que eu sinto muito é que quando nós centramos os sobreviventes de diferentes tipos de abuso em nosso design, acabamos fazendo produtos que são melhores para todos. Eu entrevistei uma quantidade razoável de pessoas especificamente sobre o elemento de abuso financeiro, que é muito comum em ambientes de violência doméstica. A estatística é de 99% das pessoas em um relacionamento de violência doméstica, há algum elemento de abuso financeiro que é muito comum. Mas também acabei entrevistando algumas pessoas que perderam tragicamente o cônjuge, uma pessoa morreu e eles tinham uma conta conjunta.

Eva: Isso é como um belo… É um cenário muito comum, infelizmente, mas não é algo que muitos desses produtos são projetados para lidar, e pode levar anos para realmente ter controle total sobre uma conta compartilhada ou algo como… Quando minha avó morreu, ela tinha muita visão e deu ao meu pai acesso a tudo. Mas mesmo com isso, ele ainda levou muito tempo para realmente acertar tudo porque esses produtos simplesmente não são projetados para lidar com coisas assim. Mas se fôssemos centrar os sobreviventes e pensar, sim, como é quando duas pessoas se separam, e sermos capazes de lidar com isso de forma eficaz, isso ajudaria muitas outras pessoas em outras situações.

Drew: Pensamos muito no processo de integração e na criação de novas contas e na inclusão de pessoas em um produto, e depois nos esquecemos de considerar o que acontece quando elas saem por qualquer meio, se infelizmente morrem ou como isso termina no outra extremidade do processo. Acho que é algo que não recebe a atenção de que poderia realmente se beneficiar.

Eva: Sim.

Drew: Nós carregamos telefones em nossos bolsos, e eles são dispositivos muito pessoais e muitas vezes são literalmente as chaves para nosso acesso a informações, finanças e comunicação. Em uma situação negativa, isso poderia facilmente… O fato de ser um dispositivo tão pessoal pode se tornar um vetor de controle e abuso. Só de pensar em coisas como serviços de localização, serviços como o Find My da Apple, o que é ótimo se você tem filhos em idade escolar e pode fazer check-in e ver onde eles estão, ver se estão onde deveriam, estão seguros . É um recurso de segurança de várias maneiras, mas esse recurso pode ser subvertido, não pode?

Eva: Sim, com certeza. Sim, e estou feliz que você tenha mencionado isso, porque muitos desses produtos são recursos de segurança para crianças. Sim, claro, os pais querem saber onde seus filhos estão, querem ter certeza de que estão seguros, e isso pode ser uma ferramenta realmente eficaz. Eu acho que há muitos problemas com os pais usando esses produtos em excesso. Encontrei alguns casos de estudantes universitários que ainda estão sendo atendidos por seus pais e receberão uma ligação se forem a uma festa fora do campus, como por que você não está no seu dormitório? Coisas assim. Pode chegar a ser demais. Mas sim, na maior parte, esses são ótimos produtos. Mas muitas pessoas fazem uso indevido deles para rastrear adultos que não consentem em ter sua localização rastreada, e muitas vezes eles também…

Eva: Você tem que entrar no serviço como no Google Maps, por exemplo, compartilhamento de localização. Você tem que entrar nele para ver que está compartilhando com alguém. Não há alerta. Semelhante com Localizar meu. O usuário cuja localização está sendo rastreada recebe um alerta, mas em uma situação de violência doméstica, é muito fácil para o agressor simplesmente excluir o alerta do telefone da pessoa antes que ela possa vê-lo, e então não há outra maneira dessa pessoa vai perceber que isso está mesmo acontecendo. Acho que é um bom exemplo de que casos de abuso simplesmente não estão sendo considerados quando criamos coisas que, em última análise, são sobre segurança para crianças. Mas temos que perceber que existem toneladas de pessoas por aí que vão usá-lo para não crianças nesses outros ambientes.

Drew: Suponho que em um relacionamento, você pode dar consentimento para que sua localização seja rastreada de boa vontade em um ponto no tempo, e então você pode não entender que isso continua, e pode não estar ciente de que isso ainda está acontecendo e você está sendo rastreado sem perceber.

Eva: Sim. Isso é uma coisa muito importante a se considerar porque dentro de relacionamentos abusivos, não é como... O abuso não começa no primeiro dia, na maioria das vezes. Geralmente é um relacionamento muito bom no começo, e então eles lentamente introduzem diferentes formas de controle e assumem o poder e removem a pessoa de sua rede de apoio, e isso tudo acontece com o tempo, muitas vezes ao longo dos anos, porque se você começou a fazer isso no primeiro encontro, a maioria das pessoas diria: “Sim, não, estou fora”. Mas uma vez que há esse relacionamento amoroso, fica muito mais difícil simplesmente deixar essa pessoa.

Eva: Mas sim, muitas vezes as coisas que eram totalmente seguras para fazer no início do relacionamento não são mais seguras, mas a pessoa há muito esqueceu que compartilhou sua localização com essa pessoa e, novamente, não há uma boa maneira de ser lembrado. Há algumas coisas como crédito, o Google envia um e-mail a cada 30 dias, embora algumas pessoas tenham dito que não os recebem com tanta frequência, e algumas pessoas o fazem. Não tenho certeza do que exatamente está acontecendo, mas eles enviam um e-mail de resumo com todas as pessoas com quem você está compartilhando sua localização, o que é realmente incrível.

Eva: Mas eu acho que muito dano pode ser feito em 30 dias. Eu preferiria algo que é mais frequente ou mesmo algo onipresente que permite que você saiba que isso está acontecendo, ou algo que está acontecendo com mais frequência, permitindo que o agressor simplesmente exclua essa notificação. Sim, esse é um ponto muito bom, é esse consentimento. São muitas coisas que vêm de práticas de consentimento de agressões sexuais. Eu acho que há tanta relevância para a tecnologia. Só porque você consentiu com algo no passado não significa que você consente agora ou no futuro. Mas na tecnologia, pensamos: “Bem, eles consentiram cinco anos atrás, então esse consentimento ainda é válido”, e esse não é realmente o caso. Devemos obter o consentimento deles novamente mais tarde.

Drew: Sim, apresenta todos os tipos de desafios, não é? Na forma como essas coisas são projetadas, porque você não quer colocar tantos obstáculos no design de um produto que se torne inútil. Ou em um caso em que você está rastreando uma criança e ela realmente não concordou naquele dia e, de repente, ela desapareceu e não ativou o serviço. Mas, novamente, certifique-se de que esse consentimento seja válido apenas enquanto for realmente dado. Acho que é bastante fácil em um documento compartilhado, se você estiver usando o Google Documents, ou qualquer outra coisa, para ver quem está olhando para aquele documento naquele momento, todos os ícones aparecem, se... Os avatares de todos os diferentes usuários que estavam lá e ter acesso. Você pensou que esse tipo de solução poderia funcionar igualmente bem para quando as pessoas acessassem sua localização?

Eva: Sim, totalmente. Sim, fica pegajoso. Não há muitas soluções diretas e fáceis com essas coisas, e as coisas sobre, sim, você quer... Talvez não seja uma boa ideia deixar seus filhos de oito anos darem consentimento todos os dias, porque e se um dia eles são como, “Não”, ou eles erroneamente dizem não ou qualquer outra coisa, e então, de repente, você não consegue encontrá-los. Sim, é um cenário real. Eu acho que, com algumas dessas coisas, é como se eu não achasse que seria realista dizer: “Bem, essa produção não deveria existir ou você deveria obter consentimento todos os dias”.

Eva: Mas nesses casos, ainda há coisas que você pode fazer, como dizer à pessoa que essa pessoa, esse outro usuário, pode ver sua localização, mesmo que não haja muito o que fazer sobre isso. No mínimo, dar a eles essa informação para que eles entendam claramente o que está acontecendo e possam tomar medidas para se manterem seguros se estiverem nesse relacionamento abusivo, será realmente útil. Talvez agora eles saibam, ok, eu não vou levar meu telefone comigo quando sair do escritório na hora do almoço para ver minha amiga que minha parceira não aprova porque ela está sempre defendendo muito que eu deixe o relacionamento e ele saberia que eu tinha ido a algum lugar se eu trouxesse meu telefone.

Eva: Mas se eu mantiver meu telefone no escritório, ele não saberá. Ser capaz de tomar esses tipos de decisões informadas. Mesmo que você não consiga encerrar necessariamente o compartilhamento de local, definitivamente há outras coisas que podemos fazer para manter os usuários seguros enquanto ainda conservamos a funcionalidade principal do produto em destaque.

Drew: Sim. Tudo se resume a decisões de design, não é? E encontrar soluções para problemas difíceis, mas primeiro entender que o problema existe e precisa ser resolvido, o que eu acho que é onde essa conversa é tão importante para entender as diferentes maneiras pelas quais as coisas são usadas. Cada vez mais, temos dispositivos com microfones e câmeras neles. Temos muitas câmeras de vigilância em nossas casas e em nossas campainhas, e vigilância secreta não é mais apenas algo de filmes de espionagem e programas policiais, não é?

Eva: Sim. Oh sim. É um problema tão grande. Eu tenho sentimentos muito fortes sobre essas coisas, e sei que muitas pessoas realmente gostam desses dispositivos e acho que está tudo bem. Eu acho que eles são muito usados ​​para vigilância. Acho que muitos cônjuges e membros da família, mas também muitos... É aqui que acho que entrar em coisas com crianças, pelo menos para mim, fica um pouco mais claro que até as crianças têm algum direito à privacidade, e especialmente quando você olha para os adolescentes precisam de muito mais independência e eles precisam de espaço, e há literalmente coisas de desenvolvimento cerebral acontecendo em torno da independência.

Eva: Acho que há maneiras de ajudar seus filhos a ficarem seguros on-line e tomar boas decisões, e também, às vezes, verificar o que eles estão fazendo sem que seja algo em que você os observe constantemente ou se injete constantemente em suas vidas de maneiras que eles não querem. Mas sim, a infinidade de diferentes dispositivos de vigilância está fora de controle, e as pessoas estão usando isso o tempo todo para observar uns aos outros secretamente ou nem mesmo abertamente. Às vezes é aberto como: “Sim, estou observando você. O que você vai fazer sobre isso? Você não pode porque estamos neste relacionamento onde eu escolhi usar a violência para manter meu poder e controle sobre você.”

Eva: Torna-se um grande problema. Algo que me deparei muito são as pessoas… Torna-se mais uma forma do agressor isolar a sobrevivente de sua rede de apoio. Você não pode ter uma conversa telefônica privada com seu amigo ou seu irmão ou seu terapeuta. De repente, não há nenhum lugar em sua casa que seja realmente um espaço privado, o que também tem sido um grande problema durante a pandemia, onde as pessoas são forçadas a ficar em casa. Vimos um aumento tão grande na violência doméstica, assim como a tecnologia facilitou a violência doméstica porque os agressores tiveram mais tempo para descobrir como fazer essas coisas, e é um espaço muito menor que eles precisam conectar para controlar. Muita gente tem feito isso. Tem sido um problema muito grande.

Drew: Eu esperaria que os fabricantes desses tipos de produtos, câmeras de vigilância e tudo o mais, dissessem: “Estamos apenas fazendo ferramentas aqui. Não temos qualquer responsabilidade sobre como eles são usados. Não podemos fazer nada quanto a isso.” Mas você argumentaria que, sim, eles têm a responsabilidade de como essas ferramentas são usadas?

Eva: Sim, eu faria. Antes de tudo, eu diria a alguém que dissesse: “Você é um ser humano antes de ser um funcionário de uma empresa de tecnologia, uma pessoa capitalista que faz dinheiro. Você é um ser humano e seus produtos estão afetando seres humanos e você é responsável por isso.” A segunda coisa que eu diria é que apenas exigir um nível mais alto de alfabetização tecnológica de nossos usuários é uma mentalidade realmente problemática, porque é fácil para nós que trabalhamos em tecnologia dizer: “Bem, as pessoas só precisam aprender mais sobre isso. Não nos responsabilizamos se alguém não entender como nosso produto está sendo usado.”

Eva: Mas a maioria das pessoas não trabalha em tecnologia e eles ainda são, obviamente, algumas pessoas realmente conhecedoras de tecnologia por aí que não trabalham em tecnologia. Mas exigir que as pessoas entendam exatamente como cada aplicativo que têm, cada coisa que estão usando em seu telefone ou laptop, cada dispositivo que têm em suas casas, entendendo cada recurso e identificando as maneiras pelas quais ele pode ser usado contra eles, isso é um fardo enorme. Pode não parecer grande coisa se você está apenas pensando em seu produto como, ah, bem, é claro, as pessoas deveriam ter tempo para entendê-lo.

Eva: Mas estamos falando de dezenas de produtos que estamos colocando o ônus em pessoas que estão passando por uma situação perigosa para entender, o que é muito irreal e bastante desumano, especialmente considerando o que abuso e vigilância e essas coisas diferentes fazem para o seu cérebro se você está constantemente em um estado de ameaça e neste modo de sobrevivência o tempo todo. Seu cérebro não será capaz de ter um funcionamento executivo completo sobre descobrir, olhar para este aplicativo e tentar identificar como meu marido está usando isso para me observar ou me controlar ou o que quer que seja. Eu diria que isso é realmente apenas, honestamente, uma mentalidade ruim de se ter e que somos responsáveis ​​por como as pessoas usam nossos produtos.

Drew: Quando você acha que a maioria das pessoas não entende mais do que um ou dois botões em seus micro-ondas, como podemos esperar que entendamos os recursos e o funcionamento de todos os diferentes aplicativos e serviços com os quais entramos em contato?

Eva: Com certeza. Sim.

Drew: Quando se trata de projetar produtos e serviços, sinto como um homem branco e hétero que fala inglês que tenho um enorme ponto cego devido à posição privilegiada que a sociedade me oferece, e me sinto muito ingênuo e estou ciente de que poderia levar a escolhas de design problemáticas nas coisas que estou fazendo. Existem passos que podemos tomar e um processo que podemos seguir para ter certeza de que estamos expondo esses pontos cegos e fazendo o nosso melhor para sair de nosso próprio campo de experiência e incluir mais cenários?

Eva: Sim, com certeza. Eu tenho tantos pensamentos sobre isso. Acho que tem algumas coisas. Primeiro, somos todos responsáveis ​​por nos educar sobre nossos pontos cegos. Todo mundo tem pontos cegos. Acho que talvez um homem branco cis tenha mais pontos cegos do que outros grupos, mas não é como se houvesse algum grupo que não terá pontos cegos. Todos os têm. Acho que nos educarmos sobre as diferentes maneiras pelas quais nossa tecnologia pode ser mal utilizada. Acho que é mais do que... Obviamente, a segurança interpessoal é o meu trabalho. Mas há todas essas outras coisas também, que também estou constantemente tentando aprender e descobrir como posso garantir que a tecnologia em que estou trabalhando não perpetue essas coisas diferentes.

Eva: Eu gosto muito do Design For Real Life de Sara Wachter-Boettcher e Eric Meyer é ótimo para design inclusivo e design compassivo. Mas também tenho aprendido sobre algoritmos e racismo e sexismo e diferentes problemas com algoritmos. Há tantas coisas diferentes que precisamos considerar, e acho que todos somos responsáveis ​​por aprender sobre essas coisas. Também acho que trazer a experiência vivida de pessoas que passaram por essas coisas depois de identificar, ok, o racismo será um problema com este produto, e precisamos ter certeza de que estamos lidando com isso e tentando evitar isso e definitivamente dando maneiras para as pessoas denunciar racismo ou o que você tem.

Eva: Uma das coisas, o exemplo que dou no meu livro é que o Airbnb tem muitos problemas com racismo e anfitriões racistas. Até mesmo o estudo sobre se você tem... Se sua foto for de uma pessoa negra, você será negado. Seu pedido de reserva de estadia será negado com mais frequência do que se você tiver uma pessoa branca em sua foto. Eu acho que sou uma pessoa branca, isso é algo que eu não acho que poderia simplesmente ir e aprender e depois falar como uma autoridade sobre o assunto. Acho que, nesse caso, você precisa trazer alguém com essa experiência de vida que possa informá-lo, então contratar um consultor de designer negro porque obviamente sabemos que não há grande diversidade na tecnologia.

Eva: Idealmente, você já teria pessoas em sua equipe que poderiam falar sobre isso, mas eu acho... Mas aí é tão complicado. É aí que entra a questão: exigimos esse tipo de trabalho de nossos companheiros de equipe? Isso pode ser problemático também. A pessoa negra em sua equipe provavelmente já enfrentará muitas coisas diferentes e, em seguida, as pessoas brancas ficarão tipo: “Ei, fale comigo sobre experiências traumáticas que você teve por causa de sua raça”. Provavelmente não deveríamos colocar esse tipo de fardo nas pessoas, a menos que…

Eva: Muitas pessoas vão trazer isso à tona de bom grado e falar sobre isso, e eu vou falar sobre coisas, minha experiência como mulher, mas talvez não seja algo que eu queira fazer todos os dias. Nesse caso, contratar pessoas que fazem isso por trabalho e, em seguida, sempre pagar as pessoas por suas experiências vividas e torná-lo não explorador em termos de realmente compensar as pessoas por esse conhecimento e essa experiência vivida.

Drew: Sim. Acho que isso realmente ressalta o quão incrivelmente importante e benéfico é ter equipes diversas trabalhando em produtos, trazendo todos os tipos de experiências diferentes.

Eva: Sim, com certeza.

Drew: Uma das coisas que você aborda em seu livro no processo de design é a criação de arquétipos de abusador e sobrevivente para ajudá-lo a testar seus recursos. Você poderia nos contar um pouco sobre essa ideia?

Eva: Sim. Isso surgiu do desejo de ter uma espécie de artefato de persona que ajudasse as pessoas a entender muito claramente qual é o problema. Isso é algo que vem depois que a equipe fez uma pesquisa sobre o problema e identificou os diferentes problemas prováveis ​​​​quando se trata de segurança interpessoal e pode articular muito claramente quais são. Então você faz o arquétipo do abusador, que é a pessoa que está tentando usar seu produto para qualquer que seja o dano, e então o arquétipo do sobrevivente, que será a vítima desse dano. O importante sobre isso é ter os objetivos. É mais ou menos como você encontra uma foto, ou você nem precisa de uma foto, mas apenas articula o que é o abuso e, em seguida, os objetivos da pessoa.

Eva: Se é alguém que quer descobrir onde sua ex-namorada mora agora porque quer persegui-la, seu objetivo é persegui-la. Então o objetivo do sobrevivente... Bem, desculpe, o objetivo do agressor seria usar seu produto. Digamos que o Strava, por exemplo, é um dos que uso como exemplo no livro. Quero usar o Strava para rastrear minha ex-namorada e, em seguida, o arquétipo do sobrevivente está dizendo: “Quero manter minha localização em segredo do meu ex que está tentando me perseguir”. Em seguida, você pode usar esses objetivos para ajudar a informar parte de seu design e testar seu produto para ver se há algo sobre os dados de localização do sobrevivente que está disponível publicamente para alguém que está tentando encontrar sua localização, mesmo que tenha ativado toda a sua privacidade recursos?

Eva: Eu uso o Strava como exemplo porque até alguns meses atrás, havia essa habilidade. Havia algo que, mesmo se você tivesse colocado tudo em privado, se estivesse correndo ou se exercitando perto de outra pessoa usando o aplicativo por um determinado período de tempo, não está claro o quão perto você precisa estar ou quanto tempo precisa estar executando o mesmo street como essa outra pessoa, ele a marcará como tendo aparecido em seu treino. Esse seria um exemplo em que o agressor conseguiu atingir seus objetivos, ele conseguiu encontrar seu ex dessa maneira. Então você saberia, tudo bem, precisamos trabalhar contra isso e impedir que esse objetivo seja bem-sucedido.

Drew: Especialmente, você não pode pensar em todos os cenários. Você não pode imaginar o que um agressor tentaria fazer em todas as circunstâncias. But by covering some key apparent problems that could crop up, then I guess you're closing lots of doors for other lines of abuse that you haven't thought of.

Eva: Yes. Yeah, exactly. That brings up a really good other related point, which is that, yeah, you're probably not going to think of everything. Then having ways for users to report issues and then being the type of team and company that can take those criticisms or issues that users identify with some grace and quickly course correcting because there's always going to be things you don't think about and users are going to cover all sorts of things. I feel like this always happens. Being able to have a way to get that feedback and then to quickly course correct is also a really big part of the whole process of designing for safety.

Drew: Is there a process that would help you come up with these potential problems? Say you're designing a product that uses location data, what process would you go through to think of the different ways it could be abused? Is there anything that helps in that regard?

Eva: Yeah. This is something I get more in depth about in the book, but having some research around it first is the first thing. With location services is a pretty easy one, so to speak. There's so many documented issues with location services. There's also been academic studies done on this stuff, there's lots of literature out there that could help inform the issues that you're going to face. Then the other thing that I suggest that teams do is after doing this research is doing a brainstorm for novel of use cases that have not been covered elsewhere.

Eva: The way I usually do this is I have the team do a Black Mirror brainstorm. Let's make a Black Mirror episode. What's the worst, most ridiculous, just anything goes, worst case scenario for this product or feature that we're talking about? People usually come up with some really wild stuff and it's actually usually really fun. Then you say, “Okay, let's dial it back. Let's use this as inspiration for some more realistic issues that we might come across,” and then people are usually able to identify all sorts of things that their product might enable.

Drew: For people listening who feel like they would really love to champion this area of work within their organization, do you have any advice as to how they could go about doing that?

Eva: Yeah. There is a lot of stuff about this in the book, about integrating this into your practice and bringing it to your company. Advice for things like talking to a reluctant stakeholder whose only concern is, well, how much is this going to cost me? How much extra time is this going to take? Being able to give really explicit answers about things like that is really useful. Also, I have recordings of my conference talk which people usually say, “I had just had no idea that this was a thing.” You can help educate your team or your company.

Eva: I talked about this in the book too, honestly, it can be awkward and weird to bring this stuff up and just being mentally prepared for how it's going to feel to be like, “We should talk about domestic violence,” or, “We should talk about invasive child surveillance.” It can be really hard and just weird. One of the pieces of advice I give is for people to talk to a supportive coworker ahead of time, who can back them up if you're going to bring this up in a meeting and just help reduce the weirdness, and there are some other tactics in the book. But those are definitely the big ones.

Drew: I would normally ask at this point where our listeners should go to find out more about the topic. But I know that the answer is actually to go and read your book. We've only really just scratched the surface on what's covered in Design For Safety, which is out now, this August 2021 from A Book Apart. The book, for me, it's sometimes an uneasy read in terms of content, but it's superbly written and it really opened my eyes to a very important topic. One thing I really like about all the A Book Apart books is they're small and focused and they're easy to consume. I would really recommend that listeners check out the book if the topic is interesting to them.

Eva: Yeah, thanks for that. Theinclusivesafetyproject.com is the website I have to house all of this information. There's a lot of great resources in the back of the book for people who want to learn more. But if you just want something and more immediately, you can go to Theinclusivesafetyproject.com and there's a resources page there that has different sort of articles or studies to look at different people working in related spaces to follow on Twitter, books to read, things like that.

Drew: Certo. I've been learning what it means to design for safety. What have you been learning about, Eva?

Eva: I have been learning about data. I'm reading a really interesting book called Living in Data by Jer Thorp, which I thought it was going to be all about different issues with big data, which is such a big thing but it's actually an extremely thoughtful, much more interesting approach to what it means to live in data and just how much data is taken from us every day and what's done with it and just data out there in the world. It's really interesting and important, and yeah, I would definitely recommend that book.

Drew: No, amazing. If you the listener would like to hear more from Eva, you can follow her on Twitter where she's @epenzeymoog, and you can find all her work linked from her website at evapenzeymoog.com. Design For Safety is published abookapart.com and is available now. Thanks for joining us today, Eva. Você tem alguma palavra de despedida?

Eva: Please get vaccinated so that we can go back to normal.