Design Ético: O Guia Prático de Introdução

Até agora, a maioria das pessoas que trabalham em tecnologia conhece e sente as profundas preocupações relacionadas ao capitalismo de vigilância promovido e sustentado pelos gigantes da tecnologia. Entendemos que a raiz do problema está no modelo de negócios de capitalização e monetização dos dados do usuário. Histórias de como as pessoas estão sendo exploradas surgem diariamente, como a história recente sobre como o Instagram retém notificações semelhantes para determinados usuários, com o objetivo de aumentar a taxa de abertura do aplicativo. Na mesma história, The Globe and Mail descrevem como ex-funcionários de alto nível do Facebook estão ganhando consciência e contam histórias horríveis sobre como os recursos estão sendo meticulosamente construídos para explorar o comportamento humano e nos tornar viciados em mídia social.

Como designers e desenvolvedores, temos a obrigação de construir experiências melhores que isso. Este artigo explica como o design antiético acontece e como fazer design ético por meio de um conjunto de práticas recomendadas. Também ajuda você a entender como plantar a semente para mudar o significado dentro da empresa em que trabalha e na comunidade de design, mesmo que você não faça parte da camada de gerenciamento. A mudança começa com um movimento!

Design Ético

Vamos começar com a terminologia central: de acordo com Merriam Webster, a ética é “a disciplina que lida com o que é bom e ruim e com o dever e a obrigação moral”. Para os fins deste artigo, a ética será definida como um sistema de princípios morais que define o que é percebido como bom e mau. O design ético é, portanto, o design feito com a intenção de fazer o bem, e o design antiético é sua contraparte de chapéu preto.

A Ind.ie é uma empresa social que luta pela justiça na era digital. É fundada por Aral Balkan e Laura Kalbag, que definiram uma “Hierarquia Ética de Necessidades” que descrevem muito bem o núcleo do design ético.

Como acontece com qualquer estrutura em forma de pirâmide, as camadas da Hierarquia Ética das Necessidades repousam na camada abaixo dela. Se alguma camada for quebrada, as camadas sobre ela entrarão em colapso. Se um design não apoia os direitos humanos, é antiético. Se apoia os direitos humanos, mas não respeita o esforço humano por ser funcional, conveniente e confiável (e utilizável!), então é antiético . Se ele respeita o esforço humano, mas não respeita a experiência humana, proporcionando uma vida melhor para as pessoas que o utilizam, então ainda é antiético .

Do ponto de vista prático, isso significa que produtos e serviços que exploram dados de usuários, usam padrões obscuros e geralmente visam apenas ganhar dinheiro, desconsiderando seu propósito humano, são antiéticos. Vejamos como o design antiético se manifesta em modelos de negócios e decisões de design.

Design antiético: o chapéu preto do negócio

Capitalismo de Vigilância

O design orientado a dados pode ser usado para fazer o bem. Mas, na maioria das vezes, é usado com intenção monetária, também conhecido como capitalismo de vigilância.

Como diz Aral Balkan, designer ético e fundador do ind.ie:

“Quando uma empresa como o Facebook melhora a experiência de seus produtos, é como as massagens que damos ao Kobe beef: não são para o benefício da vaca, mas para torná-la um produto melhor. Nesta analogia, você é a vaca.”

O capitalismo de vigilância é antiético por natureza porque, em sua essência, aproveita dados ricos para traçar o perfil das pessoas e entender seu comportamento com o único objetivo de ganhar dinheiro. O pensamento mais assustador de todos é como os dados estão sendo usados ​​não apenas para prever e manipular o comportamento atual, mas como eles são usados ​​para traçar o perfil do nosso futuro por meio do aprendizado de máquina, dando às empresas o poder de impactar nossas decisões futuras e padrões comportamentais.

Como Cracked Labs, instituto de pesquisa independente e laboratório criativo, afirma em seu relatório sobre Data Against People:

“Sistemas que tomam decisões sobre pessoas com base em seus dados produzem efeitos adversos substanciais que podem limitar massivamente suas escolhas, oportunidades e chances de vida”.

Isso acontece diariamente para todos que usam o Facebook, onde o feed individualizado é cuidadosamente filtrado para mostrar as postagens com maior probabilidade de desencadear engajamento e atividade. Os preços também estão se tornando cada vez mais individualizados porque as empresas podem usar dados avançados para avaliar o valor de longo prazo dos clientes, também conhecido como persuasão orientada por dados.

Comércio de dados e rastreamento de dados é um grande negócio. De acordo com o relatório “Vigilância Corporativa na Vida Cotidiana”, a Oracle fornece acesso a 5 bilhões (sim, bilhões!) de IDs de usuários únicos (isso é confirmado no site da Oracle). A palavra “medo” não cobre o estado emocional em que todos deveríamos estar por causa desse fato.

Pode-se imaginar como as empresas poderão utilizar dados para traçar o perfil de quais de nós são mais propensos a desenvolver problemas de saúde mental ou físicos, colocando-nos na pilha de pedidos de “não obrigado” para nossos futuros empregos. Com isso em mente, temo pelo futuro dos meus filhos.

Para alguns, o acima pode soar como algo saído de um filme de ficção científica, mas não é exagero. Empresas antiéticas são expostas diariamente, desde o aplicativo VPN que alegava proteger os dados de seus 24 milhões de usuários, mas os vendeu para o Facebook ao software chamado Alphonso (que, segundo artigo do The New York Times, é usado em mais de 250 aplicativos de jogos — alguns dos quais são projetados para crianças) para monitorar quais anúncios de TV as pessoas assistem — mesmo que o aplicativo não esteja em uso ativo. A lista de empresas que coletam e usam dados com propósitos profundamente antiéticos não tem fim.

Design de Chapéu Preto

No entanto, o rastreamento de dados não é a única maneira pela qual o design antiético funciona. Padrões escuros também se enquadram no design antiético, pois são padrões de design de chapéu preto projetados especificamente para nos enganar e fazer algo que não necessariamente queremos fazer.

Pode não ser considerado antiético quando uma empresa faz uso do padrão escuro chamado Roach Motel para tornar quase impossível excluir sua conta (olhando para você, Skype). Mas olhando para a motivação do lado comercial das coisas, não é difícil ver a natureza antiética do design (não vamos esquecer a empresa chinesa de calçados que enganou as pessoas adicionando uma mecha de cabelo falsa em seu anúncio do Instagram).

Harry Brignull, um dos criadores e forças motrizes por trás dos Padrões das Trevas, afirma que os padrões das trevas funcionam porque tiram proveito das fraquezas do cérebro humano e da maneira como somos conectados. Isso conta como antiético no meu livro, e temos uma obrigação moral com as pessoas que projetam esses produtos de fazer melhor .

As empresas que alimentam o consumismo e manipulam as pessoas para comprar mais coisas são antiéticas por design. É uma prática comum no e-commerce, e tira proveito de um fenômeno chamado “aversão à perda”. A Hotels.com é particularmente agressiva, enviando várias notificações em segundos sobre quantas pessoas reservaram e estão olhando para o mesmo quarto que você.

O Regulamento Geral de Proteção de Dados

A efetivação do Regulamento Geral de Proteção de Dados (GDPR) no final de maio de 2018 será uma ferramenta eficiente na luta contra empresas que são antiéticas por design.

O GDPR é um regulamento extenso que, entre os destaques, inclui:

• A exigência de qualquer organização que colete dados para fazê-lo de maneira segura por design;
• Multas pesadas por violações de dados;
• Os dados só devem ser coletados após consentimento explícito, e a linguagem usada para explicar por que os dados são coletados deve ser clara e simples. Além disso, o consentimento deve ser retirado a qualquer momento e deve ser tão fácil de fazer quanto estava dando (o que, aliás, inclui Sign up → Delete profile );
• “O direito de ser esquecido”, o que significa que as pessoas têm o direito de ter seus dados excluídos;
• O direito de as pessoas terem acesso aos seus dados pessoais em qualquer organização, juntamente com informações sobre como esses dados são processados;
• Portabilidade de dados, o que significa que as pessoas têm o direito de obter seus dados em uma empresa e transferi-los para outra empresa;
• Multas pesadas por não conformidade com GDPR.

Ao todo, 25 de maio de 2018 é um dia muito bom para as pessoas e um sinal de um futuro muito diferente para todas as organizações projetadas de forma antiética por aí.

Mas não vamos nos enganar e pensar que a mudança acontecerá da noite para o dia ou em todas as organizações em um piscar de olhos. Uma mudança mais profunda é necessária para que isso aconteça ao longo do tempo.

A mudança acontece através da mudança de significado

O GDPR provavelmente não resolverá todos os nossos problemas. Acreditar nisso seria ingênuo. É por isso que continuará a depender das pessoas dentro das paredes da empresa fazer a diferença. A boa notícia é que fazer uma mudança é possível mesmo que você não faça parte da equipe de gerenciamento que decide sobre o modelo de negócios.

Esse tipo de mudança em direção a uma abordagem de design mais ética não acontece da noite para o dia. Em vez disso, é possível fazer mudanças de forma incremental e promover mudanças organizacionais de longo prazo por meio do que Don Norman e Roberto Verganti chamam de Inovação Orientada ao Significado (leia mais em seu artigo sobre “Inovação Incremental e Radical”).

A inovação orientada para o significado é o resultado de as pessoas começarem a articular novos pensamentos que criam novas dinâmicas, o que acaba levando a significados radicalmente novos.

Don Norman e Roberto Verganti dizem que a inovação radical só acontece quando ocorre uma das seguintes coisas:

1. Uma nova tecnologia de habilitação está disponível de forma confiável e econômica (levou 20 anos para que as interfaces de toque saíssem dos laboratórios e entrassem no mercado de telefones e tablets);
2. Quando o significado de algo muda na sociedade – também conhecido como inovação orientada para o significado.

Eu acho que a crescente conscientização, foco e preocupação com nossa privacidade em relação aos negócios orientados por dados, em um futuro não tão distinto, desencadeará inovações radicais e mudanças na sociedade. Ironicamente, as empresas que fundaram o capitalismo de vigilância também provocaram uma mudança na forma como percebemos nosso direito à privacidade, e já estamos começando a ver empresas e organizações inovando e promovendo soluções orientadas para a privacidade.

O significado das empresas que nos rastreiam e nos vigiam já está mudando. Costumávamos não pensar muito e talvez até achasse conveniente quando os anúncios veiculados no Facebook eram baseados em nosso histórico de navegação. Mas com a escalada do capitalismo de vigilância, argumentarei que estamos passando por uma mudança de significado à medida que uma massa crescente de pessoas acha não apenas desconfortável, mas diretamente inaceitável ser espionada em nome de uma empresa.

O DuckDuckGo, um mecanismo de pesquisa que não rastreia, teve uma média de 16 milhões de consultas de pesquisa por dia em 2017, um sinal de que a privacidade é uma preocupação crescente entre as pessoas ao usar a web. Além disso, estamos vendo aplicativos dedicados à privacidade chegando a mercados, como o Signal, um aplicativo de telefone e mensageiro seguro projetado para proteger a privacidade. Além disso, é altamente provável que o GDPR provoque mais mudanças significativas relacionadas à privacidade.

Transição para uma abordagem de design centrada no ser humano

Human-Centered Design (HCD) é uma filosofia desenvolvida por Don Norman (entre outros). De acordo com a User Experience Professionals Association (UXPA), o HCD é definido pelo “envolvimento ativo dos usuários e uma compreensão clara dos requisitos do usuário e da tarefa”.

Don Norman e Roberto Verganti concluem em seu estudo substancial que o HCD é adequado apenas para inovação incremental – melhorias passo a passo – porque novas ideias não são descobertas enquanto se observa constantemente o estado das coisas existente, como é feito por meio de pesquisa de usuários.

Embora isso pareça razoável, acredito que o HCD pode provar ser a compensação para a inovação orientada para o significado, levando a uma ampla mudança de significado sobre o que as pessoas aceitarão e não aceitarão de organizações antiéticas. A razão pela qual acredito nisso é que o HCD promove um senso de empatia mais profundo do que qualquer outro método de design de experiência.

O Human-Centered Design é uma estrutura, bem como uma mentalidade. Em sua essência, trabalhar “centrado no ser humano” significa envolver as pessoas que você atende no início e continuamente no processo, ou seja, usar pesquisas para estabelecer as necessidades dessas pessoas, entender quais problemas elas têm e como seu produto pode ajudar a resolver esses problemas.

Faz parte da esfera natural dos designers de experiência trabalhar centrado no ser humano, mas o que você faz se seu trabalho é em design e desenvolvimento, e você está constantemente ocupado por revisões de sprint e tarefas diárias?

Enquanto trabalhava com uma equipe de desenvolvimento remoto, aprendi que os desenvolvedores não tinham nenhum contato com as pessoas que usavam o produto. Isso muitas vezes levou a discussões acaloradas, onde declarações como “eu acho …”, “de uma perspectiva técnica …” e “eu sinto …” foram os principais argumentos.

O maior problema em basear as decisões no que você pensa e sente, ou o que é mais fácil do ponto de vista técnico, é que isso não envolve as pessoas que você está servindo. As pessoas para quem seu produto ou serviço é colocado no mundo para resolver problemas. É aí que entra o HCD.

Os designers e pesquisadores de UX geralmente realizam pesquisas, documentam os insights e os apresentam em um estado refinado para a equipe de design e produto na forma de personas, descrições de necessidades do usuário, fluxos de usuários, jornadas e assim por diante. E isso é tudo muito bem. O problema, no entanto, é que a distância entre a organização e as pessoas que você atende permanece grande, porque ninguém, exceto os designers de UX, conversou com eles ou os viu usar o produto. Então eles continuam voltando para “Eu sinto…”, “Eu acho…” e “De uma perspectiva técnica…”

Para ajudar a estabelecer empatia com as pessoas que você atende, há algumas coisas muito impactantes que designers e desenvolvedores – e o resto da organização – podem fazer (e podem pedir à equipe de UX).

1. Envolva todos os membros da equipe na exibição de vídeos das sessões de teste do usuário.
   Na verdade, passar pelas dores e prazeres das pessoas que usam seus produtos (ou protótipos, dependendo do que você está testando) vale cada segundo. Não é demais enfatizar o quão importante é observar outras pessoas interagirem e comentarem sobre as coisas que você está construindo (e não, sua equipe não conta como “pessoas” aqui!).
   
   Se isso não faz parte da rotina da sua empresa, peça para que seja incluído. Certamente, a grande maioria dos designers de UX não ficaria entusiasmada em organizar e facilitar essas sessões. Você está garantido para passar por dor, agonia, frustração, felicidade e obter vários abridores de olhos, e tudo isso servirá como um trampolim para o crescimento de uma mentalidade centrada no ser humano.

2. Peça retratos reais e vivos das pessoas a quem você serve.
   Isso inclui fotos e vídeos de estudos contextuais, histórias de sua vida cotidiana e histórias sobre eles. Ter uma noção mais profunda das pessoas do outro lado do produto que você desenvolve cria empatia instantânea e torna muito mais difícil projetar coisas que conscientemente são ruins para elas.

3. Insista em testes contínuos.
   Não se pode enfatizar o suficiente o quão crucial é o teste no HCD. Isso inclui testes iniciais de prova de conceito, testes de protótipo e testes de usabilidade. Um bônus adicional do envolvimento precoce e contínuo das pessoas que devem usar o produto é que ele economiza dinheiro a longo prazo. Quanto mais cedo você perceber uma chamada ruim ou um erro, mais barato será a correção.
   
   Muito foi dito sobre o alarme nuclear que foi acionado por engano no Havaí em 13 de janeiro. No entanto, é bastante seguro dizer que testes iniciais e contínuos teriam ajudado a evitá-lo.

4. Sempre pergunte “por quê?”
   Para iniciar uma mudança de significado em uma organização ou comunidade, o primeiro passo importante é começar a perguntar “por quê”. Pergunte por que algo está sendo feito de forma antiética; pergunte por que lhe disseram para fazer um recurso de chapéu preto; questionar o estado atual das coisas.
   
   Pergunte em que bases as decisões de projeto estão sendo tomadas. Se for por causa do que o CEO ou outra pessoa pensa, e não tiver raízes nos insights das pessoas que você está atendendo, peça essa validação. A mudança de significado cresce através de pequenos passos.

Práticas recomendadas de design ético

Além de estabelecer uma tradição de design centrado no ser humano na organização, também é importante fazer uso das melhores práticas de design ético. As pessoas que fazem isso fazem parte da liderança e mostram ao resto da organização como as coisas podem ser feitas de uma maneira mais ética, o que contribuirá para a mudança incremental de significado. Assim como os padrões escuros se enquadram no design antiético, temos padrões de design White Hat que podem ser utilizados para garantir um design ético, alguns dos quais você pode aprender a seguir.

Use dados para melhorar a experiência humana

Apesar de inúmeras empresas usarem dados para fins antiéticos, como aumentar o consumo e o tráfego, os dados podem, de fato, ser usados ​​para melhorar a experiência humana.

Este é o caso do fórum ind.ie, onde a criação de uma conta é sugerida como uma forma de personalizar sua experiência, lembrando o que você leu.

Em um projeto atual no qual estou envolvido na criação de um aplicativo para que os alunos acessem mais facilmente seu Sistema de Gestão de Aprendizagem, estamos classificando os cursos individuais do aluno por “última visita”; sabemos por meio de pesquisas que os alunos frequentemente revisitam um pequeno número de páginas relacionadas aos cursos em que estão matriculados no momento. Essa personalização não foi projetada para mudar o comportamento ou incentivá-los a usar partes do aplicativo que não pretendiam. Em vez disso, ele foi projetado para tornar sua experiência mais rápida e eficiente.

Outro exemplo positivo é a farmácia americana Walgreens, que envia lembretes quando é hora de reabastecer coisas como vitaminas. Este é um recurso extremamente útil que resolve um problema que muitos de nós temos.

Os dados podem ajudar a informar iniciativas de pesquisa para entender como você não está lidando com os problemas que as pessoas têm ao interagir com seu produto.

O Skyscanner, um mecanismo de busca de viagens, notou por meio de seus dados que seu design recém-lançado não caiu bem para as pessoas que usaram seu serviço para voar de Amsterdã. Esses dados ajudaram a informar uma iniciativa de pesquisa que acabou levando a uma solução personalizada para pessoas que voam de e para Amsterdã que quebrou as barreiras que o novo projeto havia construído inicialmente (aqui está a história de fundo).

Publicidade sem rastreamento

A publicidade não é necessariamente antiética. A publicidade baseada em dados granulares é. É descuidado (se não estúpido) confiar em uma única plataforma para a maioria dos esforços de marketing de uma marca, especialmente considerando que essa plataforma possui e controla os dados que a marca usa como base para sua segmentação de anúncios.

Facebook, Instagram e Google se preocupam tão pouco com seus anunciantes quanto com as pessoas que eles veem como “usuários”, ou seja, eles podem fazer qualquer mudança que quiserem, desconsiderando quaisquer consequências que isso possa ter para pessoas ou empresas usando seus plataforma. Por exemplo, houve uma época em que eles começaram a bloquear contas falsas em massa, o que prejudicou várias empresas cujos administradores de mídia social configuraram contas falsas para administrar páginas comerciais porque (compreensivelmente) não queriam usar suas contas privadas para esse fim . Este é um procedimento padrão do Facebook que permite apenas um perfil por pessoa (provavelmente porque permitir vários contaminaria o rastreamento de seus dados).

A plataforma é sempre o elo mais fraco de uma estratégia de marketing, pois é um terceiro fora do controle das empresas. Pensando nos anos 90, quando eu trabalhava em marketing em um jornal regional, o rastreamento granular de dados não era uma opção. Quando uma loja colocava um anúncio no jornal sobre um evento, eles simplesmente monitoravam quantas pessoas apareceram e comparavam isso com suas expectativas para determinar a taxa de sucesso.

Embora “os bons velhos tempos” certamente não fossem bons em todos os aspectos, a ideia de não basear a publicidade no rastreamento granular de dados do usuário é uma ideia atraente. O blog de John Gruber, Daring Fireball é um exemplo de site que não permite rastreamento de anúncios. Em vez disso, John Gruber incentiva os anunciantes a adicionar um link personalizado aos seus anúncios, permitindo que eles monitorem a taxa de cliques deles.

Como John Gruber afirma com razão:

“Se você paga (digamos) ao Facebook por um anúncio, por que diabos você, o anunciante, confiaria nos números do Facebook sobre o desempenho do anúncio?”

- Fonte

Outro grande exemplo que vale a pena destacar é o Goodwings, um site de reservas de hotéis que doa metade de sua comissão para caridade. Eles podem fazê-lo devido a uma estreita colaboração com um grande número de ONGs, o que significa que gastam muito pouco em marketing tradicional.

E se você acha que o Google Analytics é sua única opção para coletar dados significativos, pense novamente: Matamo é uma ferramenta de código aberto que é instalada diretamente em seu próprio servidor. Garante que os dados não sejam compartilhados com agências de publicidade como o Google.

Sempre, sempre priorize a usabilidade

O capitalismo de vigilância e o rastreamento de dados são muito falados sobre problemas relacionados ao design ético nos dias de hoje. Mas não devemos esquecer a importância do cumprimento das melhores práticas de usabilidade. Sem ele, o design é antiético, pois a falta de usabilidade quase sempre acarreta o uso de padrões escuros. Um bom lugar para ler mais sobre usabilidade básica é o Nielsen Norman Group.

Nos primeiros dias, Jakob Nielsen definiu 5 componentes principais de usabilidade:

• Aprendizagem,
• Eficiência,
• Memorabilidade
• Erros, e
• Satisfação.

Para garantir um produto utilizável, é crucial que esses cinco componentes estejam na frente e no centro do processo de design e desenvolvimento.

Não peça mais do que você precisa

Tal como acontece com muitos outros aspectos da vida, pedir mais do que você precisa resulta em exploração. É comum que os sites de comércio eletrônico peçam toneladas de informações quando as pessoas se inscrevem em uma conta ou compram um produto. Mas se alguém está comprando um produto digital (como um livro), realmente não há necessidade de pedir nada além do endereço de e-mail.

O sinal é um ótimo exemplo. Privado em sua essência, ele não pede nada além das informações absolutamente necessárias para que as pessoas comecem a usar o aplicativo imediatamente.

Seja transparente

O Norwegian.com talvez tenha um dos melhores sistemas de reserva de passagens aéreas do mundo. Não só é conveniente de usar, mas também oferece total transparência em relação às taxas de serviço opcionais, algo que muitas vezes fica escondido. Qualquer pessoa que mora fora de um país de armazenamento da Amazon sabe como é difícil encontrar o preço real de entrega de sua localização.

Conclusão

O movimento em direção a um futuro mais ético começou. A mudança não acontece radicalmente a curto prazo, a menos que seja incorporada ao núcleo do modelo de negócios. Mas isso não significa que não podemos mudar o estado atual para melhor. Podemos fazer isso por meio de mudanças incrementais; um passo de cada vez. Trabalhando centrado no ser humano, perguntando por que e usando as melhores práticas de design ético. Essa é a nossa obrigação como aqueles que constroem produtos tão profundamente enraizados na vida das pessoas. O que fazemos muda e molda vidas para melhor ou para pior. Eu escolho melhor.

Saber mais

Há muitos recursos valiosos disponíveis para qualquer pessoa interessada em design ético. Aqui estão alguns para você começar:

• O kit de design centrado no ser humano da IDEO é extremamente útil para entender o HCD e oferece uma ampla gama de métodos sobre como trabalhar centrado no ser humano.
• Simply Secure é uma organização que apoia e educa profissionais em processos de design ético. Eles oferecem uma base de conhecimento completa para pessoas interessadas em construir tecnologia confiável
• White Hat UX — The Next Generation in User Experience é um livro que oferece muitos conselhos práticos sobre como criar experiências transparentes, honestas e éticas. Escrito por Trine Falbe, Martin Frederiksen e Kim Andersen.
• O Cracked Labs é um instituto de pesquisa independente e um laboratório criativo com sede em Viena, Áustria. Investiga os impactos socioculturais da tecnologia da informação e desenvolve inovações sociais no campo da cultura digital. Eles oferecem relatórios detalhados sobre a maioria das coisas relacionadas à privacidade.