Этический дизайн: практическое руководство по началу работы

К настоящему времени большинство людей, работающих в сфере технологий, знают и чувствуют глубокую обеспокоенность, связанную с капитализмом слежки, поощряемым и поддерживаемыми технологическими гигантами. Мы понимаем, что корень проблемы лежит в бизнес-модели капитализации и монетизации пользовательских данных. Истории о том, как людей эксплуатируют, всплывают ежедневно, например, недавняя история о том, как Instagram удерживает уведомления о лайках для определенных пользователей с целью увеличения скорости, с которой они открывают приложение. В той же статье The Globe and Mail описывают, как у бывших высокопоставленных сотрудников Facebook взращивается совесть, и рассказывают ужасающие истории о том, как скрупулезно создаются функции, которые эксплуатируют человеческое поведение и делают нас зависимыми от социальных сетей.

Как дизайнеры и разработчики, мы обязаны создавать лучший опыт. В этой статье объясняется, как возникает неэтичный дизайн, и как сделать этичный дизайн с помощью набора лучших практик. Это также поможет вам понять, как вы можете посеять семя, чтобы изменить значение внутри компании, в которой вы работаете, и в сообществе дизайнеров, даже если вы не являетесь частью уровня управления. Изменения начинаются с движения!

Этический дизайн

Давайте начнем с основной терминологии: согласно Мерриам Вебстер, этика — это «дисциплина, имеющая дело с тем, что хорошо и что плохо, а также с моральным долгом и обязательством». Для целей этой статьи этика будет определена как система моральных принципов, определяющая, что воспринимается как добро и зло. Таким образом, этичный дизайн — это дизайн, созданный с намерением делать добро, а неэтичный дизайн — его черный аналог.

Ind.ie — это социальное предприятие, стремящееся к справедливости в эпоху цифровых технологий. Он основан Аралом Балканом и Лаурой Калбаг, которые определили «Этическую иерархию потребностей», которая очень хорошо описывает суть этического дизайна.

Как и в случае любой пирамидальной структуры, уровни этической иерархии потребностей опираются на нижний уровень. Если какой-либо слой сломается, слои, лежащие поверх него, рухнут. Если дизайн не поддерживает права человека, он неэтичен. Если он поддерживает права человека, но не уважает человеческие усилия, будучи функциональным, удобным и надежным (и пригодным для использования!), тогда он неэтичен . Если он уважает человеческие усилия, но не уважает человеческий опыт, улучшая жизнь людей, использующих его, то он все равно неэтичен .

С практической точки зрения это означает, что продукты и услуги, которые используют пользовательские данные, используют темные шаблоны и, как правило, предназначены только для зарабатывания денег, игнорируя их человеческую цель, являются неэтичными. Давайте посмотрим, как неэтичный дизайн проявляется в бизнес-моделях и дизайнерских решениях.

Неэтичный дизайн: черная шляпа бизнеса

Капитализм наблюдения

Дизайн, управляемый данными, можно использовать во благо. Но чаще всего он используется с денежными намерениями, также известными как капитализм наблюдения.

Как говорит Арал Балкан, этичный дизайнер и основатель ind.ie:

«Когда такая компания, как Facebook, улучшает опыт своих продуктов, это похоже на массаж, который мы делаем говядине Кобе: они не для пользы коровы, а для того, чтобы корова стала лучшим продуктом. В этой аналогии вы — корова».

Капитализм наблюдения неэтичен по своей природе, потому что по своей сути он использует обширные данные для профилирования людей и понимания их поведения с единственной целью - заработать деньги. Самая пугающая мысль из всех — это то, как данные используются не только для прогнозирования и управления текущим поведением, но и для профилирования нашего будущего «я» с помощью машинного обучения, что в конечном итоге дает компаниям возможность влиять на наши будущие решения и модели поведения.

Как Cracked Labs, независимый исследовательский институт и творческая лаборатория, заявляет в своем отчете о данных против людей:

«Системы, которые принимают решения о людях на основе их данных, производят существенные неблагоприятные последствия, которые могут значительно ограничить их выбор, возможности и жизненные шансы».

Это происходит ежедневно со всеми, кто использует Facebook, где индивидуальная лента тщательно фильтруется, чтобы показать сообщения, которые с наибольшей вероятностью вызовут взаимодействие и активность. Ценообразование также становится все более индивидуализированным, поскольку компании могут использовать обширные данные для оценки долгосрочной ценности клиентов, что также известно как убеждение на основе данных.

Торговля данными и отслеживание данных — это большой бизнес. Согласно отчету «Корпоративное наблюдение в повседневной жизни», Oracle предоставляет доступ к 5 миллиардам (да, миллиардам!) уникальных идентификаторов пользователей (это подтверждается на сайте Oracle). Слово «испуганный» не охватывает эмоциональное состояние, в котором мы все должны находиться из-за этого факта.

Можно только представить, как компании смогут использовать данные для профилирования того, у кого из нас больше шансов развить психическое здоровье или физические проблемы, тем самым помещая нас в кучу заявлений «нет, спасибо» для нашей будущей работы. Имея это в виду, я опасаюсь за будущее своих детей.

Кому-то вышеизложенное может показаться чем-то из фантастического фильма, но это совсем не надумано. Ежедневно разоблачаются неэтичные компании: от приложения VPN, которое утверждало, что защищает данные своих 24 миллионов пользователей, но продало их Facebook, до программного обеспечения под названием Alphonso (которое, согласно статье в The New York Times, используется более чем в 250 игровые приложения (некоторые из которых предназначены для детей) для отслеживания того, какую телевизионную рекламу смотрят люди, даже если приложение не используется активно. Список компаний, которые собирают и используют данные в глубоко неэтичных целях, можно продолжать и продолжать.

Дизайн черной шляпы

Тем не менее, отслеживание данных — не единственный способ проявления неэтичного дизайна. Темные шаблоны также подпадают под неэтичный дизайн, поскольку они представляют собой шаблоны дизайна черной шляпы, специально разработанные для того, чтобы обманом заставить нас делать то, что мы не обязательно хотим делать.

Это не может считаться неэтичным, когда компания использует темный шаблон под названием Roach Motel , чтобы сделать удаление вашей учетной записи почти невозможным (смотря на вас, Skype). Но глядя на мотивацию с точки зрения бизнеса, нетрудно увидеть неэтичный характер дизайна (не будем забывать китайскую обувную компанию, которая обманом заставила людей провести пальцем, добавив поддельную прядь волос в свою рекламу в Instagram).

Гарри Бригнулл, один из создателей и движущих сил Темных Узоров, утверждает, что темные узоры работают, потому что они используют слабости человеческого мозга и то, как мы устроены. В моей книге это считается неэтичным, и у нас есть моральное обязательство перед людьми, разрабатывающими эти продукты, работать лучше .

Компании, которые взращивают потребительство и манипулируют людьми, заставляя их покупать больше вещей, неэтичны по своей сути. Это обычная практика в электронной коммерции, и в ней используется явление, называемое «неприятие потерь». Hotels.com действует особенно агрессивно, отправляя несколько уведомлений в течение нескольких секунд о том, сколько людей забронировали и ищут тот же номер, что и вы.

Общее положение о защите данных

Введение в действие Общего регламента по защите данных (GDPR) в конце мая 2018 года станет эффективным инструментом в борьбе с неэтичными компаниями.

GDPR — это обширный регламент, среди основных моментов которого:

• Требование любой организации, которая собирает данные, делать это безопасным образом по замыслу;
• Крупные штрафы за утечку данных;
• Данные должны собираться только после явного согласия, а язык, используемый для объяснения причин сбора данных, должен быть простым и понятным. Кроме того, согласие должно быть отозвано в любое время и должно быть таким же простым, как и его предоставление (что, кстати, включает в себя « Sign up → « Delete profile »);
• «право на забвение», означающее, что люди имеют право на удаление своих данных;
• Право людей на доступ к своим персональным данным в любой организации, а также информацию о том, как эти данные обрабатываются;
• переносимость данных, означающая, что люди имеют право получать свои данные в одной компании и передавать их в другую компанию;
• Крупные штрафы за несоблюдение GDPR.

В целом, 25 мая 2018 года — довольно хороший день для людей и знак совершенно другого будущего для всех неэтичных организаций.

Но давайте не будем обманывать себя и думать, что изменения произойдут за одну ночь или во всех организациях в мгновение ока. Чтобы это произошло со временем, необходимы более глубокие изменения.

Изменение происходит через изменение смысла

GDPR вряд ли решит все наши проблемы. Верить в это было бы наивно. Вот почему люди в стенах компании по-прежнему должны изменить ситуацию к лучшему. Хорошая новость заключается в том, что внесение изменений возможно, даже если вы не являетесь частью управленческой команды, которая принимает решение о бизнес-модели.

Этот тип изменений в сторону более этичного подхода к дизайну не происходит в одночасье. Скорее можно вносить постепенные изменения и способствовать долгосрочным организационным изменениям с помощью того, что Дон Норман и Роберто Верганти называют инновацией, основанной на значении (подробнее читайте в их статье о «Постепенных и радикальных инновациях»).

Инновации, основанные на значении, являются результатом того, что люди начинают формулировать новые мысли, которые создают новую динамику, что в конечном итоге приводит к радикально новым значениям.

Дон Норман и Роберто Верганти говорят, что радикальные инновации происходят только тогда, когда происходит одно из следующих событий:

1. Новая технология доступна в надежной и экономичной форме (на то, чтобы сенсорные интерфейсы вышли из лабораторий и вышли на рынок телефонов и планшетов, ушло 20 лет);
2. Когда значение чего-либо меняется в обществе, это также называется инновацией, основанной на значении.

Я думаю, что растущая осведомленность, внимание и забота о нашей конфиденциальности в отношении бизнеса, управляемого данными, в не столь отчетливом будущем вызовут радикальные инновации и изменения в обществе. По иронии судьбы, компании, которые основали капитализм наблюдения, также вызвали изменения в том, как мы воспринимаем наше право на неприкосновенность частной жизни, и мы уже начинаем видеть, как компании и организации внедряют инновации и продвигают решения, ориентированные на конфиденциальность.

Значение компаний, которые следят за нами и следят за нами, уже меняется. Раньше мы не особо задумывались и, возможно, даже считали удобным, когда реклама, показываемая на Facebook, основывалась на нашей истории посещений. Но с эскалацией слежки за капитализмом, я утверждаю, что мы проходим через изменение смысла, поскольку все большее количество людей находит не только неудобным, но и прямо неприемлемым шпионить за ними от имени бизнеса.

DuckDuckGo, поисковая система, которая не отслеживает, в 2017 году обрабатывала в среднем 16 миллионов поисковых запросов в день, что является признаком того, что конфиденциальность вызывает все большую озабоченность у людей при использовании Интернета. Кроме того, мы видим, как приложения, посвященные конфиденциальности, выходят на рынки, такие как Signal, защищенный телефон и приложение для обмена сообщениями, предназначенное для защиты конфиденциальности. Кроме того, весьма вероятно, что GDPR вызовет дальнейшие изменения, связанные с конфиденциальностью.

Переход к подходу к дизайну, ориентированному на человека

Дизайн, ориентированный на человека (HCD) — это философия, разработанная Доном Норманом (среди прочих). По данным Ассоциации специалистов по пользовательскому опыту (UXPA), HCD определяется «активным участием пользователей и четким пониманием требований пользователей и задач».

Дон Норман и Роберто Верганти в своем серьезном исследовании пришли к выводу, что HCD подходит только для постепенных инноваций — пошаговых улучшений — потому что новые идеи не обнаруживаются при постоянном просмотре существующего положения вещей, как это делается посредством исследования пользователей.

Хотя это звучит разумно, я считаю, что HCD может оказаться противовесом инновациям, ориентированным на смысл, что в конечном итоге приведет к широкому изменению смысла того, что люди примут и не примут от неэтичных организаций. Причина, по которой я в это верю, заключается в том, что HCD способствует более глубокому чувству эмпатии, чем любой другой метод проектирования опыта.

Дизайн, ориентированный на человека, — это не только образ мышления, но и структура. По своей сути работа, ориентированная на человека, означает вовлечение людей, которых вы обслуживаете, на ранней стадии и постоянно в процессе, то есть использование исследований для определения потребностей этих людей, понимания их проблем и того, как ваш продукт может помочь решить эти проблемы.

Работа, ориентированная на человека, входит в естественную сферу опытных дизайнеров, но что делать, если ваша работа связана с дизайном и разработкой, и вы постоянно заняты обзорами спринтов и ежедневными задачами?

Работая с удаленной командой разработчиков, я узнал, что разработчики не контактируют с людьми, которые использовали продукт. Это часто приводило к бурным дискуссиям, где главными аргументами были такие утверждения, как «Я думаю…», «С технической точки зрения…» и «Я чувствую…».

Самая большая проблема с принятием решений, основанных на том, что вы думаете и чувствуете, или на том, что проще всего с технической точки зрения, заключается в том, что это не касается людей, которым вы служите. Люди, для которых ваш продукт или услуга предназначены для решения проблем. Вот где HCD приходит.

UX-дизайнеры и исследователи обычно проводят исследования, документируют идеи и передают их в усовершенствованном виде команде дизайнеров и разработчиков в форме персонажей, описаний потребностей пользователей, пользовательских потоков, путешествий и так далее. И это все хорошо и хорошо. Проблема, однако, в том, что дистанция между организацией и людьми, которых вы обслуживаете, остается большой, потому что никто, кроме UX-дизайнеров, не разговаривал с ними и не видел, как они используют продукт. Поэтому они продолжают возвращаться к «я чувствую…», «я думаю…» и «с технической точки зрения…».

Чтобы помочь развить сочувствие к людям, которым вы служите, есть пара очень важных вещей, которые дизайнеры и разработчики — и остальная часть организации — могут сделать (и могут попросить команду UX).

1. Привлекайте всех членов команды к просмотру видеороликов с сеансов пользовательского тестирования.
   На самом деле преодоление боли и радости людей, которые используют ваши продукты (или прототипы, в зависимости от того, что вы тестируете), стоит каждой секунды. Невозможно переоценить, насколько важно наблюдать, как другие люди взаимодействуют с вами, и комментировать то, что вы создаете (и нет, ваша команда здесь не считается «людьми»!).
   
   Если это не является частью рутины в вашей компании, попросите, чтобы это было включено. Конечно, подавляющее большинство UX-дизайнеров не были бы в восторге от организации и проведения таких сессий. Вы гарантированно пройдете через боль, агонию, разочарование, счастье и получите множество откровений, и все это послужит ступенькой на пути к развитию мышления, ориентированного на человека.

2. Попросите настоящие, живые портреты людей, которым вы служите.
   Сюда входят фото и видео из контекстуальных исследований, рассказы из их повседневной жизни и рассказы о них. Более глубокое понимание людей по ту сторону продукта, который вы разрабатываете, вызывает мгновенное сочувствие и значительно усложняет разработку вещей, которые заведомо вредны для них.

3. Настаивайте на постоянном тестировании.
   Нельзя не подчеркнуть, насколько важным является тестирование в HCD. Это включает в себя раннее тестирование концепции, тестирование прототипа и тестирование удобства использования. Побочным бонусом раннего и постоянного участия людей, которые должны использовать продукт, является экономия денег в долгосрочной перспективе. Чем раньше вы обнаружите плохой вызов или ошибку, тем дешевле будет ее исправить.
   
   Много было сказано о ядерной тревоге, которая по ошибке сработала на Гавайях 13 января. Однако можно с уверенностью сказать, что ранние и непрерывные испытания помогли бы ее предотвратить.

4. Всегда спрашивайте «почему?»
   Чтобы начать изменение смысла в организации или сообществе, первый важный шаг — начать спрашивать «почему». Спросите, почему что-то делается неэтично; спросите, почему вам велят сделать чертову черную шляпу; подвергать сомнению текущее положение вещей.
   
   Спросите, на каком основании принимаются дизайнерские решения. Если это из-за того, что думает генеральный директор или кто-то еще, и это не связано с мнением людей, которых вы обслуживаете, попросите это подтверждение. Смысловое изменение растет маленькими шагами.

Лучшие практики этического проектирования

Наряду с установлением в организации традиции дизайна, ориентированного на человека, также важно использовать лучшие практики этического дизайна. Люди, которые делают это, берут на себя инициативу и показывают остальной части организации, как можно делать вещи более этичным образом, и все это будет способствовать постепенному изменению смысла. Точно так же, как темные шаблоны подпадают под неэтичный дизайн, у нас есть шаблоны дизайна White Hat, которые можно использовать для обеспечения этического дизайна, о некоторых из которых вы можете узнать ниже.

Используйте данные для улучшения человеческого опыта

Несмотря на то, что многие компании используют данные в неэтичных целях, таких как увеличение потребления и трафика, на самом деле данные можно использовать для улучшения человеческого опыта.

Так обстоит дело на форуме ind.ie, где предлагается настроить учетную запись как способ настроить свой опыт, запомнив то, что вы прочитали.

В текущем проекте, в котором я участвую в создании приложения для студентов, чтобы упростить доступ к их системе управления обучением, мы сортируем отдельные курсы студента по «последнему посещению»; благодаря исследованиям мы знаем, что учащиеся чаще всего повторно посещают небольшое количество страниц, связанных с курсами, на которые они в настоящее время зачислены. Эта настройка не предназначена для изменения поведения или подталкивания их к использованию частей приложения, которые они не собирались использовать. Вместо этого он предназначен для того, чтобы сделать их работу быстрее и эффективнее.

Еще один положительный пример — американская аптека Walgreens, которая рассылает напоминания, когда пора пополнить запас таких вещей, как витамины. Это чрезвычайно полезная функция, которая решает проблему, с которой сталкиваются многие из нас.

Данные могут помочь информировать исследовательские инициативы, чтобы понять, почему вы не решаете проблемы, возникающие у людей при взаимодействии с вашим продуктом.

Skyscanner, поисковая система для путешествий, на основе своих данных заметила, что их недавно запущенный дизайн не понравился людям, которые воспользовались их услугами, чтобы вылететь из Амстердама. Эти данные помогли создать исследовательскую инициативу, которая в конечном итоге привела к индивидуальному решению для людей, летающих в Амстердам и из Амстердама, которое разрушило барьеры, изначально созданные новым дизайном (вот предыстория).

Реклама без отслеживания

Реклама не обязательно неэтична. Реклама на основе гранулированных данных. Неосторожно (если не глупо) полагаться на одну платформу для большинства маркетинговых усилий бренда, особенно учитывая, что эта платформа владеет и контролирует данные, которые бренд использует в качестве основы для таргетинга своей рекламы.

Facebook, Instagram и Google так же мало заботятся о своих рекламодателях, как и о людях, которых они считают «пользователями», т. е. они могут вносить любые изменения, которые захотят, не обращая внимания на любые последствия, которые это может иметь для людей или компаний, использующих их Платформа. Например, было время, когда они начали массово блокировать поддельные учетные записи, что нанесло ущерб многочисленным компаниям, чьи администраторы социальных сетей создали поддельные учетные записи для администрирования бизнес-страниц, потому что они (по понятным причинам) не хотели использовать свои личные учетные записи для этой цели. . Это стандартная процедура от Facebook, которая разрешает только один профиль на человека (вероятно, потому что разрешение на несколько будет искажать их отслеживание данных).

Платформа всегда является самым слабым звеном в маркетинговой стратегии, потому что это третья сторона, неподконтрольная компаниям. Вспоминая 90-е, когда я работал в отделе маркетинга в региональной газете, детальное отслеживание данных было невозможным. Когда магазин размещал в газете объявление о событии, он просто отслеживал, сколько людей пришло, и сравнивал это со своими ожиданиями, чтобы определить степень успеха.

Хотя «старые добрые времена», безусловно, не были хороши во всех аспектах, идея не основывать рекламу на детальном отслеживании пользовательских данных является привлекательной. Блог Джона Грубера Daring Fireball является примером сайта, который не позволяет отслеживать рекламу. Вместо этого Джон Грубер призывает рекламодателей добавлять к своим объявлениям персонализированную ссылку, позволяющую отслеживать количество кликов на их стороне.

Как справедливо отмечает Джон Грубер:

«Если вы платите, скажем, Facebook за рекламу, с какой стати вы, рекламодатель, доверяете цифрам Facebook в отношении эффективности рекламы?»

- Источник

Еще один замечательный пример, который стоит выделить, — это Goodwings, сайт бронирования отелей, который жертвует половину своей комиссии на благотворительность. Они могут сделать это благодаря тесному сотрудничеству с большим количеством НПО, что означает, что они тратят очень мало на традиционный маркетинг.

И если вы считаете, что Google Analytics — ваш единственный вариант для сбора значимых данных, подумайте еще раз: Matamo — это инструмент с открытым исходным кодом, который устанавливается непосредственно на ваш собственный сервер. Это гарантирует, что данные не будут переданы рекламным агентствам, таким как Google.

Всегда, всегда отдавайте предпочтение юзабилити

В наши дни о проблемах, связанных с этическим дизайном, много говорят о капитализме слежки и отслеживании данных. Но нельзя забывать о важности соблюдения лучших практик юзабилити. Без него дизайн неэтичен, так как отсутствие юзабилити почти всегда влечет за собой использование темных паттернов. Хорошее место, чтобы узнать больше об основном удобстве использования, — это Nielsen Norman Group.

В самом начале Якоб Нильсен определил 5 основных компонентов юзабилити:

• обучаемость,
• Эффективность,
• Запоминаемость
• Ошибки и
• Удовлетворение.

Чтобы продукт был пригодным для использования, крайне важно, чтобы эти пять компонентов находились в центре внимания в процессе проектирования и разработки.

Не просите больше, чем вам нужно

Как и во многих других аспектах жизни, просьба о большем, чем вам нужно, приводит к эксплуатации. Сайты электронной коммерции часто запрашивают массу информации, когда люди регистрируют учетную запись или покупают продукт. Но если кто-то покупает цифровой продукт (например, книгу), действительно не нужно спрашивать ничего, кроме адреса электронной почты.

Сигнал — отличный пример. Частный по своей сути, он не запрашивает ничего, кроме информации, которая абсолютно необходима людям, чтобы сразу начать пользоваться приложением.

Будьте прозрачными

У Norwegian.com, пожалуй, одна из лучших систем бронирования авиабилетов в мире. Он не только удобен в использовании, но и обеспечивает полную прозрачность в отношении платы за дополнительные услуги, которая часто скрывается. Любой, кто живет за пределами страны хранения Amazon, знает, как сложно найти фактическую цену доставки в свое местоположение.

Заключение

Движение к более этичному будущему началось. Радикальные изменения не происходят в короткие сроки, если только они не встроены в ядро ​​бизнес-модели. Но это не значит, что мы не можем изменить текущее состояние к лучшему. Мы можем сделать это посредством постепенных изменений; один шаг за раз. Работая с ориентацией на человека, спрашивая, почему, и используя лучшие практики этичного дизайна. Это наша обязанность как тех, кто создает продукты, так глубоко укоренившиеся в жизни людей. То, что мы делаем, меняет и формирует жизнь к лучшему или к худшему. Я выбираю лучше.

Узнать больше

Есть много ценных ресурсов, доступных для всех, кто интересуется этическим дизайном. Вот несколько для начала:

• Набор IDEO, ориентированный на человека, чрезвычайно полезен для понимания HCD и предлагает широкий спектр методов работы, ориентированной на человека.
• Simply Secure — это организация, которая поддерживает и обучает практиков этическим процессам проектирования. Они предлагают обширную базу знаний для людей, заинтересованных в создании надежных технологий.
• White Hat UX — The Next Generation in User Experience — это книга, которая предлагает множество практических советов о том, как создавать прозрачный, честный и этичный опыт. Сценарий: Трине Фальбе, Мартин Фредериксен и Ким Андерсен.
• Cracked Labs — это независимый исследовательский институт и творческая лаборатория, базирующаяся в Вене, Австрия. Он исследует социокультурное влияние информационных технологий и разрабатывает социальные инновации в области цифровой культуры. Они предлагают подробные отчеты о большинстве вещей, связанных с конфиденциальностью.