Smashing Podcast Episode 41 With Eva PenzeyMoog: Designing For Safety

Эта статья была любезно поддержана нашими дорогими друзьями из Netlify, которые представляют собой разнообразную группу невероятных талантов со всего мира и предлагают платформу для веб-разработчиков, которая увеличивает производительность. Спасибо!

В этом эпизоде ​​мы говорим о проектировании для обеспечения безопасности. Что значит учитывать уязвимых пользователей в наших проектах? Дрю Маклеллан разговаривает с экспертом Евой Пензи-Муг, чтобы выяснить это.

Показать примечания

• Дизайн для безопасности от A Book Apart
• Проект инклюзивной безопасности
• Ева в Твиттере
• личный сайт Евы

Еженедельное обновление

• Как создать сайт электронной коммерции с помощью Angular 11, Commerce Layer и Paypal, написанный Zara Cooper
• Рефакторинг CSS: стратегия, регрессионное тестирование и обслуживание, написанный Адрианом Бесом
• Как создавать устойчивые пользовательские интерфейсы на JavaScript, написанные Каллумом Хартом
• React Children и методы итерации, написанные Арихантом Вермой
• Разочаровывающие шаблоны проектирования: отключенные кнопки, написанные Виталием Фридманом

Стенограмма

Дрю Маклеллан: Она основатель проекта Inclusive Safety Project, автор книги Designed For Safety, которая выходит в этом месяце издательством A Book Apart. Она является главным дизайнером в компании 8th Light, где разрабатывает и создает программное обеспечение на заказ, а также консультирует по безопасной и инклюзивной стратегии проектирования. Мы знаем, что она эксперт по разработке технологий для защиты уязвимых, но знаете ли вы, что она является международным рекордсменом по количеству пончиков, сделанных с помощью вилочного погрузчика? Мои потрясающие друзья, добро пожаловать, Ева ПензиМуг. Привет, Ева, как дела?

Ева ПензиМуг: Я разбиваю.

Дрю: Приятно слышать. Сегодня я хотел поговорить с вами о принципах разработки продуктов и опыта с учетом безопасности уязвимых пользователей. Было бы справедливо с самого начала дать некое предупреждение о каких-либо конкретных темах, которые мы могли бы затронуть?

Ева: Безусловно, да. Спасибо, что подняли эту тему. Определенно вызывает предупреждение за явные упоминания о домашнем насилии, а также, возможно, о жестоком обращении с пожилыми людьми и жестоком обращении с детьми.

Дрю: Это важно. Не стесняйтесь. Если вас беспокоит какая-либо из этих проблем, это может быть триггером для вас. Не стесняйтесь пропускать их. Увидимся в следующем выпуске. Сформулируй для нас разговор, Ева. Когда мы говорим о дизайне для безопасности, о каких проблемах безопасности мы говорим? Мы не говорим об интерфейсах для беспилотных автомобилей. Это не та безопасность, не так ли?

Ева: Верно, точно. Да. Когда я говорю о безопасности, я имею в виду межличностную безопасность, способы, которыми пользователи могут использовать наши продукты в качестве оружия, чтобы причинять вред друг другу в межличностных отношениях. Люди, которые знают друг друга, живут вместе, много домашнего насилия со стороны романтических партнеров, а также родителей и детей. Есть также немного работодателей и сотрудников, которые больше занимаются наблюдением. Но есть те внутренние личные реальные отношения, которые необходимы с точки зрения безопасности, о которых я говорю, в отличие от, да, кого-то анонимного в Интернете или какой-то анонимной сущности, пытающейся получить ваши данные, и тому подобное.

Дрю: Могут ли это быть такие простые вопросы, как… Я думаю о том, что каждый день вы видите в социальных сетях, где есть возможность для разных пользователей напрямую отправлять друг другу сообщения, и как это должно быть полезным маленьким инструментом, позволяющим людям вести беседу в автономном режиме. или вне публичности. Но такого рода вещи также могут, без надлежащих гарантий, стать вектором для некоторого злоупотребления контролем.

Ева: Да, абсолютно. Определенно, каждый раз, когда вы разрешаете пользователям отправлять друг другу текст любого типа, существует вероятность злоупотреблений. Обмен сообщениями в Facebook немного более очевиден, и я думаю… Что ж, я надеюсь, что у них есть какие-то меры безопасности, которые они признают, что, возможно, вы не хотите видеть определенные сообщения или хотите, чтобы кто-то связался с вами. Но один действительно интересный и связанный с ним вопрос, с которым я столкнулся во время проведения исследования, — это множество различных банковских приложений или услуг, таких как Venmo, которые позволяют вам делиться деньгами. Часто есть место для сообщения. По крайней мере, с Venmo это необходимо.

Ева: В некоторых банках это необязательно, но люди отправляют кому-то один пенни, а затем получают какое-то оскорбительное сообщение или что-то действительно вредное, пугающее или угрожающее, и у пользователя, получающего эти сообщения, нет возможности отметить это или сказать: «Я хочу заблокировать этого пользователя, потому что зачем вам мешать кому-то отправлять деньги от вас». Это ситуация, когда я думаю, что дизайнер просто не учел, что обидчики всегда ищут способы сделать что-то подобное. Они очень креативны, и это не было учтено в дизайне.

Дрю: Мы часто говорим о разработке счастливого пути, где все используется так, как задумано, и опыт проходит гладко. Затем, как инженеры, мы думаем о том, что может пойти не так с точки зрения сбоя проверки или отказа API. Но я не уверен… Есть ли у нас, как у отрасли, большое слепое пятно в отношении того, как технологии могут быть использованы не по назначению, когда речь идет о безопасности наших пользователей?

Ева: Ага. Я абсолютно уверен, что есть гигантское слепое пятно. Люди очень хорошо знакомы с такого рода различными моделями угроз, как я уже упоминал, когда анонимный человек беспокоит вас в Твиттере, различные лица пытаются взломать данные банковской компании и тому подобное. Но мы называем это моделью угрозы домашнего насилия, которая очень отличается, и большинство людей о ней не думают, и это всегда было отзывом, когда я выступал с докладом, разрабатывая меры против домашнего насилия еще до того, как пандемия остановила конференции. . Это всегда была обратная связь, когда люди говорили: «Я никогда не слышал об этом. Не имел представления." Цель моих выступлений, моей книги и моей работы в целом состоит в том, чтобы помочь людям понять, что это такое и что с этим делать, потому что это просто огромное слепое пятно.

Дрю: Я думаю, у нас есть тенденция, и, очевидно, опасно предполагать, что все пользователи такие же, как мы. Так же, как люди, которые создают услугу или продукт, как наши солдаты, как наши друзья, наша семья и люди, которых мы знаем, и предполагать, что все находятся в стабильной домашней ситуации и полностью владеют или контролируют свои услуги. и устройства. Это не всегда так, не так ли?

Ева: Да, абсолютно. Определенно не всегда так. Я думаю, мы могли бы посмотреть на наших друзей и семью и подумать, что все в хороших отношениях, но я обнаружил, что определенно большинство людей, переживших насилие в семье, не рассказывают об этом всем в своей жизни и не кричат ​​об этом от всех. крыши. У большинства людей, судя по статистике, это так распространено. Вы, вероятно, знаете кого-то, кто был в такой ситуации или сейчас находится в такой ситуации, но они просто не говорят об этом на самом деле или, возможно, не в полной мере разделяют свое поведение.

Ева: Во многом понятно, что это не то, о чем люди действительно думали на рабочем месте, потому что это не то, о чем мы думаем в обществе и жизни в целом, и мы воспроизводим это на нашем рабочем месте. Моя работа пытается заставить нас говорить об этом более подробно.

Дрю: О чем нам следует подумать, когда дело доходит до этих соображений? Просто подумайте о том, когда кто-то еще может получить доступ к вашей учетной записи, или если партнер знает ваш пароль и может войти, вы можете подумать, что эти продукты были разработаны для управления одним человеком, но теперь, возможно, кто-то гнусный получает доступ к ним. Какие там соображения?

Ева: Ага. Ну, есть так много разных вещей, но это действительно большое, что у меня есть… Три основные главы в моей новой книге сосредоточены на трех больших разных областях, где это происходит, и то, что вы только что упомянули, является фокусом одной из них. им о проблемах управления и питания с продуктами, которые предназначены для нескольких человек. Такие вещи, как общий банковский счет, такие вещи, как Netflix или Spotify, такие вещи, как всевозможные домашние устройства, устройства Интернета вещей, которые якобы предназначены для нескольких человек. Но есть предположение, что каждый является уважительным человеком, который не ищет другого способа применить силу и контроль над окружающими его людьми.

Ева: Многие совместные банковские счета или такие вещи, как обслуживание общих кредитных карт, маскируются под совместный счет, но на самом деле у одного человека больше власти. Например, это случилось со мной, и это было очень неприятно, потому что я занимаюсь большей частью финансов в моем браке. Но когда мы открыли наш первый совместный банковский счет много лет назад, они выбрали моего мужа в качестве основного пользователя, что фактически означало, что его общедоступные данные использовались для создания викторины по безопасности. Когда я захожу в наш банк из новой сети Wi-Fi, мне приходится спрашивать его, например, на какой из этих улиц ты жил, когда был ребенком? На самом деле они в основном… На некоторые из них я могу ответить.

Ева: Я знаю, что он никогда не жил в Калифорнии, но многие из них на самом деле очень хороши, и я должна спросить его, хотя мы уже давно вместе. Они довольно эффективно удерживают кого-то подальше. Но вроде это должен быть совместный аккаунт, почему на самом деле… Это на самом деле просто его аккаунт, к которому у меня тоже есть доступ. Много проблем с этим, когда они позволяют кому-то иметь больший контроль, потому что он может просто не дать мне ответы, и тогда у меня не будет доступа к нашим финансам без необходимости звонить в банк или проходить через что-то и проходить через другой процесс. Да. Много разных проблем с управлением.

Ева: Я думаю, всякий раз, когда вы разрабатываете продукт, который будет включать в себя несколько пользователей, вы думаете о том, как один пользователь собирается использовать это для управления другим человеком, а затем, как мы можем предусмотреть для этого некоторые меры безопасности, либо сделать так, чтобы один человек не имеет контроля. Если это невозможно, как мы можем хотя бы убедиться, что другой человек точно понимает, что происходит, и точно знает, как восстановить власть? Можем ли мы дать им номер телефона, какие-то настройки для изменения? Что бы это ни было, все становится довольно сложным.

Ева: В моей книге есть целый процесс о том, как это на самом деле выглядит на практике, что-то немного более конкретное, чем просто рассмотрение домашнего насилия или просто рассмотрение того, кто контролирует ситуацию. Я не считаю такие советы супер полезными. У меня есть очень тщательный процесс, который дизайнеры могут добавить к существующему процессу проектирования, чтобы получить некоторые из этих вещей.

Дрю: Я думаю, где у вас есть эти учетные записи… Наличие учетной записи — такое банальное понятие. Мы создаем продукты или услуги, основным строительным блоком которых является учетная запись пользователя. Мы, вероятно, даже не слишком задумываемся о разного рода проблемах, когда настраиваем это, и думаем, отличается ли учетная запись от людей, которые несут ответственность за учетную запись? Часто они просто считаются одной сущностью, а затем вам приходится прикреплять к ней другие сущности, чтобы создавать совместные учетные записи и тому подобное. Но также учитывая вопрос о том, что произойдет с этой учетной записью, если два человека пойдут разными путями, как ее можно разделить в будущем? Это то, о чем мы должны думать с самого начала?

Ева: Да, абсолютно. Это действительно хороший момент, который вы поднимаете. Я думаю, что одна из вещей, к которой я очень сильно отношусь, заключается в том, что когда мы сосредотачиваем внимание на переживших различные виды насилия в нашем дизайне, мы в конечном итоге делаем продукты, которые лучше для всех. Я взял интервью у большого количества людей конкретно об элементе финансового насилия, который очень распространен в условиях домашнего насилия. Статистика такова, что 99% людей в отношениях с домашним насилием, есть некоторый элемент финансового насилия, который действительно распространен. Но я также взял интервью у некоторых людей, которые трагически потеряли супруга, человек умер, и у них был совместный счет.

Ева: Это похоже на красивое… Это очень распространенный, к сожалению, сценарий, но многие из этих продуктов не предназначены для этого, и могут потребоваться годы, чтобы получить полный контроль над общей учетной записью или чем-то вроде… Когда моя бабушка умерла, она была очень предусмотрительна и дала моему отцу доступ ко всему. Но даже при этом ему понадобилось много времени, чтобы привести все в порядок, потому что эти продукты просто не предназначены для таких вещей. Но если бы мы сосредоточили выживших и подумали о том, как это выглядит, когда два человека расходятся, и смогли бы эффективно справиться с этим, это в конечном итоге помогло бы куче других людей в других ситуациях.

Дрю: Мы думаем, что много думаем о процессе адаптации, создании новых учетных записей и привлечении людей к продукту, а затем забываем подумать о том, что происходит, когда они уходят любыми способами, умирают ли они, к сожалению, или как это завершается в конце. другой конец процесса. Я думаю, что это то, что не привлекает внимания, но может принести пользу.

Ева: Ага.

Дрю: Мы носим телефоны в карманах, и это очень личные устройства, и они часто буквально являются ключами к нашему доступу к информации, финансам и общению. В негативной ситуации это может легко… Тот факт, что это такое личное устройство, может стать вектором контроля и злоупотреблений. Просто подумайте о таких вещах, как службы определения местоположения, такие службы, как Find My от Apple, что здорово, если у вас есть дети школьного возраста, и вы можете зарегистрироваться и посмотреть, где они находятся, увидеть, что они там, где должны быть, они в безопасности. . Это функция безопасности во многих отношениях, но эту функцию можно разрушить, не так ли?

Ева: Да, абсолютно. Да, и я рад, что вы подняли эту тему, потому что многие из этих продуктов являются средствами безопасности для детей. Да, конечно, родители хотят знать, где их дети, они хотят убедиться, что они в безопасности, и это может быть действительно эффективным инструментом. Я думаю, что есть много проблем с родителями, злоупотребляющими этими продуктами. Я нашел несколько случаев, когда студенты колледжа все еще проверяются родителями, и им позвонят, если они пойдут на вечеринку за пределами кампуса, например, почему ты не в своей комнате в общежитии? Такие вещи. Это может стать слишком много. Но да, по большей части это отличные продукты. Но многие люди затем злоупотребляют ими, чтобы отслеживать взрослых, которые не соглашаются на отслеживание их местоположения, и часто они либо…

Ева: Нужно зайти в сервис как с Google Maps, например, обмен местоположением. Вы должны войти в него, чтобы увидеть, что вы делитесь им с кем-то. Нет оповещения. Аналогично с Find My. Пользователь, чье местоположение отслеживается, получает предупреждение, но в ситуации домашнего насилия обидчику очень легко просто удалить предупреждение с телефона человека до того, как он его увидит, и тогда у этого человека нет другого способа собирается понять, что это даже происходит. Я думаю, это хороший пример того, что случаи жестокого обращения просто не учитываются, когда мы создаем вещи, которые в конечном итоге касаются безопасности детей. Но мы должны понимать, что есть множество людей, которые будут использовать его не для детей в этих других условиях.

Дрю: Я полагаю, в отношениях вы можете дать согласие на отслеживание вашего местоположения в какой-то момент времени, и тогда вы можете не понимать, что это продолжается, и можете не знать, что это все еще продолжается, и вы отслеживаются, не осознавая.

Ева: Ага. Это действительно важно учитывать, потому что в оскорбительных отношениях это не похоже на… Жестокое обращение по большей части не начинается в первый день. Обычно сначала это очень хорошие отношения, а затем они постепенно вводят различные формы контроля, захвата власти и удаления человека из своей сети поддержки, и все это происходит со временем, часто с годами, потому что если вы только начали делать это на на первом свидании большинство людей сказали бы: «Да, нет, я выхожу». Но когда есть эти любовные отношения, становится намного сложнее просто бросить этого человека.

Ева: Но да, много раз то, что было совершенно безопасно делать в начале отношений, уже небезопасно, но человек давно забыл, что поделился своим местоположением с этим человеком, и опять же, это нехорошо. способ напомнить. Есть некоторые вещи, такие как их заслуга, Google отправляет электронное письмо каждые 30 дней, хотя некоторые люди говорят, что на самом деле они не получают их так часто, а некоторые люди получают. Я не уверен, что именно происходит, но они отправляют итоговое электронное письмо со всеми людьми, с которыми вы делитесь своим местоположением, и это действительно здорово.

Ева: Но я думаю, что за 30 дней можно нанести много вреда. Я бы предпочел что-то более частое или даже вездесущее, что позволяет вам знать, что это происходит, или что-то, что происходит чаще, а затем позволяет обидчику просто удалить это уведомление. Да, это действительно хороший момент, это согласие. Многое происходит из практики согласия на сексуальное насилие. Я думаю, что есть так много актуальности для технологий. То, что вы согласились на что-то в прошлом, не означает, что вы согласны на это сейчас или в будущем. Но в технике мы такие: «Ну, они дали согласие пять лет назад, так что это согласие все еще в силе», и на самом деле это не так. Мы должны получить их согласие позже.

Дрю: Да, это сопряжено со всевозможными проблемами, не так ли? В том, как эти вещи спроектированы, потому что вы не хотите создавать столько препятствий в дизайне продукта, чтобы он стал бесполезным. Или в случае, когда вы отслеживаете ребенка, и он действительно не дал согласия в тот день, и вдруг он пропал, и у него не была включена служба. Но опять же, убедитесь, что это согласие действует только до тех пор, пока оно действительно дано. Я думаю, что в общем документе достаточно просто, если вы используете Документы Google или что-то еще, увидеть, кто просматривает этот документ в это время, появляются все значки, если… Аватары всех разных пользователей, которые были там и иметь доступ. Вы думали, что такие решения могут одинаково хорошо работать, когда люди получают доступ к вашему местоположению?

Ева: Да, полностью. Да, становится липким. В этом деле не так много простых и простых решений, а в том, что, да, вы хотите… Может быть, это не лучшая идея — позволять своим восьмилетним детям давать согласие каждый божий день, потому что что, если однажды они просто такие: «Нет», или они ошибочно говорят «нет» или что-то в этом роде, а потом вдруг вы не можете их найти. Да, это реальный сценарий. Я думаю, что с некоторыми из этих вещей, я не думаю, что будет реалистично сказать: «Ну, это производство не должно существовать или вы должны получать согласие каждый день».

Ева: Но в этих случаях вы все еще можете сделать что-то, например, сказать человеку, что этот человек, этот другой пользователь может просматривать свое местоположение, даже если они мало что могут с этим поделать. По крайней мере, предоставление им этой информации, чтобы они четко понимали, что происходит, а затем могли предпринять действия, чтобы обезопасить себя, если они находятся в этих оскорбительных отношениях, это будет действительно полезно. Может быть, теперь они знают, хорошо, я не собираюсь брать с собой свой телефон, когда я выхожу из офиса в обеденный перерыв, чтобы увидеть свою подругу, которую мой партнер не одобряет, потому что она всегда очень ратует за то, чтобы я ушел из офиса. отношения, и он узнает, что я куда-то ушла, если я принесу свой телефон.

Ева: Но если я просто оставлю свой телефон в офисе, он не узнает. Способность принимать такие обоснованные решения. Даже если вы не можете в обязательном порядке прекратить обмен информацией о местоположении, мы определенно можем сделать что-то еще, чтобы обеспечить безопасность пользователей, сохраняя при этом основные функции функционального продукта.

Дрю: Да. Это сводится к дизайнерским решениям, не так ли? И поиск решений сложных проблем, но сначала понимание того, что проблема существует и ее нужно решить, и именно здесь, я думаю, этот разговор так важен для понимания различных способов использования вещей. У нас все чаще появляются устройства с микрофонами и камерами. У нас много камер наблюдения в наших домах и на дверных звонках, а скрытое наблюдение уже не просто что-то из шпионских фильмов и полицейских шоу, не так ли?

Ева: Ага. О, да. Это такая огромная проблема. У меня очень сильные чувства по этому поводу, и я знаю, что многим людям действительно нравятся эти устройства, и я думаю, что это совершенно нормально. Я действительно думаю, что они часто используются для слежки. Я думаю, что многие супруги и члены семьи, но также и многие… Здесь я думаю, что, когда я ввязываюсь в дела с детьми, по крайней мере, для меня становится немного яснее, что даже дети имеют некоторые права на неприкосновенность частной жизни, и особенно когда вы посмотрите на подростков, им нужно гораздо больше независимости, и им нужно пространство, и вокруг независимости буквально происходит развитие мозга.

Ева: Я думаю, что есть способы помочь вашим детям быть в безопасности в Интернете и принимать правильные решения, а также иногда проверять, что они делают, без того, чтобы вы постоянно наблюдали за ними или постоянно каким-то образом вмешивались в их жизнь. что они не хотят. Но да, множество различных устройств наблюдения просто вышли из-под контроля, и люди все время используют их, чтобы тайно наблюдать друг за другом или даже не открыто. Иногда это открыто, типа: «Да, я слежу за тобой. Что вы собираетесь с этим делать? Ты не можешь, потому что мы находимся в этих отношениях, где я решил использовать насилие, чтобы сохранить свою власть и контроль над тобой».

Ева: Это становится действительно большой проблемой. То, с чем я часто сталкивался, — это люди… Это становится еще одним способом для обидчика изолировать пострадавшего от своей сети поддержки. Вы не можете поговорить по телефону наедине с другом, братом, сестрой или психотерапевтом. Внезапно в вашем доме не осталось места, которое на самом деле было бы личным пространством, что также было действительно большой проблемой во время пандемии, когда люди вынуждены оставаться дома. Мы наблюдаем такой огромный рост домашнего насилия, а также то, что технологии способствовали домашнему насилию, потому что у обидчиков было больше времени, чтобы понять, как это делать, и гораздо меньше места, которое им нужно подключить для контроля. Многие люди делали это. Это действительно большая проблема.

Дрю: Я ожидаю, что производители такого рода продуктов, камер наблюдения и прочего, скажут: «Мы здесь просто делаем инструменты. Мы не несем никакой ответственности за то, как они используются. Мы ничего не можем с этим поделать». Но не могли бы вы утверждать, что да, они несут ответственность за то, как используются эти инструменты?

Ева: Да, я бы. Я бы, прежде всего, сказал тому, кто сказал это: «Вы прежде всего человек, прежде чем вы станете сотрудником технологической компании, капиталистом, зарабатывающим деньги. Вы человек, и ваши продукты влияют на людей, и вы несете за это ответственность». Второе, что я хотел бы сказать, это то, что просто требовать более высокого уровня технической грамотности от наших пользователей — действительно проблематичное мышление, потому что тем из нас, кто работает в сфере технологий, легко сказать: «Ну, людям просто нужно больше узнать». об этом. Мы не несем ответственности, если кто-то не понимает, как используется наш продукт».

Ева: Но большинство людей не работают в сфере технологий, и, очевидно, среди них действительно много действительно технически подкованных людей, которые не работают в сфере технологий. Но требуя, чтобы люди точно понимали, как каждое приложение, которое у них есть, каждую вещь, которую они используют на своем телефоне или ноутбуке, каждое устройство, которое есть у них дома, понимали каждую функцию и определяли, как это может быть используется против них, это такое огромное бремя. Может показаться, что это не имеет большого значения, если вы просто думаете о своем единственном продукте, например, о, ну, конечно, люди должны потратить время, чтобы понять его.

Ева: Но мы говорим о десятках продуктов, которые мы возлагаем на людей, которые переживают опасную ситуацию, чтобы понять, что просто очень нереально и довольно бесчеловечно, особенно учитывая, что злоупотребление, слежка и другие вещи делают в ваш мозг, если вы постоянно находитесь в состоянии угрозы и все время находитесь в этом режиме выживания. Ваш мозг не сможет полноценно функционировать, пытаясь выяснить, посмотреть на это приложение и попытаться определить, как мой муж использует это, чтобы наблюдать за мной, контролировать меня или что-то еще. Я бы сказал, что это просто, честно говоря, паршивое мышление, и что мы несем ответственность за то, как люди используют наши продукты.

Дрю: Если вы думаете, что большинство людей не понимают более одной или двух кнопок на своей микроволновке, как можно ожидать, что мы поймем возможности и функционирование всех различных приложений и служб, с которыми мы вступаем в контакт?

Ева: Абсолютно. Да.

Дрю: Когда дело доходит до разработки продуктов и услуг, я чувствую себя как гетеросексуальный белый мужчина, говорящий по-английски, что у меня огромное слепое пятно из-за привилегированного положения, которое предоставляет мне общество, и я чувствую себя очень наивным, и я осознаю, что мог бы привести к проблемному выбору дизайна в вещах, которые я делаю. Есть ли шаги, которые мы можем предпринять, и процесс, которому мы можем следовать, чтобы убедиться, что мы выявляем эти слепые пятна и делаем все возможное, чтобы выйти за пределы нашей собственной области опыта и включить больше сценариев?

Ева: Да, абсолютно. У меня так много мыслей по этому поводу. Я думаю, есть пара вещей. Во-первых, мы все несем ответственность за изучение своих слепых зон. У всех есть слепые пятна. Я думаю, возможно, у белого цис-мужчины больше слепых зон, чем в других группах, но это не значит, что есть какая-то группа, у которой не будет слепых зон. Они есть у всех. Я думаю, что нужно узнавать о различных способах злоупотребления нашими технологиями. Я думаю, что это больше, чем… Очевидно, межличностная безопасность — это то, над чем я работаю. Но есть и другие вещи, о которых я также постоянно пытаюсь узнать и выяснить, как мне убедиться, что технология, над которой я работаю, не будет увековечивать эти разные вещи.

Ева: Мне очень нравится «Дизайн для реальной жизни» Сары Вахтер-Бетчер, а Эрик Мейер отлично подходит для инклюзивного дизайна и сострадательного дизайна. Но также я узнал об алгоритмах, расизме, сексизме и других проблемах с алгоритмами. Есть так много разных вещей, которые нам нужно учитывать, и я думаю, что мы все несем ответственность за изучение этих вещей. Затем я также думаю, что привлечение жизненного опыта людей, которые прошли через эти вещи, как только вы определили, хорошо, расизм будет проблемой с этим продуктом, и мы должны убедиться, что мы имеем дело с этим и пытаясь предотвратить это и определенно давая людям возможность сообщать о расизме или что-то в этом роде.

Ева: Одна из вещей, пример, который я привожу в своей книге, это то, что у Airbnb много проблем с расизмом и расистскими хозяевами. Даже просто исследование о том, есть ли у вас… Если на вашей фотографии чернокожий человек, вам откажут. Ваш запрос на бронирование проживания будет отклоняться чаще, чем если бы на вашей фотографии был белый человек. Я думаю, что я белый человек, это то, что я не думаю, что я мог бы просто пойти и узнать об этом, а затем говорить как авторитет по этому вопросу. Я думаю, что в этом случае вам нужно привлечь кого-то с таким жизненным опытом, который может вас проинформировать, поэтому наймите чернокожего дизайнера-консультанта, потому что, очевидно, мы знаем, что на самом деле в технологиях не так уж много разнообразия.

Ева: В идеале в вашей команде уже должны быть люди, которые могли бы говорить об этом, но я думаю… Но тогда это так сложно. Вот тут-то и возникает вопрос, требуем ли мы такого труда от наших товарищей по команде? Это тоже может быть проблематично. Черный человек в вашей команде, вероятно, уже столкнется с множеством разных вещей, а затем белые люди скажут: «Эй, расскажи мне о травмирующем опыте, который у тебя был из-за твоей расы». Вероятно, нам не следует возлагать такое бремя на людей, если только…

Ева: Множество людей охотно поднимут это и расскажут об этом, и я буду говорить о вещах, о своем опыте женщины, но, может быть, это не то, чем я хочу заниматься каждый божий день. В этом случае нанимать людей, которые делают это, для работы, а затем всегда платить людям за их жизненный опыт и делать его неэксплуататорским с точки зрения фактической компенсации людям за эти знания и этот жизненный опыт.

Дрю: Ага. Я думаю, это действительно подчеркивает, насколько невероятно важно и полезно иметь разные команды, работающие над продуктами, принося всевозможный разный опыт.

Ева: Да, абсолютно.

Дрю: Одна из вещей, которую вы освещаете в своей книге в процессе проектирования, — это создание архетипов жестокого обращения и выжившего, чтобы помочь вам проверить свои особенности. Не могли бы вы немного рассказать нам об этой идее?

Ева: Ага. Это произошло из-за желания иметь своего рода артефакт персоны, который помог бы людям очень четко понять, в чем проблема. Это то, что происходит после того, как команда провела исследование проблемы и определила различные вероятные проблемы, когда речь идет о межличностной безопасности, и может очень четко сформулировать, что это такое. Затем вы создаете архетип обидчика, то есть человека, который пытается использовать ваш продукт для любого вреда, а затем архетип выжившего, который станет жертвой этого вреда. Важным в них является наличие целей. Это очень похоже на то, как вы находите изображение, или вам даже не нужно изображение, но оно просто формулирует, что такое насилие, а затем цели человека.

Ева: Если это кто-то, кто хочет выяснить, где сейчас живет его бывшая девушка, потому что он хочет выследить ее, его цель — выследить ее. Тогда цель выжившего… Ну, простите, целью обидчика будет использование вашего продукта. Допустим, это Strava, например, один из тех, которые я использую в качестве примера в книге. Я хочу использовать Strava, чтобы разыскать свою бывшую девушку, а затем архетип выжившего говорит: «Я хочу сохранить свое местонахождение в секрете от моего бывшего, который пытается меня преследовать». Затем вы можете использовать эти цели, чтобы информировать о своем дизайне и протестировать свой продукт, чтобы увидеть, есть ли что-нибудь о данных о местоположении выживших, которые общедоступны для тех, кто пытается найти их местоположение, даже если они включили всю свою конфиденциальность. Особенности?

Ева: Я использую Strava в качестве примера, потому что еще несколько месяцев назад у меня была такая возможность. Было что-то, что даже если вы поставили все в приват, если вы бегаете или тренируетесь рядом с кем-то еще, используя приложение в течение определенного периода времени, неясно, насколько близко вы должны быть или как долго вы должны бегать одно и то же улица как этот другой человек, он пометит их как присутствовавших на вашей тренировке. Это был бы пример, когда обидчик смог достичь своих целей, он смог таким образом найти свою бывшую. Тогда вы бы знали, хорошо, нам нужно работать против этого и не допустить, чтобы эта цель была успешной.

Дрю: Тем более, ты не можешь продумать каждый сценарий. Вы не можете понять, что обидчик попытался бы сделать при любых обстоятельствах. But by covering some key apparent problems that could crop up, then I guess you're closing lots of doors for other lines of abuse that you haven't thought of.

Eva: Yes. Yeah, exactly. That brings up a really good other related point, which is that, yeah, you're probably not going to think of everything. Then having ways for users to report issues and then being the type of team and company that can take those criticisms or issues that users identify with some grace and quickly course correcting because there's always going to be things you don't think about and users are going to cover all sorts of things. I feel like this always happens. Being able to have a way to get that feedback and then to quickly course correct is also a really big part of the whole process of designing for safety.

Drew: Is there a process that would help you come up with these potential problems? Say you're designing a product that uses location data, what process would you go through to think of the different ways it could be abused? Is there anything that helps in that regard?

Eva: Yeah. This is something I get more in depth about in the book, but having some research around it first is the first thing. With location services is a pretty easy one, so to speak. There's so many documented issues with location services. There's also been academic studies done on this stuff, there's lots of literature out there that could help inform the issues that you're going to face. Then the other thing that I suggest that teams do is after doing this research is doing a brainstorm for novel of use cases that have not been covered elsewhere.

Eva: The way I usually do this is I have the team do a Black Mirror brainstorm. Let's make a Black Mirror episode. What's the worst, most ridiculous, just anything goes, worst case scenario for this product or feature that we're talking about? People usually come up with some really wild stuff and it's actually usually really fun. Then you say, “Okay, let's dial it back. Let's use this as inspiration for some more realistic issues that we might come across,” and then people are usually able to identify all sorts of things that their product might enable.

Drew: For people listening who feel like they would really love to champion this area of work within their organization, do you have any advice as to how they could go about doing that?

Eva: Yeah. There is a lot of stuff about this in the book, about integrating this into your practice and bringing it to your company. Advice for things like talking to a reluctant stakeholder whose only concern is, well, how much is this going to cost me? How much extra time is this going to take? Being able to give really explicit answers about things like that is really useful. Also, I have recordings of my conference talk which people usually say, “I had just had no idea that this was a thing.” You can help educate your team or your company.

Eva: I talked about this in the book too, honestly, it can be awkward and weird to bring this stuff up and just being mentally prepared for how it's going to feel to be like, “We should talk about domestic violence,” or, “We should talk about invasive child surveillance.” It can be really hard and just weird. One of the pieces of advice I give is for people to talk to a supportive coworker ahead of time, who can back them up if you're going to bring this up in a meeting and just help reduce the weirdness, and there are some other tactics in the book. But those are definitely the big ones.

Drew: I would normally ask at this point where our listeners should go to find out more about the topic. But I know that the answer is actually to go and read your book. We've only really just scratched the surface on what's covered in Design For Safety, which is out now, this August 2021 from A Book Apart. The book, for me, it's sometimes an uneasy read in terms of content, but it's superbly written and it really opened my eyes to a very important topic. One thing I really like about all the A Book Apart books is they're small and focused and they're easy to consume. I would really recommend that listeners check out the book if the topic is interesting to them.

Eva: Yeah, thanks for that. Theinclusivesafetyproject.com is the website I have to house all of this information. There's a lot of great resources in the back of the book for people who want to learn more. But if you just want something and more immediately, you can go to Theinclusivesafetyproject.com and there's a resources page there that has different sort of articles or studies to look at different people working in related spaces to follow on Twitter, books to read, things like that.

Дрю: Верно. I've been learning what it means to design for safety. What have you been learning about, Eva?

Eva: I have been learning about data. I'm reading a really interesting book called Living in Data by Jer Thorp, which I thought it was going to be all about different issues with big data, which is such a big thing but it's actually an extremely thoughtful, much more interesting approach to what it means to live in data and just how much data is taken from us every day and what's done with it and just data out there in the world. It's really interesting and important, and yeah, I would definitely recommend that book.

Drew: No, amazing. If you the listener would like to hear more from Eva, you can follow her on Twitter where she's @epenzeymoog, and you can find all her work linked from her website at evapenzeymoog.com. Design For Safety is published abookapart.com and is available now. Thanks for joining us today, Eva. У тебя есть напутствие?

Eva: Please get vaccinated so that we can go back to normal.