與 Eva PenzeyMoog 合作的 Smashing Podcast 第 41 集：為安全而設計

這篇文章得到了我們在 Netlify 的親愛的朋友的大力支持，他們是來自世界各地的一群令人難以置信的人才，並為 Web 開發人員提供了一個可以提高生產力的平台。 謝謝！

在這一集中，我們談論的是安全設計。 在我們的設計中考慮易受攻擊的用戶意味著什麼？ Drew McLellan 與專家 Eva PenzeyMoog 交談以找出答案。

顯示註釋

• 從一本書開始的安全設計
• 包容性安全項目
• 伊娃在推特上
• 伊娃的個人網站

每週更新

• 如何使用 Angular 11、Commerce Layer 和 Paypal 構建電子商務網站，作者：Zara Cooper
• 重構 CSS：策略、回歸測試和維護由 Adrian Bece 撰寫
• 如何構建由 Callum Hart 編寫的彈性 JavaScript UI
• Arihant Verma 編寫的 React Children 和 Iteration Methods
• 令人沮喪的設計模式：Vitaly Friedman 編寫的禁用按鈕

成績單

Drew McLellan：她是包容性安全項目的創始人，也是《為安全而設計》一書的作者，該書本月從 A Book Apart 推出。 她是 8th Light 的首席設計師，負責設計和構建定制軟件，並就安全和包容性的設計策略提供諮詢。 我們知道她是設計技術以保護弱勢群體的專家，但你知道她是叉車上最多甜甜圈的國際紀錄保持者嗎？ 歡迎我的好朋友，Eva PenzeyMoog。 嗨，伊娃，你好嗎？

Eva PenzeyMoog：我太棒了。

德魯：很高興聽到。 今天我想和你談談設計產品和體驗的原則，同時考慮到弱勢用戶的安全。 從一開始就對我們可能涉及的任何特定主題發出某種觸發警告是否公平？

伊娃：當然，是的。 謝謝你提出來。 明確提及家庭暴力，也可能是一些虐待老人和虐待兒童，肯定會觸發警告。

德魯：這很重要。 隨意。 如果您擔心這些問題中的任何一個，它可能是您的誘因。 隨意跳過它們。 我們下集見。 為我們安排對話，伊娃。 當我們談論安全設計時，我們在談論什麼樣的安全問題？ 我們不是在談論自動駕駛汽車的接口。 這不是那種安全，是嗎？

伊娃：對，沒錯。 是的。 當我談論安全時，我實際上是在談論人際安全，即用戶可以將我們的產品武器化以以人際方式相互傷害的方式。 認識的人，住在一起的人，很多來自戀人的家庭暴力，還有父母和孩子。 在監視領域還有更多的雇主和僱員。 但是，在我所說的安全方面，需要有內在的個人實際關係，而不是，是的，互聯網上的某個匿名者或某個試圖獲取您的數據的匿名實體，諸如此類。

德魯：會不會是像……這樣簡單的問題？或不公開。 但是，如果沒有適當的保護措施，這類事情也可能成為某種濫用控制的載體。

伊娃：是的，絕對的。 絕對任何時候您允許用戶互相發送任何類型的文本，都存在濫用的可能性。 Facebook 消息，那個更明顯一點，我認為……嗯，我希望他們確實有一些保護措施，他們認識到也許你不想看到某些消息或想讓某人與你聯繫。 但是，我在做研究時遇到的一個非常有趣和相關的問題是許多不同的銀行應用程序或服務，比如 Venmo，它們可以讓你分享資金。 通常有一個空間用於消息。 至少對於 Venmo，它是必需的。

Eva：有些銀行，這是可選的，但是人們會向某人發送一分錢，然後會收到一些辱罵性信息或一些真正有害、可怕或威脅的東西，而收到這些信息的用戶實際上沒有辦法標記或說， “我想阻止這個用戶，因為你為什麼要阻止別人向你匯款。” 在這種情況下，我認為設計師根本沒有考慮到施虐者總是在尋找做這種事情的方法。 他們很有創意，設計中沒有考慮到這一點。

德魯：我們經常談論設計幸福的道路，讓一切都按設計使用，體驗順利。 然後，作為工程師，我們會考慮在驗證失敗或 API 關閉方面可能會出現什麼問題。 但我不確定……作為一個行業，在考慮用戶安全時，我們是否對這些技術可能被濫用的方式存在很大的盲點？

伊娃：是的。 我絕對認為有一個巨大的盲點。 人們非常熟悉這些各種威脅模型，就像我提到的那樣，匿名者在 Twitter 上騷擾你，不同的實體試圖侵入銀行公司的數據，諸如此類。 但我們稱之為家庭暴力威脅模型，這是一種非常不同的模型，這是大多數人沒有考慮的模型，這一直是我發表演講時的反饋，在大流行停止會議之前設計反對家庭暴力. 人們總是這樣說，“我從來沒有聽說過這個。 我不知道。” 這就是我的演講、我的書和我的工作的總體目標是幫助人們理解這是什麼以及如何處理它，因為它只是一個巨大的盲點。

Drew：我認為我們確實有一種傾向，顯然假設每個用戶都和我們一樣是危險的。 就像構建服務或產品的人一樣，就像我們的士兵、我們的朋友和我們的家人以及我們認識的人一樣，假設每個人都處於穩定的家庭環境中，並且完全擁有或控制他們的服務和設備。 情況並非總是如此，不是嗎？

伊娃：是的，絕對的。 絕對不總是這樣。 我想我們可能會看看我們的朋友和家人，並認為每個人的關係都很好，但我發現大多數遭受家庭暴力的人肯定並沒有完全告訴他們生活中的每個人並大聲喊叫屋頂。 大多數人，僅根據統計數據，它是如此普遍。 您可能確實認識曾經處於這種情況或目前處於這種情況的人，他們只是沒有真正談論它，或者他們可能沒有分享行為的全部範圍。

伊娃：在很多方面，人們在工作場所沒有真正考慮過這件事是可以理解的，因為這不是我們在社會和一般生活中考慮的事情，我們在工作場所複製了它。 我的工作是試圖讓我們更明確地談論它。

德魯：當涉及到這些考慮時，我們應該考慮哪些事情？ 想一想其他人何時可以訪問您的帳戶，或者如果合作夥伴知道您的密碼並且可以進入，您會認為該產品被設計為由一個人控制，但現在可能有人不法分子正在訪問它。 有哪些考慮？

伊娃：是的。 嗯，有很多不同的事情，但這是我擁有的一個非常大的事情......我的新書中的三個主要章節集中在發生這種情況的三個不同領域，而你剛才提到的是其中一個的重點他們關於為多人設計的產品的控制和電源問題。 諸如共享銀行帳戶之類的東西，Netflix 或 Spotify 之類的東西，諸如各種不同的家用設備之類的東西，物聯網設備之類的東西，表面上是供多人使用的。 但假設每個人都是一個受人尊敬的人，他們不希望找到另一種方式來製定權力和控制周圍的人。

Eva：很多聯名銀行賬戶或共享信用卡服務之類的東西都偽裝成聯名賬戶，但實際上一個人擁有更大的權力。 例如，這發生在我身上，這真的很令人沮喪，因為我處理了婚姻中的大部分財務問題。 但是當我們幾年前建立我們的第一個聯合銀行賬戶時，他們將我丈夫設置為主要用戶，這基本上意味著是他的公開數據被用來創建安全測驗。 當我從一個新的 Wi-Fi 網絡登錄我們的銀行時，我不得不問他，你小時候住在這些街道中的哪一條？ 他們實際上大多是......其中一些我可以回答。

伊娃：我知道他從來沒有在加利福尼亞生活過，但他們中的很多人實際上都非常好，即使我們已經在一起很長時間了，我也不得不問他。 他們在阻止某人方面非常有效。 不過好像這應該是聯名賬號，為什麼會……其實只是他的一個賬號，我也可以訪問。 很多問題是，他們允許某人擁有更多控制權，因為他無法給我答案，然後我就無法獲得我們的財務狀況，而無需致電銀行或經歷某些事情並經歷不同的過程。 是的。 許多不同的控制問題。

Eva：我認為，每當你設計一個涉及多個用戶的產品時，都要考慮一個用戶如何使用它來控制另一個人，然後我們如何對此採取一些保護措施，要么讓它一個人沒有控制權。 如果這不可能，我們如何至少確保對方確切了解正在發生的事情並確切知道如何重新獲得權力？ 我們可以給他們一個電話號碼，某種設置來改變嗎？ 不管是什麼，這一切都變得有點複雜。

伊娃：我在書中確實有一個關於這在實踐中的實際情況的完整過程，比僅僅考慮家庭暴力或只考慮誰在控制中更具體一些。 我不覺得這種建議超級有用。 我確實有一個非常徹底的過程，設計師可以在他們實際現有的設計過程之上投入其中一些東西。

德魯：我猜，你在哪裡有這些帳戶……擁有一個帳戶是一個司空見慣的概念。 我們正在構建基本構建塊的產品或服務，好吧，我們有一個用戶帳戶。 在設置帳戶時，我們可能甚至沒有真正仔細考慮過各種問題，並認為帳戶與負責帳戶的人不同？ 通常，他們只是被認為是一個實體，然後你必須將其他實體添加到它上面來創建聯合賬戶和諸如此類的東西。 但還要考慮到如果兩個人分道揚鑣，那個賬戶會發生什麼的問題，將來怎麼能分開呢？ 這是我們應該從一開始就考慮的事情嗎？

伊娃：是的，絕對的。 這是你提出的一個非常好的觀點。 我認為我真正強烈感受到的一件事是，當我們在設計中以不同類型虐待的倖存者為中心時，我們最終會製造出對每個人都更好的產品。 我確實採訪了相當多的人，特別是關於經濟虐待因素，這在家庭暴力環境中很常見。 統計數據是 99% 的人處於家庭暴力關係中，其中存在一些非常普遍的經濟虐待因素。 但我最後也採訪了一些悲慘地失去了他們的配偶，一個人已經死了，他們有一個聯名賬戶。

伊娃：這就像一個漂亮的......這是一個非常常見的，可悲的是，場景，但這並不是很多這些產品旨在處理的事情，並且可能需要數年才能真正完全控制一個共享帳戶或類似......當我奶奶去世時，她很有遠見，她讓我父親可以接觸到一切。 但即便如此，他仍然需要很長時間才能真正解決所有問題，因為這些產品並不是為了處理這樣的事情而設計的。 但是，如果我們以倖存者為中心，想一想，是的，當兩個人分開時會是什麼樣子，並且能夠有效地處理它，那最終將幫助其他人在其他情況下。

Drew：我們認為很多人會考慮入職流程、創建新帳戶以及將人們帶入產品中，然後忘記考慮他們以任何方式離開時會發生什麼，無論他們是否不幸死去，或者如何在過程的另一端。 我認為它沒有得到真正可以從中受益的關注。

伊娃：是的。

德魯：我們在口袋裡隨身攜帶手機，它們是非常個人化的設備，它們通常是我們獲取信息、財務和交流的關鍵。 在不利的情況下，這很容易......它是一種個人設備這一事實可能成為控制和濫用的載體。 想想定位服務，Apple 的 Find My 之類的服務，如果你有學齡兒童，那就太好了. 它在很多方面都是一項安全功能，但該功能可以被顛覆，不是嗎？

伊娃：是的，絕對的。 是的，我很高興你提出這個問題，因為這些產品中有很多是兒童的安全功能。 是的，當然，父母想知道他們的孩子在哪裡，他們想確保他們的安全，這可能是一個非常有效的工具。 我確實認為父母過度使用這些產品存在很多問題。 我發現了一些大學生的情況，他們仍然被父母檢查，如果他們去校外聚會就會接到電話，比如你為什麼不在宿舍？ 像這樣的東西。 它可能會變得太多。 但是，是的，在大多數情況下，這些都是很棒的產品。 但是很多人確實會濫用這些來跟踪那些不同意跟踪其位置的成年人，而且很多時候他們要么……

Eva：你必須像谷歌地圖那樣進入服務，例如位置共享。 您必須進入它才能看到您正在與某人共享它。 沒有警報。 與“查找我的”類似。 正在跟踪其位置的用戶確實會收到警報，但是在家庭暴力的情況下，施虐者很容易在他們看到它之前刪除該人手機上的警報，然後那個人就沒有其他方法了將會意識到這甚至正在發生。 我認為這是一個很好的例子，說明當我們創造最終關乎兒童安全的東西時，濫用案件並未被考慮在內。 但是我們必須意識到，在這些其他環境中，有很多人會使用它而不是孩子。

德魯：我想在一段關係中，你可能會同意在某個時間點非常願意跟踪你的位置，然後你可能不明白這種情況會繼續，也可能不知道這種情況仍在繼續，而你正在在不知不覺中被跟踪。

伊娃：是的。 這是一件非常重要的事情要考慮，因為在虐待關係中，它不像……虐待並不是從第一天開始的，在大多數情況下。 一開始通常是一段非常好的關係，然後他們慢慢引入不同形式的控制權，奪取權力，將這個人從他們的支持網絡中移除，這一切都會隨著時間的推移而發生，通常是多年，因為如果你剛剛開始這樣做第一次約會，大多數人會說，“是的，不，我出去了。” 但是一旦有了這種愛的關係，就很難離開那個人了。

伊娃：但是，是的，很多時候在關係開始時完全安全的事情不再安全，但那個人早就忘記了他們與這個人分享了他們的位置，然後又一次不好提醒方式。 值得稱讚的是，谷歌每 30 天發送一封電子郵件，儘管有些人說他們實際上並沒有那麼頻繁地收到郵件，有些人確實如此。 我不確定到底發生了什麼，但他們確實發送了一封摘要電子郵件，這些人都是您與之共享位置的人，這真是太棒了。

伊娃：但我確實認為30天內可以造成很多傷害。 我更喜歡更頻繁甚至無所不在的東西，讓你知道這種情況正在發生，或者更頻繁地發生，然後會讓施虐者刪除該通知。 是的，這是一個非常好的觀點，是同意。 很多事情都來自性侵犯同意的做法。 我認為與技術有很大的相關性。 僅僅因為您過去同意某事並不意味著您現在或將來同意它。 但在科技領域，我們會說，“嗯，他們五年前就同意了，所以同意，它仍然有效”，但事實並非如此。 我們應該稍後再徵得他們的同意。

德魯：是的，它提出了各種各樣的挑戰，不是嗎？ 在如何設計這些東西時，因為您不想在產品設計中設置太多障礙，以至於它變得無用。 或者，如果您正在跟踪一個孩子，而他們那天並沒有真正重新同意，突然間，他們失踪了，而且他們沒有啟用該服務。 但同樣，確保該同意僅在真正給予的情況下持續進行。 我認為在共享文檔中很容易，如果你使用谷歌文檔，或者其他什麼，看看當時誰在看那個文檔，所有的圖標都會出現，如果……所有不同用戶的頭像和有訪問權。 當人們訪問您的位置時，您認為這些解決方案同樣適用嗎？

伊娃：是的，完全。 是的，它確實變得粘稠。 這些東西沒有很多直接、簡單的解決方案，而且，是的，你想……也許讓你八歲的孩子每天都同意不是一個好主意，因為如果有一天他們就像，“不”，或者他們錯誤地說不或其他什麼，然後突然之間，你找不到他們。 是的，這是一個真實的場景。 我認為，對於其中一些東西，我認為說“好吧，這個作品不應該存在，或者你應該每天都得到同意”是不現實的。

Eva：但是在那些情況下，你仍然可以做一些事情，比如告訴這個人這個人，這個其他用戶可以查看他們的位置，即使他們無能為力。 至少給他們這些信息，讓他們清楚地了解正在發生的事情，然後如果他們處於虐待關係中，可以採取行動保護自己的安全，這將非常有用。 也許現在他們知道了，好吧，當我在午餐時間離開辦公室去見我的朋友時，我不會隨身攜帶手機，因為她總是非常主張我離開辦公室。關係，如果我帶上手機，他就會知道我去了某個地方。

伊娃：但如果我把手機放在辦公室，他就不會知道。 能夠做出這些類型的明智決定。 即使您不一定能夠結束位置共享，我們也肯定可以做其他事情來保證用戶的安全，同時仍然保留功能產品的核心功能。

德魯：是的。 它歸結為設計決策，不是嗎？ 找到困難問題的解決方案，但首先要了解問題存在並且需要解決，我認為這就是這次對話對於理解事物的不同使用方式非常重要的地方。 我們越來越多地擁有帶有麥克風和攝像頭的設備。 我們家里和門鈴上都有很多監控攝像頭，秘密監控不再只是間諜電影和警察節目中的東西，是嗎？

伊娃：是的。 哦耶。 這是一個巨大的問題。 我對這些東西有很強烈的感覺，我知道很多人真的很喜歡這些設備，我認為這完全沒問題。 我確實認為它們被大量用於監視。 我認為很多配偶和家庭成員，但也有很多……這是我認為與孩子打交道的地方，至少對我來說，甚至孩子也有一些隱私權變得更加明確，尤其是當你看到青少年需要更多的獨立性並且他們需要空間時，獨立性確實在進行大腦發育。

伊娃：我認為有一些方法可以幫助您的孩子在網上安全並做出正確的決定，並且有時也可以檢查他們在做什麼，而不是讓您經常觀察他們或不斷將自己注入他們的生活中他們不想要的。 但是，是的，過多的不同監控設備剛剛失控，人們一直在使用這些設備來暗中監視對方，甚至不公開。 有時它是公開的，就像，“是的，我在看著你。 你打算怎麼辦呢？ 你不能，因為我們處於這種關係中，我選擇使用暴力來保持我的權力和對你的控制。”

Eva：這成了一個非常大的問題。 我經常遇到的是人……這成為施虐者將倖存者與他們的支持網絡隔離開來的另一種方式。 您不能與您的朋友、兄弟姐妹或治療師進行私人電話交談。 突然之間，你家中沒有一個地方是真正的私人空間，這在人們被迫呆在家裡的大流行期間也是一個非常大的問題。 我們已經看到家庭暴力的大幅增加，以及技術助長了家庭暴力，因為施虐者有更多的時間來弄清楚如何做這些事情，而且他們必須控制的空間要小得多。 很多人一直在這樣做。 這真是個大問題。

德魯：我希望這類產品、監控攝像頭和你所擁有的產品的製造商會說，“我們只是在這裡製造工具。 我們對它們的使用方式不承擔任何責任。 我們對此無能為力。” 但是你會爭辯說，是的，他們確實對這些工具的使用方式負有責任嗎？

伊娃：是的，我會的。 首先，我會告訴那些這樣說的人，“在你成為科技公司的員工之前，你首先是一個人，資本主義的賺錢人。 你是一個人，你的產品正在影響人類，你要為此負責。” 我要說的第二件事是，僅僅要求我們的用戶具有更高水平的技術素養是一種真正有問題的心態，因為我們這些從事技術工作的人很容易說，“嗯，人們只需要學習更多關於它。 如果有人不了解我們的產品是如何被使用的，我們概不負責。”

Eva：但大多數人不從事科技工作，顯然，他們仍然有很多真正精通科技的人，他們不在科技行業工作。 但要求人們準確了解他們擁有的每一個應用程序，他們在手機或筆記本電腦上使用的每一件東西，他們家中的每一台設備，了解每一個功能並確定它可能的方式用來對付他們，那是一個巨大的負擔。 如果你只是想你的一個產品，這似乎沒什麼大不了的，哦，好吧，當然，人們應該花時間去理解它。

伊娃：但我們談論的是幾十種產品，我們讓那些正在經歷危險情況的人去了解這些產品，這是非常不現實和非常不人道的，特別是考慮到虐待和監視以及這些不同的事情會做什麼如果您一直處於受到威脅的狀態並且一直處於這種生存模式，那麼您的大腦就會受到影響。 你的大腦將無法擁有完整的執行功能，無法弄清楚、查看這個應用程序並試圖確定我的丈夫是如何使用它來監視我或控制我或其他任何事情。 我想說的是，老實說，這是一種糟糕的心態，我們要對人們如何使用我們的產品負責。

德魯：當您認為大多數人對微波爐上的按鈕僅了解一兩個按鈕時，我們怎麼能期望我們了解我們接觸到的所有不同應用程序和服務的功能和功能？

伊娃：當然。 是的。

德魯：在設計產品和服務方面，我覺得作為一個說英語的白人直男，社會賦予我的特權地位讓我有一個巨大的盲點，我覺得很天真，我知道這可能在我正在做的事情中導致有問題的設計選擇。 是否有我們可以採取的步驟和流程來確保我們暴露這些盲點並儘最大努力走出我們自己的經驗領域並包含更多場景？

伊娃：是的，絕對的。 我對此有很多想法。 我認為有幾件事。 首先，我們都有責任對自己的盲點進行自我教育。 每個人都有盲點。 我認為也許一個順式白人男性比其他群體有更多的盲點，但這並不是說有些群體會沒有盲點。 每個人都有。 我認為教育自己了解我們的技術可能被濫用的不同方式。 我認為這不僅僅是……顯然，人際安全是我工作的重點。 但是還有其他所有的事情，我也一直在努力學習並弄清楚如何確保我正在研究的技術不會使這些不同的事情永久存在。

Eva：我真的很喜歡 Sara Wachter-Boettcher 的 Design For Real Life，而 Eric Meyer 非常適合包容性設計和富有同情心的設計。 但後來我也一直在學習算法、種族主義和性別歧視以及算法的不同問題。 我們需要考慮很多不同的事情，我認為我們都有責任了解這些事情。 然後我還認為，一旦你確定，種族主義將成為這個產品的一個問題，我們需要確保我們正在處理這個問題，並且試圖阻止它，並絕對讓人們報告種族主義或你有什麼。

伊娃：其中一件事，我在書中給出的例子是 Airbnb 存在很多種族主義和種族主義房東的問題。 即使只是關於你是否有的研究……如果你的照片是黑人，你會被拒絕。 與您的照片中有白人相比，您預訂住宿的請求會更頻繁地被拒絕。 我認為我作為一個白人，這是我認為我不能去了解然後作為這個問題的權威發言的事情。 我認為在這種情況下，您需要聘請具有這種生活經驗的人可以為您提供信息，因此請聘請一名黑人設計師顧問，因為顯然我們知道技術實際上並沒有很大的多樣性。

Eva：理想情況下，您的團隊中應該已經有人可以對此進行交​​流，但我認為……但是它是如此復雜。 這就是我們需要隊友付出這種勞動的地方嗎？ 這也可能有問題。 你團隊中的黑人可能已經面臨很多不同的事情，然後讓白人說，“嘿，跟我談談你因為種族而遭受的創傷經歷。” 我們不應該把這種負擔放在人們身上，除非……

伊娃：很多人會願意提出並談論它，我會談論一些事情，我作為女性的經歷，但這可能不是我每天都想做的事情。 在這種情況下，僱傭那些為工作做這件事的人，然後總是為他們的生活經歷付錢，並使其在實際補償人們的知識和生活經歷方面不具有剝削性。

德魯：是的。 我認為這確實強調了讓不同的團隊致力於產品並帶來各種不同的體驗是多麼重要和有益。

伊娃：是的，絕對的。

Drew：您在書中在設計過程中涵蓋的一件事是創建施虐者和倖存者原型，以幫助您測試您的功能。 你能告訴我們一些關於這個想法的事情嗎？

伊娃：是的。 這是因為想要擁有一種可以幫助人們非常清楚地了解問題所在的角色人工製品。 這是在團隊對該問題進行研究並確定涉及人際安全時可能存在的不同問題並且可以非常清楚地闡明這些問題之後發生的事情。 然後你製作施虐者原型，即試圖使用你的產品來解決任何傷害的人，然後是倖存者原型，他將成為這種傷害的受害者。 重要的是有目標。 這就像你找到一張照片，或者你甚至不需要一張照片，但它只是闡明了虐待是什麼，然後是這個人的目標。

伊娃：如果有人因為想跟踪她而想弄清楚他們的前女友現在住在哪裡，那麼他的目標就是跟踪她。 然後是倖存者的目標……好吧，對不起，施虐者的目標是使用你的產品。 例如，假設它是 Strava，它是我在書中用作示例的其中之一。 我想用 Strava 追踪我的前女友，然後倖存者原型說，“我想對試圖跟踪我的前任保密我的位置。” 然後，您可以使用這些目標來幫助告知您的一些設計並測試您的產品，以查看是否有任何關於倖存者位置數據的信息可供試圖找到其位置的人公開使用，即使他們已啟用所有隱私特徵？

Eva：我以 Strava 為例，因為直到幾個月前，才有這種能力。 即使您將所有內容都保密，如果您在附近使用該應用程序的其他人跑步或鍛煉一段時間，也不清楚您必須離多近或必須運行多長時間street 作為另一個人，它會將他們標記為出現在您的鍛煉中。 這將是施虐者能夠實現他的目標的一個例子，他能夠以這種方式找到他的前任。 然後你就會知道，好吧，我們需要反對它並阻止這個目標成功。

德魯：特別是，你不可能想出每一個場景。 你無法弄清楚施虐者在所有情況下都會嘗試做什麼。 But by covering some key apparent problems that could crop up, then I guess you're closing lots of doors for other lines of abuse that you haven't thought of.

Eva: Yes. 是的，正是。 That brings up a really good other related point, which is that, yeah, you're probably not going to think of everything. Then having ways for users to report issues and then being the type of team and company that can take those criticisms or issues that users identify with some grace and quickly course correcting because there's always going to be things you don't think about and users are going to cover all sorts of things. I feel like this always happens. Being able to have a way to get that feedback and then to quickly course correct is also a really big part of the whole process of designing for safety.

Drew: Is there a process that would help you come up with these potential problems? Say you're designing a product that uses location data, what process would you go through to think of the different ways it could be abused? Is there anything that helps in that regard?

Eva: Yeah. This is something I get more in depth about in the book, but having some research around it first is the first thing. With location services is a pretty easy one, so to speak. There's so many documented issues with location services. There's also been academic studies done on this stuff, there's lots of literature out there that could help inform the issues that you're going to face. Then the other thing that I suggest that teams do is after doing this research is doing a brainstorm for novel of use cases that have not been covered elsewhere.

Eva: The way I usually do this is I have the team do a Black Mirror brainstorm. Let's make a Black Mirror episode. What's the worst, most ridiculous, just anything goes, worst case scenario for this product or feature that we're talking about? People usually come up with some really wild stuff and it's actually usually really fun. Then you say, “Okay, let's dial it back. Let's use this as inspiration for some more realistic issues that we might come across,” and then people are usually able to identify all sorts of things that their product might enable.

Drew: For people listening who feel like they would really love to champion this area of work within their organization, do you have any advice as to how they could go about doing that?

Eva: Yeah. There is a lot of stuff about this in the book, about integrating this into your practice and bringing it to your company. Advice for things like talking to a reluctant stakeholder whose only concern is, well, how much is this going to cost me? How much extra time is this going to take? Being able to give really explicit answers about things like that is really useful. Also, I have recordings of my conference talk which people usually say, “I had just had no idea that this was a thing.” You can help educate your team or your company.

Eva: I talked about this in the book too, honestly, it can be awkward and weird to bring this stuff up and just being mentally prepared for how it's going to feel to be like, “We should talk about domestic violence,” or, “We should talk about invasive child surveillance.” It can be really hard and just weird. One of the pieces of advice I give is for people to talk to a supportive coworker ahead of time, who can back them up if you're going to bring this up in a meeting and just help reduce the weirdness, and there are some other tactics in the book. But those are definitely the big ones.

Drew: I would normally ask at this point where our listeners should go to find out more about the topic. But I know that the answer is actually to go and read your book. We've only really just scratched the surface on what's covered in Design For Safety, which is out now, this August 2021 from A Book Apart. The book, for me, it's sometimes an uneasy read in terms of content, but it's superbly written and it really opened my eyes to a very important topic. One thing I really like about all the A Book Apart books is they're small and focused and they're easy to consume. I would really recommend that listeners check out the book if the topic is interesting to them.

Eva: Yeah, thanks for that. Theinclusivesafetyproject.com is the website I have to house all of this information. There's a lot of great resources in the back of the book for people who want to learn more. But if you just want something and more immediately, you can go to Theinclusivesafetyproject.com and there's a resources page there that has different sort of articles or studies to look at different people working in related spaces to follow on Twitter, books to read, things like that.

德魯：對。 I've been learning what it means to design for safety. What have you been learning about, Eva?

Eva: I have been learning about data. I'm reading a really interesting book called Living in Data by Jer Thorp, which I thought it was going to be all about different issues with big data, which is such a big thing but it's actually an extremely thoughtful, much more interesting approach to what it means to live in data and just how much data is taken from us every day and what's done with it and just data out there in the world. It's really interesting and important, and yeah, I would definitely recommend that book.

Drew: No, amazing. If you the listener would like to hear more from Eva, you can follow her on Twitter where she's @epenzeymoog, and you can find all her work linked from her website at evapenzeymoog.com. Design For Safety is published abookapart.com and is available now. Thanks for joining us today, Eva. 你有什麼離別詞嗎？

Eva: Please get vaccinated so that we can go back to normal.