道德設計：實用入門指南

到目前為止，大多數在科技行業工作的人都知道並感受到與科技巨頭培育和支持的監視資本主義有關的深切擔憂。 我們知道問題的根源在於將用戶數據資本化和貨幣化的商業模式。 人們每天都被剝削的故事，例如最近關於 Instagram 如何扣留某些用戶的通知，目的是提高他們打開應用程序的速度的故事。 在同一個故事中，《環球郵報》描述了 Facebook 的前高級員工如何培養良心，並講述瞭如何精心構建功能以利用人類行為並使我們沉迷於社交媒體的可怕故事。

作為設計師和開發人員，我們有義務打造比這更好的體驗。 本文解釋了不道德的設計是如何發生的，以及如何通過一組最佳實踐進行道德設計。 它還可以幫助您了解如何播下種子以改變您工作的公司和設計社區的意義，即使您不是管理層的一部分。 改變從運動開始！

道德設計

讓我們從核心術語開始：根據韋氏詞典，倫理學是“處理好與壞以及道德責任和義務的學科”。 就本文而言，倫理學將被定義為一個道德原則體系，它定義了人們認為什麼是善惡。 因此，道德設計是為了做好事而進行的設計，而不道德的設計則是黑帽設計。

Ind.ie 是一家在數字時代為正義而奮鬥的社會企業。 它由 Aral Balkan 和 Laura Kalbag 創立，他們定義了一個“道德需求層次”，很好地描述了道德設計的核心。

與任何金字塔形結構一樣，需求倫理層次結構中的層位於其下方的層上。 如果任何層被破壞，位於它上面的層就會崩潰。 如果設計不支持人權，那就是不道德的。 如果它支持人權，但不尊重人類的努力，因為它具有功能性、方便性和可靠性（並且可用！），那麼它就是不道德的。 如果它尊重人的努力，但不尊重人的經驗，為使用它的人創造更好的生活，那麼它仍然是不道德的。

從實際的角度來看，這意味著利用用戶數據、使用黑暗模式並且通常只是為了賺錢而無視其人類目的的產品和服務是不道德的。 讓我們看看不道德的設計是如何在商業模式和設計決策中表現出來的。

不道德的設計：企業的黑帽

監視資本主義

數據驅動的設計可以用來做好事。 但更多情況下，它用於貨幣意圖，也稱為監視資本主義。

正如 ind.ie 的道德設計師和創始人 Aral Balkan 所說：

“當像 Facebook 這樣的公司改善其產品的體驗時，就像我們給神戶牛肉做的按摩一樣：它們不是為了奶牛的利益，而是為了讓奶牛成為更好的產品。 在這個比喻中，你就是牛。”

監視資本主義本質上是不道德的，因為它的核心是利用豐富的數據來描述人們並了解他們的行為，其唯一目的是賺錢。 最令人不寒而栗的想法是，數據如何不僅用於預測和操縱當前行為，還用於通過機器學習來描述我們未來的自我，最終賦予公司影響我們未來決策和行為模式的能力。

正如獨立研究機構和創意實驗室 Cracked Labs 在其關於針對人的數據的報告中所說：

“根據人們的數據做出關於人們的決策的系統會產生嚴重的不利影響，從而極大地限制他們的選擇、機會和生活機會”。

這種情況每天都會發生在使用 Facebook 的每個人身上，個性化的提要經過仔細過濾，以顯示最有可能引發參與和活動的帖子。 定價也變得越來越個性化，因為公司能夠使用豐富的數據來評估客戶的長期價值，也稱為數據驅動說服。

數據交易和數據跟踪是一項大生意。 根據“日常生活中的企業監控”報告，Oracle 提供了對 50 億（是的，10 億！）唯一用戶 ID 的訪問權限（這在 Oracle 的網站上得到了證實）。 “害怕”這個詞並沒有涵蓋我們都應該面對這個事實的情緒狀態。

人們只能想像公司將如何利用數據來分析我們中哪些人更有可能出現心理健康或身體問題，從而將我們置於未來工作的“不謝”申請中。 考慮到這一點，我擔心我孩子的未來。

對某些人來說，上述內容可能聽起來像是科幻電影中的內容，但一點也不牽強。 不道德的公司每天都在暴露，從聲稱保護其 2400 萬用戶數據但將其出售給 Facebook 的 VPN 應用程序到名為 Alphonso 的軟件（根據《紐約時報》的一篇文章，該軟件被用於 250 多個遊戲應用程序（其中一些是為兒童設計的）監控人們觀看的電視廣告——即使該應用程序沒有處於活躍狀態。 以極不道德的目的收集和使用數據的公司名單不勝枚舉。

黑帽設計

然而，數據跟踪並不是不道德設計發揮作用的唯一方式。 深色模式也屬於不道德的設計，因為它們是專門設計用來欺騙我們做我們不一定想做的事情的黑帽設計模式。

當一家公司利用名為Roach Motel的黑暗模式使您幾乎不可能刪除您的帳戶（看著您，Skype）時，這可能不會被認為是不道德的。 但從商業方面的動機來看，不難看出設計的不道德本質（別忘了中國鞋業公司通過在 Instagram 廣告上添加假頭髮來欺騙人們刷卡）。

Harry Brignull 是黑暗模式背後的創始人和推動力之一，他指出，黑暗模式之所以有效，是因為它們利用了人類大腦的弱點和我們的硬連線方式。 這在我的書中被認為是不道德的，我們對設計這些產品以做得更好的人負有道德義務。

培養消費主義並操縱人們購買更多東西的企業在設計上是不道德的。 這是電子商務中的常見做法，它利用了一種稱為“損失厭惡”的現象。 Hotels.com 尤其具有侵略性，它會在幾秒鐘內發送幾條通知，告知有多少人已經預訂並正在與您查看同一個房間。

通用數據保護條例

2018 年 5 月下旬實施的通用數據保護條例 (GDPR) 將成為打擊設計不道德的公司的有效工具。

GDPR 是一項廣泛的法規，其中的亮點包括：

• 任何收集數據的組織都要求以安全的方式收集數據；
• 對數據洩露處以高額罰款；
• 只有在明確同意後才能收集數據，並且用於解釋為什麼收集數據的語言必須簡單明了。 此外，同意必須隨時可以撤回，並且必須像給予同意一樣容易（順便說一句，包括Sign up → Delete profile ）；
• “被遺忘的權利”，意味著人們有權刪除他們的數據；
• 人們有權在任何組織中訪問他們的個人數據，以及有關如何處理這些數據的信息；
• 數據可移植性，這意味著人們有權在一家公司持有他們的數據並將其轉移到另一家公司；
• 對不遵守 GDPR 的行為處以重罰。

總而言之，2018 年 5 月 25 日，對人們來說是一個美好的日子，對於所有設計不道德的組織來說，這預示著一個截然不同的未來。

但是，我們不要自欺欺人，認為變化會在一夜之間發生，或者在所有組織中瞬間發生。 為了隨著時間的推移實現這一目標，需要進行更深入的改變。

改變通過意義的改變而發生

GDPR 不可能解決我們所有的問題。 相信那將是天真的。 這就是為什麼將繼續由公司內部的人來做出改變。 好消息是，即使您不是決定商業模式的管理團隊的一員，也可以做出改變。

這種向更合乎道德的設計方法的轉變並不是一夜之間發生的。 相反，可以通過 Don Norman 和 Roberto Verganti 所謂的意義驅動創新（在他們關於“漸進式和激進式創新”的文章中閱讀更多內容）進行漸進式變革並促進長期的組織變革。

意義驅動的創新是人們開始表達新思想的結果，這些思想創造了新的動力，最終導致了全新的意義。

Don Norman 和 Roberto Verganti 說，激進創新只有在以下情況之一發生時才會發生：

1. 一種新的使能技術以可靠、經濟的形式出現（觸摸界面花了 20 年時間才走出實驗室並進入手機和平板電腦市場）；
2. 當事物的意義在社會中發生變化時——也稱為意義驅動的創新。

我認為，在數據驅動型業務方面，我們對隱私的意識、關注和關注度不斷提高，這將在不那麼明顯的未來引發激進的創新和社會變革。 具有諷刺意味的是，創立監控資本主義的公司也引發了我們對隱私權的看法發生了變化，我們已經開始看到公司和組織創新並促進隱私驅動的解決方案。

跟踪和監視我們的公司的意義已經發生了變化。 當 Facebook 上的廣告基於我們的瀏覽歷史時，我們過去並沒有認真考慮，甚至可能覺得很方便。 但隨著監視資本主義的升級，我認為我們正在經歷一場意義的改變，因為越來越多的人發現以企業的名義被監視不僅不舒服，而且直接不可接受。

不跟踪的搜索引擎 DuckDuckGo 在 2017 年平均每天有 1600 萬次搜索查詢，這表明隱私是人們在使用網絡時日益關注的問題。 此外，我們看到致力於保護隱私的應用進入市場，例如 Signal，這是一款旨在保護隱私的安全電話和即時通訊應用。 此外，GDPR 極有可能引發與隱私相關的進一步意義變化。

過渡到以人為本的設計方法

以人為本的設計 (HCD) 是由 Don Norman（以及其他人）開發的一種哲學。 根據用戶體驗專業協會 (UXPA) 的定義，HCD 的定義是“用戶的積極參與以及對用戶和任務要求的清晰理解”。

Don Norman 和 Roberto Verganti 在他們的實質性研究中得出結論，HCD 僅適用於漸進式創新——逐步改進——因為在通過用戶研究不斷觀察事物的現有狀態時不會發現新想法。

雖然這聽起來很合理，但我相信 HCD 可以證明是對意義驅動創新的抵消，最終導致人們接受和不接受不道德組織的廣泛意義變化。 我之所以相信這一點，是因為與其他任何體驗設計方法相比，HCD 培養了更深層次的同理心。

以人為本的設計是一個框架，也是一種心態。 在其核心，“以人為本”的工作意味著讓您服務的人儘早並持續參與到流程中，即通過研究確定這些人的需求，了解他們有什麼問題，以及您的產品如何幫助解決這些問題。

以人為中心的工作屬於體驗設計師的自然範疇，但如果你的工作是設計和開發，並且經常被 sprint 審查和日常任務所佔據，你會怎麼做？

在與遠程開發團隊合作時，我了解到開發人員與使用該產品的人沒有任何联系。 這經常導致激烈的討論，其中諸如“我認為……”、“從技術角度……”和“我覺得……”之類的陳述是主要論點。

根據你的想法和感受做出決定，或者從技術角度來看最簡單的決定，最大的問題是它不涉及你所服務的人。 將您的產品或服務放在世界上為其解決問題的人。 這就是 HCD 的用武之地。

用戶體驗設計師和研究人員通常會進行研究，記錄見解，並以角色、用戶需求描述、用戶流程、旅程等形式將它們以精緻的狀態呈現給設計和產品團隊。 這一切都很好。 然而，問題是組織和你所服務的人之間的距離仍然很大，因為除了 UX 設計師之外沒有人與他們交談或看到他們使用該產品。 所以他們不斷地回到“我覺得……”、“我認為……”和“從技術角度來看……”

為了幫助建立對你所服務的人的同理心，設計師和開發人員——以及組織的其他成員——可以做一些非常有影響力的事情（並且可以向​​用戶體驗團隊提出要求）。

1. 讓所有團隊成員參與觀看用戶測試會話的視頻。
   實際上，每一秒都值得每一秒經歷使用您的產品（或原型，取決於您正在測試的內容）的人們的痛苦和喜悅。 觀察其他人與您正在構建的東西互動和評論的重要性怎麼強調都不為過（不，您的團隊在這裡不算“人”！）。
   
   如果這不是您公司日常工作的一部分，請要求將其包括在內。 當然，絕大多數用戶體驗設計師不會對組織和促進此類會議感到興奮。 你一定會經歷痛苦、痛苦、挫折、快樂，並讓你大開眼界，這一切都將成為培養以人為本的心態的墊腳石。

2. 索取你所服務的人的真實活生生的肖像。
   這包括來自背景研究的照片和視頻、他們日常生活中的故事以及關於他們的故事。 更深入地了解您開發的產品另一端的人會產生即時的同理心，並使設計故意對他們不利的東西變得更加困難。

3. 堅持不斷測試。
   測試在 HCD 中的重要性怎麼強調都不為過。 這包括早期的概念驗證測試、原型測試和可用性測試。 打算使用該產品的人儘早和持續參與的附帶好處是，從長遠來看，它可以節省資金。 您越早意識到錯誤的調用或錯誤，修復的成本就越低。
   
   關於 1 月 13 日在夏威夷誤觸發的核警報已經有很多說法。但是，可以肯定地說，早期和持續的測試將有助於防止它發生。

4. 總是問“為什麼？”
   要開始改變組織或社區的意義，第一個重要步驟是開始問“為什麼”。 詢問為什麼做某事是不道德的； 詢問您為什麼被告知要製作黑帽功能； 質疑目前的狀況。
   
   詢問做出設計決策的依據是什麼。 如果這是因為 CEO 或其他人的想法，並且它與您所服務的人的見解無關，請尋求驗證。 意義變化是通過小步驟增長的。

道德設計最佳實踐

除了在組織中建立以人為本的設計傳統外，利用道德設計的最佳實踐也很重要。 這樣做的人是帶頭的一部分，並向組織的其他成員展示如何以更合乎道德的方式完成事情，所有這些都將增加意義的增量變化。 正如黑暗模式屬於不道德的設計一樣，我們有白帽設計模式可用於確保道德設計，您可以在下面了解其中的一些。

使用數據改善人類體驗

儘管許多公司將數據用於不道德的目的，例如增加消費和流量，但數據實際上可以用於改善人類體驗。

ind.ie 論壇上就是這種情況，建議設置一個帳戶作為通過記住您所讀內容來定制您的體驗的一種方式。

在我參與製作一個應用程序以讓學生更輕鬆地訪問他們的學習管理系統的當前項目中，我們按“上次訪問”對學生的個人課程進行排序； 我們通過研究了解到，學生最常重新訪問與他們當前註冊的課程相關的少數頁面。這種定制並不是為了改變行為或促使他們使用他們不打算使用的應用程序部分。 相反，它旨在讓他們的體驗更快、更高效。

另一個積極的例子是美國藥房 Walgreens，它會在需要補充維生素之類的東西時發出提醒。 這是一個非常有用的功能，可以解決我們很多人遇到的問題。

數據可以幫助為研究計劃提供信息，以了解您如何不解決人們在與您的產品交互時遇到的問題。

旅遊搜索引擎 Skyscanner 通過他們的數據注意到，他們新推出的設計對於使用他們的服務飛出阿姆斯特丹的人來說並不好。 這些數據有助於為一項研究計劃提供信息，該計劃最終為往返阿姆斯特丹的人們提供了一個定制的解決方案，打破了新設計最初建立的障礙（這是背景故事）。

無跟踪廣告

廣告不一定是不道德的。 基於粒度數據的廣告是。 依賴單一平台進行品牌的大部分營銷工作是粗心的（如果不是愚蠢的話），特別是考慮到該平台擁有並控製品牌用作其廣告定位基礎的數據。

Facebook、Instagram 和 Google 對他們的廣告商的關心程度與他們對他們視為“用戶”的人的關心程度一樣低，即他們可以做出任何他們想做的改變，而不管這可能對使用他們的人或企業產生的任何後果。平台。 例如，有一段時間他們開始大規模屏蔽虛假賬戶，這傷害了許多社交媒體管理員設置虛假賬戶來管理業務頁面的公司，因為他們（可以理解）不想為此目的使用他們的私人賬戶. 這是 Facebook 的標準程序，每人只允許一個個人資料（可能是因為允許多個個人資料會污染他們的數據跟踪）。

平台始終是營銷策略中最薄弱的環節，因為它是公司無法控制的第三方。 回想 90 年代，當我在一家地區性報紙從事營銷工作時，精細數據跟踪不是一種選擇。 當一家商店在報紙上刊登關於某項活動的廣告時，他們會簡單地監控有多少人出現，並將其與他們的預期進行比較以確定成功率。

雖然“過去的美好時光”在各個方面肯定都不盡如人意，但不將廣告基於精細的用戶數據跟踪的想法是一個吸引人的想法。 John Gruber 的博客 Daring Fireball 是一個不允許廣告跟踪的網站示例。 相反，John Gruber 鼓勵廣告商向他們的廣告添加自定義鏈接，使他們能夠監控最終的點擊率。

正如約翰格魯伯正確地指出：

“如果你為（比如說）Facebook 支付廣告費用，作為廣告商，你到底為什麼要相信 Facebook 的數據來判斷廣告的效果呢？”

- 資源

另一個值得強調的好例子是 Goodwings，這是一個酒店預訂網站，將一半的佣金捐贈給慈善機構。 他們之所以能夠做到這一點，是因為與大量非政府組織密切合作，這意味著他們在傳統營銷上的花費很少。

如果您認為 Google Analytics 是收集有意義數據的唯一選擇，請再想一想：Matamo 是一個開源工具，可直接安裝在您自己的服務器上。 它保證數據不會與穀歌等廣告公司共享。

始終，始終優先考慮可用性

如今，監視資本主義和數據跟踪被大量討論與道德設計相關的問題。 但我們不能忘記遵守可用性最佳實踐的重要性。 沒有它，設計是不道德的，因為缺乏可用性幾乎總是需要使用深色圖案。 Nielsen Norman Group 是閱讀更多關於核心可用性的好地方。

早在早期，Jakob Nielsen 就定義了可用性的 5 個核心組件：

• 易學性，
• 效率，
• 好記性
• 錯誤，以及
• 滿足。

為確保產品可用，這五個組件在設計和開發過程中處於前沿和中心位置至關重要。

不要要求比你需要的更多

與生活中的許多其他方面一樣，要求超出您的需要會導致剝削。 當人們註冊帳戶或購買產品時，電子商務網站通常會要求提供大量信息。 但是，如果有人正在購買數字產品（例如一本書），那麼除了他們的電子郵件地址之外，真的不需要詢問其他任何東西。

信號就是一個很好的例子。 它的核心是私有的，它只要求人們立即開始使用該應用程序絕對必要的信息。

保持透明

挪威.com 可能擁有世界上最好的機票預訂系統之一。 不僅使用方便，而且它們的可選服務費用也完全透明，而這些費用通常被隱藏起來。 居住在亞馬遜存儲國家以外的任何人都知道要找到他們所在位置的實際交貨價格是多麼困難。

結論

邁向更合乎道德的未來的運動已經開始。 變革不會在短期內發生，除非它已融入商業模式的核心。 但這並不意味著我們不能更好地改變當前狀態。 我們可以通過漸進式改變來做到這一點； 一步一步來。 通過以人為本，通過詢問原因以及使用道德設計的最佳實踐。 這是我們作為製造產品的人的義務，這些產品在人們的生活中根深蒂固。 我們所做的改變和塑造生活的好壞。 我選擇更好。

了解更多

有很多有價值的資源可供對道德設計感興趣的人使用。 這裡有一些可以幫助您入門：

• IDEO 的以人為中心的設計工具包對理解 HCD 非常有幫助，並提供了有關如何以人為中心工作的廣泛方法。
• Simply Secure 是一個在道德設計過程中支持和教育從業者的組織。 他們為有興趣構建可信賴技術的人們提供了全面的知識庫
• White Hat UX — The Next Generation in User Experience 這本書就如何設計透明、誠實和合乎道德的體驗提供了許多實用建議。 由 Trine Falbe、Martin Frederiksen 和 Kim Andersen 撰寫。
• Cracked Labs 是一家位於奧地利維也納的獨立研究機構和創意實驗室。 它研究信息技術的社會文化影響，並在數字文化領域發展社會創新。 他們提供有關大多數與隱私相關的事情的深入報告。