隱私設計：如何出售隱私並做出改變

隱私是一項基本人權，可以讓我們成為真正的自己。 這讓我們可以毫無羞恥地成為怪人。 它允許我們有不同意見而沒有後果。 最終，它讓我們得以自由。 這就是為什麼許多國家都有關於隱私的嚴格法律。 然而，儘管有這種共識，但互聯網上的隱私是迄今為止了解最少和定義不明確的主題之一，因為它涉及大量問題，以多種不同形式形成，這使得識別和討論變得異常困難. 但是，我想嘗試解決這種歧義。

在美國，打開某人的郵件屬於聯邦罪行。 這被認為是侵犯隱私的犯罪行為，可能會使某人入獄長達五年。 打個比方，我們在互聯網上創建的每一條數據——無論是照片、視頻、文本還是其他東西——都可以被認為是郵件的包裹。 然而，與在現實生活中打開我們的郵件不同，互聯網公司可以合法地打開通過他們的系統傳遞的每一封郵件，而不會產生法律後果。 此外，他們也可以復制它。 這些公司的所作所為類似於有人打開我們的郵件，在 Kinkos 複製它，然後將其存儲在帶有我們名字的文件櫃中，並與任何願意付費的人共享。 想要打開那個文件櫃或刪除一些副本？ 太糟糕了。 我們的郵件目前被認為是他們的財產，我們幾乎無法控制它的使用方式。

如果他們發現郵政服務將他們的郵件作為人質並將其出售給願意付款的人，你能想像公眾會經歷的憤怒嗎？ 互聯網上發生的數據沒有什麼不同，現在是時候改變了。

發生這種情況不僅僅是道德問題，而是基本人權問題。

做出需要做出的改變（沒有監管強制改變）的問題是用美元符號來解決問題。 為提高消費者隱私標準而進行的 20,000 小時工程投資的財務回報是多少？ 消費者是否要求這些改變？ 因為如果它沒有產生財政回報，消費者也沒有要求，那為什麼要做出改變呢？ 即使他們是並且有回報，20,000小時的投資甚至看起來像什麼？ 產品路線圖上會放什麼？什麼時候放？ 這些都是需要解決的有效問題，以幫助我們有效地前進。 所以，讓我們討論一下。

推薦閱讀：在網頁設計中使用倫理

消費者想要嗎？

這個問題的答案是肯定的。 皮尤研究中心的調查結果表明，美國 90% 的成年人認為他們能夠控制收集哪些關於他們的信息很重要，93% 的人認為他們可以控制誰可以訪問這些信息很重要，86% 的人認為採取措施去除或掩蓋他們的數字足跡。 在 doteveryone 的 2018 年數字態度報告中發現了關於歐洲人的類似數字。 儘管有這些數字，59% 的人仍然覺得不可能在網上保持匿名，68% 的人認為現行法律在保護他們的隱私方面做得不夠，只有 6% 的人“非常有信心”政府機構可以保證他們的安全。

現在，我知道你在想什麼。 這是消費者的需求，在這些消費者開始拋棄舊產品之前，沒有任何財政理由進行任何改變。 而且（雖然我不同意你的邏輯）你是對的。 目前幾乎沒有財政理由做出任何改變。 然而，當消費者需求達到臨界點時，事情總是會發生變化。 從長遠來看，在變革被要求之前引領潮流的企業總是會獲勝。 那些拒絕做出改變，直到他們被迫總是感到最痛苦的人。 歷史證明這是事實。 但是，會發生什麼改變業務的立法呢？ 好問題。

通過監管，全球數據保護和隱私標準即將發生的變化與不到十年前消費者要求保護免受垃圾郵件的影響並沒有太大不同，這導致了美國的 CAN-SPAM 法案——但規模更大，影響更大。 這項立法是因為消費者厭倦了收到垃圾郵件而製定的，它制定了商業電子郵件的規則，制定了商業信息的要求，賦予收件人讓個人和公司停止發送電子郵件的權利，並對違規行為進行嚴厲處罰。 隨著我們進入一個消費者開始了解他們被欺騙的嚴重程度的時期（多年來，讓人們密切控制他們的數據無疑將成為數據收集的未來）——無論是通過自由意志還是立法。 那些選擇先行動的人將獲勝。 不相信我？

考慮一下工程師可能會因為他們編寫的代碼而陷入法律糾紛的事實。 Apple Watch、Alexa 和 FitBit 數據等已被用作法庭上的證據，改變了消費者對其數據的看法。 微軟和美國最高法院於今年早些時候上法庭，以確定基於雲的犯罪活動的物理邊界延伸到哪裡，這將是一場長期鬥爭的開始。 這些示例只是對即將發生的事情的一瞥。 人們的要求越來越高，而我們正在達到臨界點。

第一個採取措施響應這一需求的是歐盟，它制定了 GDPR，現在其他國家的政策制定者也開始效仿，制定本國的法律來定義我們的網絡未來。 例如，美國參議院情報委員會副主席馬克·華納（Mark Warner）最近在幾個月前的一份總結報告中提出了一些想法，展示了美國可能很快將立法的方向。 但是，相信這就是未來的不僅僅是進步人士； 甚至像史蒂夫班農這樣的右翼影響者也認為我們需要監管。

我們所看到的是人類對不可思議的操縱的反應。 無論我們與前幾代人相比如何馴化，當人們感到受到威脅時，他們總是會反擊。 這是一種自然反應，使我們得以生存數千年。 今天，科技已經不僅僅是一個面向消費者的行業。 它現在也成為國家安全問題。 因此，無論我們喜歡與否，都會有反應。 如果我們提出一個準備而不是被掃地出門的策略，那就更好了。 那麼，你問的經濟回報是多少？ 那麼，你的生意值多少錢？ 那是多少。

推薦閱讀： GDPR 將如何改變您的發展方式

對於需要解決什麼以及為什麼需要解決的簡單框架，我們可以堅持以下幾個事實作為創建數字系統的基礎：

1. 隱私必須是主動的，而不是被動的，並且必須在隱私問題到達用戶之前對其進行預測。
   這些問題不是我們想要在問題出現後處理的問題，而是我們想要完全避免的問題，如果可能的話。
2. 隱私必須是默認設置。
   在隱私方面沒有“最適合企業”的選擇； 這是一個關於什麼對消費者最有利的問題，從長遠來看，這將對企業更好。 通過 2018 年 8 月 Paypal 和 Venmo 發生的事情，我們可以看到當強制缺陷暴露給公眾時會發生什麼，當時“默認公共”向公眾發布，給該品牌帶來了一些負面新聞。 更多的這種情況肯定會出現在那些等待壞事發生後再做出改變的企業身上。
3. 隱私必須是正和，並應避免二分法。
   與隱私沒有二元關係； 這是一個永遠具有延展性的問題，需要不斷的監督和永久的迭代。 我們的工作不會以條款和服務協議結束，它會永遠持續下去，並且應該被視為您的產品的基本要素，它與產品一起發展並使消費者能夠保護自己——而不是利用他們缺乏理解的機會。
4. 隱私標準必須是可見的、透明的、公開的、記錄在案的和可獨立驗證的。
   沒有很好的方法來定義您的隱私標準的試金石，但是作為商務人士，我們都應該問自己幾個問題：首先，如果媒體公佈了您的隱私協議，這可以理解嗎？ 其次，如果可以理解，消費者會喜歡他們閱讀的內容嗎？ 最後但同樣重要的是，如果沒有，你需要改變什麼？

隨著產品的構建和發展，這些原則將成為非常有價值的基礎。 它們代表了向您自己和您的團隊提出的快速簡單的問題，這些問題將使您擁有良好的道德基線，但是對於法律基礎的更長篇文章，您可以從 Heather Burns 那裡閱讀更多內容，他在去年概述了 Smashing 的幾項附加原則。 對於在隱私影響評估 (PIA) 期間要檢查的事項的完整列表，您還可以查看如何根據以下內容進行評估：

• 英國信息專員辦公室 (ICO)
• 加拿大隱私專員辦公室
• 美國國土安全部

但在急於對您的產品進行更改之前，首先讓我們指出當前存在的一些缺陷，並討論一旦正確實施這些更改可能會是什麼樣子。

如何做出改變

美國隱私實踐的最大問題之一是很難理解條款和服務協議 (T&S)，它們在定義隱私方面發揮著重要作用，但往往做得很差。 目前，如果用戶希望了解他們同意的內容，他們必須閱讀充滿法律語言和技術術語的長文檔。 一項研究實際上表明，普通人每年需要大約 201 小時（近 10 天）才能閱讀他們每年遇到的每一項隱私政策。 研究人員估計，這種浪費時間的價值每年將達到近 7810 億美元，考慮到這些是本應保護消費者的規則——這些規則被吹捧為簡單易懂的規則，這是無法接受的。 這使消費者處於被迫選擇加入而不真正了解他們正在進入的位置。 在許多情況下，強制的甚至不是法律語言，而是一般而言，提供選擇的方式，各種經驗清楚地證明了這一點：

上面給出的示例是通用線框，但我選擇這樣做是因為我們都見過這樣的模式以及與收集更具體類型的數據相關的其他模式。 我可以列出具體的例子，但這個列表會一直持續下去，沒有理由列出展示操縱模式的特定公司，因為這些模式（以及其他非常相似的模式）幾乎可以在 Internet 上的每個網站或應用程序中找到。 以這種方式徵求同意存在一個主要問題：不允許消費者在沒有幾個額外步驟、大量閱讀以及更多的情況下不接受條款和服務。 這是一個需要解決的基本缺陷，因為徵求同意意味著需要有一個拒絕的選項，為了知道“不”是否是最佳選擇，消費者需要了解他們同意什麼。 然而，產品並不是這樣構建的。 為什麼？ 嗯，這對企業來說是最好的。

如果我們真的坐下來想一想，很容易看到但不為人知的是，公司花費更多時間創建啟動頁面來解釋如何使用該應用程序，而不是我們解釋正在收集哪些數據以及為什麼要收集這些數據。 為什麼？ 對 T&S 協議的簽訂方式進行簡單的改變，不僅可以讓消費者更加了解他們所簽署的內容，還可以讓他們成為更負責任的消費者。 由於 GDPR 在全球範圍內產生的影響，我們可以看到其中一些變化已經發生。 在許多歐洲國家，通過以下方式徵求同意的情況並不少見：

第一個例子是向前邁出的一大步。 它告訴消費者他們的數據將用於什麼，但它仍然缺乏關於數據去向的透明度，並且在沒有拒絕選擇的情況下優先考慮協議。 它還將所有內容都塞進了一個單一的文本體中，這使得信息更難消化。

一個更好的例子來說明如何設計，就像下面的模式，現在在許多歐洲網站中很常見：

這使消費者能夠全面了解他們的數據將用於什麼，並以易於理解的方式進行。 但是，它仍然缺乏關於在他們同意後數據將去往何處的任何重要信息。 對於他們的數據將在哪里共享、將與誰共享以及這些協議中存在哪些限制，沒有一條線索。 雖然這比網絡上的大多數選項要好得多，但仍有待改進。

第三方登錄提示

例如，當使用第三方服務登錄您的平台時，消費者應該清楚以下幾點：

1. 將從第三方獲取哪些數據；
2. 如果您無法訪問它，它的用途以及它可能如何影響他們的體驗；
3. 還有誰擁有或可能擁有它。

為了以賦予消費者控制權的方式實現這一點，這種體驗還應該允許消費者選擇加入收藏的各個部分，而不是被迫同意一切或根本不同意。

這將使 T&S 易於消化，並允許消費者選擇他們真正同意的內容，而不是公司希望他們同意的內容。 並且為了確保它是真正的選擇加入，默認值應該設置為選擇退出。 這將是一個很小的變化，它將對徵求同意的方式產生巨大的影響。 今天，大多數公司都用法律術語來掩蓋這些內容，以隱藏他們真正感興趣的內容，但以這種方式徵求同意的日子很快就要結束了。

如果您為消費者提供有意義的服務，並且這樣做是合乎道德的，那麼這些變化應該不是問題。 如果服務有真正的價值，消費者就不會拒絕你的要求。 他們只想知道他們可以信任和不可以信任的人，這是一個簡單的步驟，可以幫助您的企業證明其可信賴性。

單點和多點數據收集請求

接下來，在為您的平台創建可理解的 T&S 協議時，我們必須考慮如何在應用程序體驗中更貼近上下文地發揮作用。 請記住，如果一切都預先放棄，那是不可消化的。 出於這個原因，數據收集請求應該在上下文中發生，當消費者即將使用您的服務的一部分時，需要收集額外的數據層。

為了演示這個問題是如何發生的，這裡有幾個例子來說明單點和多點數據收集請求的樣子：

將 T&S 分解為體驗中可消化的交互點，而不是預先向用戶詢問所有內容，這可以讓他們更好地了解正在發生的事情和原因。 如果您不需要數據來改善體驗，為什麼要收集這些數據？ 如果收集它的原因只是對公司有利的瑣碎原因，那就誠實。 這只是基本的誠實，不幸的是，這在現代世界被認為是革命性的、進步的客戶服務。

這些初始問題的最大關鍵是默認情況下這些都不應該是選擇加入的。 所有初始觸發器都應該讓使用該工具的人選擇加入，如果他們選擇使用它，而不選擇加入。 強制選擇加入（或者，更糟糕的是，強制選擇加入）的日子即將戛然而止，引領潮流的人將在未來很長一段時間內保持領先地位。

數據控制中心

除了以有意義的方式徵求同意之外，我們讓消費者能夠事後控制他們的數據也很重要。 消費者控制其數據的訪問權不應以條款和服務協議結束。 在他們的帳戶控制的某個地方，還應該有一個地方（或多個地方），消費者可以在他們投入時間使用服務後控制他們在平台上的數據。 該區域應向他們展示正在收集哪些數據、與誰共享數據、如何刪除數據等等。

完全數據控制的想法可能看起來非常自由，但毫無疑問是未來。 作為創造數據的消費者的財產，它應該被視為一項基本人權。 沒有理由在歷史的這一點上進行辯論。 數據代表了我們生活的故事——集體——並將其結合起來，對創造它的人產生了巨大的力量，特別是如果我們允許系統保持黑匣子。 因此，除了讓消費者訪問他們的數據，正如我們在前幾節中討論的那樣，我們還需要讓體驗更易於理解，以便消費者能夠保護自己。

創建可解釋的 AI

雖然在我們知道我們想要它們之前獲得一個向我們展示我們想要的東西的建議結果令人難以置信，但這也使機器處於他們尚未準備好單獨維護的強大位置。 當機器被定位為專家並以足夠智能的水平運行時，公眾通常會信任它們，直到它們失敗。 但是，如果機器以公眾無法理解的方式失敗，儘管失敗，它們仍將保持專家地位，這是對人類的最大威脅之一。

例如，如果有人使用視覺搜索工具來識別食用蘑菇和毒蘑菇之間的區別，但他們不知道機器告訴他們毒蘑菇是安全的，那麼這個人可能會死。 或者當機器決定法庭案件的結果並且不需要對其決定提供解釋時會發生什麼？ 或者更糟糕的是，當這些技術被用於軍事目的並被賦予使用致命武力的權利時呢？ 最後一種情況聽起來可能很極端，但這是目前聯合國內部正在討論的一個問題。

為了確保公眾能夠了解幕後發生的事情，我們需要創建 DARPA 所謂的可解釋人工智能 (XAI)——解釋機器如何做出決策以及完成這些任務的準確性的工具。 這不是要洩露商業機密，而是讓消費者覺得他們可以信任這些機器並在發生錯誤時為自己辯護。

儘管它不是基於人工智能，但 CreditKarma 就是一個很好的例子，它可以讓人們更好地了解他們的信用評分——這個系統曾經像今天的算法一樣被隱藏起來。 該工具使消費者可以更好地了解幕後發生的事情，並在他們認為系統失敗時辯論其結果的合法性。 類似的工具正在使用 Google 的 Maps Match score 和 Netflix Percent Match on show 等系統創建，但這些系統才剛剛開始觸及可解釋 AI 的表面。

儘管做出了這些努力，但今天的大多數算法都根據公司認為我們想要什麼來決定我們的經驗。 但消費者不應再受到大型上市公司的無形控制。 消費者應該有權控制自己的算法。 這可能很簡單，比如讓他們知道哪些變量用於體驗的哪些部分，以及改變每個變量的權重將如何影響他們的體驗，然後讓他們能夠調整它直到滿足他們的需求——包括將算法完全關閉，如果那是他們喜歡的。 這將是付費功能還是免費功能仍有待商榷，但沒有爭議的是是否應該提供這種自由。

雖然上面的例子是一個通用的建議，但它開始想像我們如何在更具體的情況下製作體驗。 通過讓消費者能夠了解他們的數據、數據的使用方式以及數據如何影響他們的生活，我們將設計一個讓消費者能夠控制自己的自由的系統。

然而，無論這些改變做得多麼好，我們還必須意識到，讓人們更好地控制自己的隱私並不意味著為消費者提供更安全的環境。 事實上，這可能會使事情變得更糟。 研究表明，讓人們更好地控制他們的數據實際上使他們更有可能提供更敏感的信息。 如果消費者不知道這些數據可能會被如何使用（即使他們知道這些數據在哪裡被共享），這會讓他們受到傷害。 從這個意義上說，讓消費者更好地控制他們的數據，並期望它讓互聯網更安全，就像在士力架上貼上營養標籤，並期望它能讓糖果棒不那麼容易發胖。 它不會，人們仍然會吃它。

雖然我確實相信消費者擁有更好的隱私控制和更高的透明度的基本權利，但我也相信，作為具有數據素養的技術人員，我們的工作不僅是構建更好的系統，還要幫助公眾了解互聯網安全。 因此，將這些結合在一起的最後一步是讓人們意識到控制並不是消費者所需要的全部。 他們還需要了解後端發生了什麼以及原因。 這並不一定意味著向他們提供源代碼或放棄他們的 IP，但至少為他們提供足夠的信息以了解基本級別的情況，以確保安全。 為了實現這一點，我們需要超越我們的屏幕。 我們需要將我們的工作擴展到我們的社區，並幫助創造這個未來。

推薦閱讀：設計倫理：改變設計中的倫理理解

激勵變革

由於科技界存在壟斷，消費者對隱私為何如此危險的誤解，以及缺乏與財政回報相關的戰術解決方案，人們都不得不放棄隱私。 然而，這是一個需要解決的問題。 正如巴拉克奧巴馬在他的政府對互聯網隱私問題的總結中指出的那樣：

“有一點應該明確：儘管我們生活在一個比過去更自由地分享個人信息的世界，但我們必須拒絕接受隱私是一種過時價值的結論。 它從一開始就是我們民主的核心，我們現在比以往任何時候都更需要它。”

創造值得信賴和安全的數據共享體驗將是我們的世界在未來幾十年將面臨的最大挑戰之一。

我們可以看看 Facebook 的股票是如何在一天之內下跌 19% 的，因為他們宣布將重新關注隱私工作，以證明做出這些改變可能有多麼困難。 這是因為最近專注於短期收入增長的投資者知道公司需要多麼迫切地實施更好的戰略，但也意識到如果公眾開始質疑一家企業所涉及的成本——Facebook 承認這一點的公開聲明讓羊大吃一驚.

雖然這個過程並不容易（而且很多時候可能很痛苦），但我們都知道隱私是技術的軟肋，是時候改變它了。 從長遠來看，今天做出的決定將帶來巨大的回報； 與在過去十年左右的增長中主導業務的短期季度思維方式截然不同。 因此，對於企業和政策制定者來說，發現創造性的方法讓這些問題成為所有利益相關者的優先事項應該被認為是必不可少的，這意味著我們作為技術人員的工作需要超越董事會。

例如，除了討論本文中提出的數字和問題之外，激勵這些變化的一個好方法是為那些將大量預算用於改進系統的公司提供稅收減免。 決定為其員工提供定期培訓或研討會的公司可以休息，以幫助將隱私和安全作為公司文化中的優先事項。 可以將它們提供給僱用專業黑客的公司，以便在攻擊發生之前發現其係統中的漏洞。 他們可以分配給那些分配大量時間以使消費者受益的方式重組其業務實踐的人。 從這個意義上說，這種激勵措施與給予實施環保做法的企業的稅收減免沒有太大區別。

減稅的想法對某些人來說可能聽起來很離譜，但諸如此類的激勵措施將代表比現在處理事情的方式更積極的解決方案。 雖然讀到“谷歌因違反 Android 反壟斷法被歐盟罰款 50 億美元”的標題可能感覺不錯，但我們必須記住，這樣的罰款只佔此類公司收入的一小部分。 再加上大多數案件需要幾年或幾十年才能得出結論，而且這個百分比只會越來越小。 考慮到這一點，可以從不同的角度來看待稅收減免的想法，即它們不是獎勵以前的疏忽行為，而是以符合每個相關人員的最佳利益的方式提高公共安全。 維持我們目前的系統，允許公司在繼續他們的瀆職行為的同時將法庭案件排除在外，這與根本沒有法律一樣危險，如果不是更危險的話。

如果您喜歡閱讀這篇文章並認為其他人也應該閱讀它，請幫助傳播這個詞。

這篇文章是我將要寫的一系列關於互聯網安全的文章的開始，在這篇文章中，我將努力將財政數字納入道德設計模式，以便我們作為技術專家可以改變我們正在建立的業務並創建一個圍繞互聯網連接體驗發展的更好文化。