道德设计：实用入门指南

到目前为止，大多数在科技行业工作的人都知道并感受到与科技巨头培育和支持的监视资本主义有关的深切担忧。 我们知道问题的根源在于将用户数据资本化和货币化的商业模式。 人们每天都被剥削的故事，例如最近关于 Instagram 如何扣留某些用户的通知，目的是提高他们打开应用程序的速度的故事。 在同一个故事中，《环球邮报》描述了 Facebook 的前高级员工如何培养良心，并讲述了如何精心构建功能以利用人类行为并使我们对社交媒体上瘾的可怕故事。

作为设计师和开发人员，我们有义务打造比这更好的体验。 本文解释了不道德的设计是如何发生的，以及如何通过一组最佳实践进行道德设计。 它还可以帮助您了解如何播下种子以改变您工作的公司和设计社区的意义，即使您不是管理层的一部分。 改变从运动开始！

道德设计

让我们从核心术语开始：根据韦氏词典，伦理学是“处理好与坏以及道德责任和义务的学科”。 就本文而言，伦理学将被定义为一个道德原则体系，它定义了人们认为什么是善恶。 因此，道德设计是为了做好事而进行的设计，而不道德的设计则是黑帽设计。

Ind.ie 是一家在数字时代为正义而奋斗的社会企业。 它由 Aral Balkan 和 Laura Kalbag 创立，他们定义了一个“道德需求层次”，很好地描述了道德设计的核心。

与任何金字塔形结构一样，需求伦理层次结构中的层位于其下方的层上。 如果任何层被破坏，位于它上面的层就会崩溃。 如果设计不支持人权，那就是不道德的。 如果它支持人权，但不尊重人类的努力，因为它具有功能性、方便性和可靠性（并且可用！），那么它就是不道德的。 如果它尊重人的努力，但不尊重人的经验，为使用它的人创造更好的生活，那么它仍然是不道德的。

从实际的角度来看，这意味着利用用户数据、使用黑暗模式并且通常只是为了赚钱而无视其人类目的的产品和服务是不道德的。 让我们看看不道德的设计是如何在商业模式和设计决策中表现出来的。

不道德的设计：企业的黑帽

监视资本主义

数据驱动的设计可以用来做好事。 但更多情况下，它用于货币意图，也称为监视资本主义。

正如 ind.ie 的道德设计师和创始人 Aral Balkan 所说：

“当像 Facebook 这样的公司改善其产品的体验时，就像我们给神户牛肉做的按摩一样：它们不是为了奶牛的利益，而是为了让奶牛成为更好的产品。 在这个比喻中，你就是牛。”

监视资本主义本质上是不道德的，因为它的核心是利用丰富的数据来描述人们并了解他们的行为，其唯一目的是赚钱。 最令人毛骨悚然的想法是，数据如何不仅用于预测和操纵当前行为，还用于通过机器学习来描述我们未来的自我，最终赋予公司影响我们未来决策和行为模式的能力。

正如独立研究机构和创意实验室 Cracked Labs 在其关于针对人的数据的报告中所说：

“根据人们的数据做出关于人们的决策的系统会产生严重的不利影响，从而极大地限制他们的选择、机会和生活机会”。

这种情况每天都会发生在使用 Facebook 的每个人身上，个性化的提要经过仔细过滤，以显示最有可能引发参与和活动的帖子。 定价也变得越来越个性化，因为公司能够使用丰富的数据来评估客户的长期价值，也称为数据驱动说服。

数据交易和数据跟踪是一项大生意。 根据“日常生活中的企业监控”报告，Oracle 提供了对 50 亿（是的，10 亿！）唯一用户 ID 的访问权限（这在 Oracle 的网站上得到了证实）。 “害怕”这个词并没有涵盖我们都应该面对这个事实的情绪状态。

人们只能想象公司将如何利用数据来分析我们中哪些人更有可能出现心理健康或身体问题，从而将我们置于未来工作的“不谢”申请中。 考虑到这一点，我担心我孩子的未来。

对某些人来说，上述内容可能听起来像是科幻电影中的内容，但一点也不牵强。 不道德的公司每天都在暴露，从声称保护其 2400 万用户数据但将其出售给 Facebook 的 VPN 应用程序到名为 Alphonso 的软件（根据《纽约时报》的一篇文章，该软件被用于 250 多个游戏应用程序（其中一些是为儿童设计的）监控人们观看的电视广告——即使该应用程序没有处于活跃状态。 以极不道德的目的收集和使用数据的公司名单不胜枚举。

黑帽设计

然而，数据跟踪并不是不道德设计发挥作用的唯一方式。 深色模式也属于不道德的设计，因为它们是专门设计用来欺骗我们做我们不一定想做的事情的黑帽设计模式。

当一家公司利用名为Roach Motel的黑暗模式使您几乎不可能删除您的帐户（看着您，Skype）时，这可能不会被认为是不道德的。 但从商业方面的动机来看，不难看出设计的不道德本质（别忘了中国鞋业公司通过在 Instagram 广告上添加假头发来欺骗人们刷卡）。

Harry Brignull 是黑暗模式背后的创始人和推动力之一，他指出，黑暗模式之所以有效，是因为它们利用了人类大脑的弱点和我们的硬连线方式。 这在我的书中被认为是不道德的，我们对设计这些产品以做得更好的人负有道德义务。

培养消费主义并操纵人们购买更多东西的企业在设计上是不道德的。 这是电子商务中的常见做法，它利用了一种称为“损失厌恶”的现象。 Hotels.com 尤其具有侵略性，它会在几秒钟内发送几条通知，告知有多少人已经预订并正在与您查看同一个房间。

通用数据保护条例

2018 年 5 月下旬实施的通用数据保护条例 (GDPR) 将成为打击设计不道德的公司的有效工具。

GDPR 是一项广泛的法规，其中的亮点包括：

• 任何收集数据的组织都要求以安全的方式收集数据；
• 对数据泄露处以高额罚款；
• 只有在明确同意后才能收集数据，并且用于解释为什么收集数据的语言必须简单明了。 此外，同意必须随时可以撤回，并且必须像给予同意一样容易（顺便说一句，包括Sign up → Delete profile ）；
• “被遗忘的权利”，意味着人们有权删除他们的数据；
• 人们有权在任何组织中访问他们的个人数据，以及有关如何处理这些数据的信息；
• 数据可移植性，这意味着人们有权在一家公司持有他们的数据并将其转移到另一家公司；
• 对不遵守 GDPR 的行为处以重罚。

总而言之，2018 年 5 月 25 日，对人们来说是一个美好的日子，对于所有设计不道德的组织来说，这预示着一个截然不同的未来。

但是，我们不要自欺欺人，认为变化会在一夜之间发生，或者在所有组织中瞬间发生。 为了随着时间的推移实现这一目标，需要进行更深入的改变。

改变通过意义的改变而发生

GDPR 不可能解决我们所有的问题。 相信那将是天真的。 这就是为什么将继续由公司内部的人来做出改变。 好消息是，即使您不是决定商业模式的管理团队的一员，也可以做出改变。

这种向更合乎道德的设计方法的转变并不是一夜之间发生的。 相反，可以通过 Don Norman 和 Roberto Verganti 所谓的意义驱动创新（在他们关于“渐进式和激进式创新”的文章中阅读更多内容）进行渐进式变革并促进长期的组织变革。

意义驱动的创新是人们开始表达新思想的结果，这些思想创造了新的动力，最终导致了全新的意义。

Don Norman 和 Roberto Verganti 说，激进创新只有在以下情况之一发生时才会发生：

1. 一种新的使能技术以可靠、经济的形式出现（触摸界面花了 20 年时间才走出实验室并进入手机和平板电脑市场）；
2. 当事物的意义在社会中发生变化时——也称为意义驱动的创新。

我认为，在数据驱动型业务方面，我们对隐私的意识、关注和关注度不断提高，这将在不那么明显的未来引发激进的创新和社会变革。 具有讽刺意味的是，创立监控资本主义的公司也引发了我们对隐私权的看法发生了变化，我们已经开始看到公司和组织创新并促进隐私驱动的解决方案。

跟踪和监视我们的公司的意义已经发生了变化。 当 Facebook 上的广告基于我们的浏览历史时，我们过去并没有认真考虑，甚至可能觉得很方便。 但随着监视资本主义的升级，我认为我们正在经历一场意义的改变，因为越来越多的人发现以企业的名义被监视不仅不舒服，而且直接不可接受。

不跟踪的搜索引擎 DuckDuckGo 在 2017 年平均每天有 1600 万次搜索查询，这表明隐私是人们在使用网络时日益关注的问题。 此外，我们看到致力于保护隐私的应用进入市场，例如 Signal，这是一款旨在保护隐私的安全电话和即时通讯应用。 此外，GDPR 极有可能引发与隐私相关的进一步意义变化。

过渡到以人为本的设计方法

以人为本的设计 (HCD) 是由 Don Norman（以及其他人）开发的一种哲学。 根据用户体验专业协会 (UXPA) 的定义，HCD 的定义是“用户的积极参与以及对用户和任务要求的清晰理解”。

Don Norman 和 Roberto Verganti 在他们的实质性研究中得出结论，HCD 仅适用于渐进式创新——逐步改进——因为在通过用户研究不断观察事物的现有状态时不会发现新想法。

虽然这听起来很合理，但我相信 HCD 可以证明是对意义驱动创新的抵消，最终导致人们接受和不接受不道德组织的广泛意义变化。 我之所以相信这一点，是因为与其他任何体验设计方法相比，HCD 培养了更深层次的同理心。

以人为本的设计是一个框架，也是一种心态。 在其核心，“以人为本”的工作意味着让你服务的人尽早并持续参与到流程中，即通过研究确定这些人的需求，了解他们有什么问题，以及你的产品如何帮助解决这些问题。

以人为中心的工作属于体验设计师的自然范畴，但如果你的工作是设计和开发，并且经常被 sprint 审查和日常任务所占据，你会怎么做？

在与远程开发团队合作时，我了解到开发人员与使用该产品的人没有任何联系。 这经常导致激烈的讨论，其中诸如“我认为……”、“从技术角度……”和“我觉得……”之类的陈述是主要论点。

根据你的想法和感受做出决定，或者从技术角度来看最简单的决定，最大的问题是它不涉及你所服务的人。 将您的产品或服务放在世界上为其解决问题的人。 这就是 HCD 的用武之地。

用户体验设计师和研究人员通常会进行研究，记录见解，并以角色、用户需求描述、用户流程、旅程等形式将它们以精致的状态呈现给设计和产品团队。 这一切都很好。 然而，问题是组织和你所服务的人之间的距离仍然很大，因为除了 UX 设计师之外没有人与他们交谈或看到他们使用该产品。 所以他们不断地回到“我觉得……”、“我认为……”和“从技术角度来看……”

为了帮助建立对你所服务的人的同理心，设计师和开发人员——以及组织的其他成员——可以做一些非常有影响力的事情（并且可以向用户体验团队提出要求）。

1. 让所有团队成员参与观看用户测试会话的视频。
   实际上，每一秒都值得每一秒经历使用您的产品（或原型，取决于您正在测试的内容）的人们的痛苦和喜悦。 观察其他人与您正在构建的东西互动和评论的重要性怎么强调都不为过（不，您的团队在这里不算“人”！）。
   
   如果这不是您公司日常工作的一部分，请要求将其包括在内。 当然，绝大多数用户体验设计师不会对组织和促进此类会议感到兴奋。 你一定会经历痛苦、痛苦、挫折、快乐，并让你大开眼界，这一切都将成为培养以人为本的心态的垫脚石。

2. 索取你所服务的人的真实活生生的肖像。
   这包括来自背景研究的照片和视频、他们日常生活中的故事以及关于他们的故事。 更深入地了解您开发的产品另一端的人会产生即时的同理心，并使设计故意对他们不利的东西变得更加困难。

3. 坚持不断测试。
   测试在 HCD 中的重要性怎么强调都不为过。 这包括早期的概念验证测试、原型测试和可用性测试。 打算使用该产品的人尽早和持续参与的附带好处是，从长远来看，它可以节省资金。 您越早意识到错误的调用或错误，修复的成本就越低。
   
   关于 1 月 13 日在夏威夷误触发的核警报已经有很多说法。但是，可以肯定地说，早期和持续的测试将有助于防止它发生。

4. 总是问“为什么？”
   要开始改变组织或社区的意义，第一个重要步骤是开始问“为什么”。 询问为什么做某事是不道德的； 询问您为什么被告知要制作黑帽功能； 质疑目前的状况。
   
   询问做出设计决策的依据是什么。 如果这是因为 CEO 或其他人的想法，并且它与您所服务的人的见解无关，请寻求验证。 意义变化是通过小步骤增长的。

道德设计最佳实践

除了在组织中建立以人为本的设计传统外，利用道德设计的最佳实践也很重要。 这样做的人是带头的一部分，并向组织的其他成员展示如何以更合乎道德的方式完成事情，所有这些都将增加意义的增量变化。 正如黑暗模式属于不道德的设计一样，我们有白帽设计模式可用于确保道德设计，您可以在下面了解其中的一些。

使用数据改善人类体验

尽管许多公司将数据用于不道德的目的，例如增加消费和流量，但数据实际上可以用于改善人类体验。

ind.ie 论坛上就是这种情况，建议设置一个帐户作为通过记住您所读内容来定制您的体验的一种方式。

在我参与制作一个应用程序以让学生更轻松地访问他们的学习管理系统的当前项目中，我们按“上次访问”对学生的个人课程进行排序； 我们通过研究了解到，学生最常重新访问与他们当前注册的课程相关的少数页面。这种定制并非旨在改变行为或促使他们使用他们不打算使用的应用程序部分。 相反，它旨在让他们的体验更快、更高效。

另一个积极的例子是美国药房 Walgreens，它会在需要补充维生素之类的东西时发出提醒。 这是一个非常有用的功能，可以解决我们很多人遇到的问题。

数据可以帮助为研究计划提供信息，以了解您如何不解决人们在与您的产品交互时遇到的问题。

旅游搜索引擎 Skyscanner 通过他们的数据注意到，他们新推出的设计对于使用他们的服务飞出阿姆斯特丹的人来说并不好。 这些数据有助于为一项研究计划提供信息，该计划最终为往返阿姆斯特丹的人们提供了一个定制的解决方案，打破了新设计最初建立的障碍（这是背景故事）。

无跟踪广告

广告不一定是不道德的。 基于粒度数据的广告是。 依赖单一平台进行品牌的大部分营销工作是粗心的（如果不是愚蠢的话），特别是考虑到该平台拥有并控制品牌用作其广告定位基础的数据。

Facebook、Instagram 和 Google 对他们的广告商的关心程度与他们对他们视为“用户”的人的关心程度一样低，即他们可以做出任何他们想做的改变，而不管这可能对使用他们的人或企业产生的任何后果。平台。 例如，有一段时间他们开始大规模屏蔽虚假账户，这伤害了许多社交媒体管理员设置虚假账户来管理业务页面的公司，因为他们（可以理解）不想为此目的使用他们的私人账户. 这是 Facebook 的标准程序，每人只允许一个个人资料（可能是因为允许多个个人资料会污染他们的数据跟踪）。

平台始终是营销策略中最薄弱的环节，因为它是公司无法控制的第三方。 回想 90 年代，当我在一家地区性报纸从事营销工作时，精细数据跟踪不是一种选择。 当一家商店在报纸上刊登关于某项活动的广告时，他们会简单地监控有多少人出现，并将其与他们的预期进行比较以确定成功率。

虽然“过去的美好时光”在各个方面肯定都不尽如人意，但不将广告基于精细的用户数据跟踪的想法是一个吸引人的想法。 John Gruber 的博客 Daring Fireball 是一个不允许广告跟踪的网站示例。 相反，John Gruber 鼓励广告商向他们的广告添加自定义链接，使他们能够监控最终的点击率。

正如约翰格鲁伯正确地指出：

“如果你为（比如说）Facebook 支付广告费用，作为广告商，你到底为什么要相信 Facebook 的数据来判断广告的效果呢？”

- 资源

另一个值得强调的好例子是 Goodwings，这是一个酒店预订网站，将一半的佣金捐赠给慈善机构。 他们之所以能够做到这一点，是因为与大量非政府组织密切合作，这意味着他们在传统营销上的花费很少。

如果您认为 Google Analytics 是收集有意义数据的唯一选择，请再想一想：Matamo 是一个开源工具，可直接安装在您自己的服务器上。 它保证数据不会与谷歌等广告公司共享。

始终，始终优先考虑可用性

如今，监视资本主义和数据跟踪被大量讨论与道德设计相关的问题。 但我们不能忘记遵守可用性最佳实践的重要性。 没有它，设计是不道德的，因为缺乏可用性几乎总是需要使用深色图案。 Nielsen Norman Group 是阅读更多关于核心可用性的好地方。

早在早期，Jakob Nielsen 就定义了可用性的 5 个核心组件：

• 易学性，
• 效率，
• 好记性
• 错误，以及
• 满足。

为确保产品可用，这五个组件在设计和开发过程中处于前沿和中心位置至关重要。

不要要求比你需要的更多

与生活中的许多其他方面一样，要求超出您的需要会导致剥削。 当人们注册帐户或购买产品时，电子商务网站通常会要求提供大量信息。 但是，如果有人正在购买数字产品（例如一本书），那么除了他们的电子邮件地址之外，真的不需要询问其他任何东西。

信号就是一个很好的例子。 它的核心是私有的，它只要求人们立即开始使用该应用程序绝对必要的信息。

保持透明

挪威.com 可能拥有世界上最好的机票预订系统之一。 不仅使用方便，而且它们的可选服务费用也完全透明，而这些费用通常被隐藏起来。 居住在亚马逊存储国家以外的任何人都知道要找到他们所在位置的实际交货价格是多么困难。

结论

迈向更合乎道德的未来的运动已经开始。 变革不会在短期内发生，除非它已融入商业模式的核心。 但这并不意味着我们不能更好地改变当前状态。 我们可以通过渐进式改变来做到这一点； 一步一步来。 通过以人为本，通过询问原因以及使用道德设计的最佳实践。 这是我们作为制造产品的人的义务，这些产品在人们的生活中根深蒂固。 我们所做的改变和塑造生活的好坏。 我选择更好。

了解更多

有很多有价值的资源可供对道德设计感兴趣的人使用。 这里有一些可以帮助您入门：

• IDEO 的以人为中心的设计工具包对理解 HCD 非常有帮助，并提供了有关如何以人为中心工作的广泛方法。
• Simply Secure 是一个在道德设计过程中支持和教育从业者的组织。 他们为有兴趣构建可信赖技术的人们提供了全面的知识库
• White Hat UX — The Next Generation in User Experience 这本书就如何设计透明、诚实和合乎道德的体验提供了许多实用建议。 由 Trine Falbe、Martin Frederiksen 和 Kim Andersen 撰写。
• Cracked Labs 是一家位于奥地利维也纳的独立研究机构和创意实验室。 它研究信息技术的社会文化影响，并在数字文化领域发展社会创新。 他们提供有关大多数与隐私相关的事情的深入报告。