倫理的設計:実用的なスタートガイド
公開: 2022-03-10今では、テクノロジーで働くほとんどの人は、テクノロジーの巨人によって育まれ、支持されている監視資本主義に関連する深い懸念を知っており、感じています。 問題の根本は、ユーザーデータの資本化と収益化というビジネスモデルにあると理解しています。 Instagramが特定のユーザーへの通知を差し控え、アプリを開く速度を上げることを目的とした最近の話のように、人々が日常的にどのように悪用されているかについての話が表面化します。 同じ話で、The Globe and Mailは、Facebookの元高レベルの従業員がどのように良心を育てているかを説明し、人間の行動を悪用してソーシャルメディアの常習者にするために機能がどのように細心の注意を払って構築されているかについて恐ろしい話をします。
デザイナーおよび開発者として、私たちはそれよりも優れたエクスペリエンスを構築する義務があります。 この記事では、非倫理的な設計がどのように発生するか、および一連のベストプラクティスを通じて倫理的な設計を行う方法について説明します。 また、管理層に属していない場合でも、会社内および設計コミュニティで意味を変えるためにシードを植える方法を理解するのに役立ちます。 変化は動きから始まります!
倫理的デザイン
コア用語から始めましょう。メリアム・ウェブスターによれば、倫理は「善と悪、そして道徳的義務と義務を扱う規律」です。 この記事の目的のために、倫理は善と悪として知覚されるものを定義する道徳的原則のシステムとして定義されます。 したがって、倫理的なデザインは善を行うことを意図して作られたデザインであり、非倫理的なデザインはそれに対応するブラックハットです。
Ind.ieは、デジタル時代の正義を目指して努力している社会的企業です。 それは、倫理的デザインの核心を非常によく説明する「ニーズの倫理的階層」を定義したアラル・バルカンとローラ・カルバグによって設立されました。
他のピラミッド型の構造と同様に、欲求倫理階層の層はその下の層にあります。 いずれかのレイヤーが壊れている場合、その上にあるレイヤーは崩壊します。 デザインが人権をサポートしていない場合、それは非倫理的です。 それが人権を支持しているが、機能的で、便利で、信頼できる(そして使用可能である!)ことによって人間の努力を尊重しない場合、それは非倫理的です。 それが人間の努力を尊重するが、それを使用する人々のより良い生活を作ることによって人間の経験を尊重しない場合、それはまだ非倫理的です。
実用的な観点からは、これは、ユーザーデータを悪用し、ダークパターンを使用し、人間の目的を無視して、一般的にお金を稼ぐためだけに使用される製品やサービスは非倫理的であることを意味します。 非倫理的なデザインがビジネスモデルやデザインの決定にどのように現れるかを見てみましょう。
非倫理的なデザイン:ビジネスのブラックハット
監視資本主義
データ駆動型の設計を使用して、成果を上げることができます。 しかし、多くの場合、それは監視資本主義としても知られている金銭的意図で使用されます。
倫理的なデザイナーであり、ind.ieの創設者であるAral Balkanは、次のように述べています。
「Facebookのような会社が製品の体験を向上させるとき、それは私たちが神戸牛に与えるマッサージのようなものです。それらは牛の利益のためではなく、牛をより良い製品にするためです。 この例えでは、あなたは牛です。」
監視資本主義は本質的に非倫理的です。なぜなら、その核心は、金儲けを唯一の目的として人々をプロファイリングし、彼らの行動を理解するために豊富なデータを利用するからです。 すべての中で最も冷静な考えは、データが現在の行動を予測して操作するためだけでなく、機械学習を通じて将来の自分自身をプロファイリングするためにどのように使用されているかであり、最終的に企業に将来の決定と行動パターンに影響を与える力を与えます。
独立した研究所であり創造的な研究所であるCrackedLabsは、Data AgainstPeopleに関するレポートで次のように述べています。
「データに基づいて人々について決定を下すシステムは、彼らの選択、機会、およびライフチャンスを大幅に制限する可能性のある実質的な悪影響を生み出します」。
これは、Facebookを使用するすべての人に毎日発生します。ここでは、個別のフィードが慎重にフィルタリングされ、エンゲージメントとアクティビティをトリガーする可能性が最も高い投稿が表示されます。 企業は豊富なデータを使用して顧客の長期的な価値を評価できるため、価格設定もますます個別化されています。これは、データ駆動型の説得としても知られています。
データ取引とデータ追跡は大企業です。 レポート「日常生活における企業監視」によると、オラクルは50億(はい、10億!)の一意のユーザーIDへのアクセスを提供します(これはオラクルのWebサイトで確認されています)。 「怖い」という言葉は、私たち全員がその事実を乗り越えなければならない感情的な状態をカバーしていません。
企業がデータを利用して、メンタルヘルスや身体的な問題を発症する可能性が高い私たちのプロファイルを作成する方法を想像することしかできません。 このことを念頭に置いて、私は私の子供たちの将来を恐れています。
ある人にとっては、上記はサイエンスフィクションの映画のようなもののように聞こえるかもしれませんが、それはまったく大げさではありません。 非倫理的な企業は、2400万人のユーザーのデータを保護すると主張しているがFacebookに販売したVPNアプリから、Alphonsoと呼ばれるソフトウェア(ニューヨークタイムズの記事によると、250以上で使用されている)に至るまで、毎日さらされていますゲームアプリ(一部は子供向けに設計されています)は、アプリがアクティブに使用されていない場合でも、人々が視聴するテレビ広告を監視します。 非常に非倫理的な目的でデータを収集して使用する企業のリストは、どんどん増えています。
ブラックハットデザイン
それにもかかわらず、非倫理的な設計を実行する方法はデータ追跡だけではありません。 ダークパターンも非倫理的なデザインに該当します。これは、必ずしもやりたくないことをするように仕向けるために特別に設計されたブラックハットのデザインパターンであるためです。
会社がRoachMotelと呼ばれるダークパターンを使用して、アカウントを削除することをほぼ不可能にする場合(Skypeを見て)、非倫理的とは見なされない場合があります。 しかし、ビジネス面での動機を見ると、デザインの非倫理的な性質を理解するのは難しいことではありません(Instagramの広告に偽の髪の毛を追加して人々を騙してスワイプさせた中国の靴会社を忘れないでください)。
ダークパターンの創始者であり原動力の1つであるハリーブリグヌルは、ダークパターンは人間の脳の弱点と私たちの配線方法を利用しているため、機能すると述べています。 それは私の本では非倫理的であると見なされており、これらの製品をより良くするために設計する人々には道徳的な義務があります。
消費主義を育み、人々を操作してより多くのものを購入させる企業は、設計上非倫理的です。 これはeコマースでは一般的な方法であり、「損失回避」と呼ばれる現象を利用しています。 Hotels.comは特に積極的で、予約してあなたと同じ部屋を見ている人の数について、数秒以内にいくつかの通知を送信します。
一般データ保護規則
2018年5月下旬に一般データ保護規則(GDPR)が施行されることは、設計上非倫理的な企業との戦いにおいて効率的なツールとなるでしょう。
GDPRは広範な規制であり、ハイライトの中には次のものが含まれます。
- 設計により安全な方法でデータを収集する組織の要件。
- データ侵害に対する多額の罰金。
- データは明示的な同意の後にのみ収集する必要があり、データが収集される理由を説明するために使用される言語は、わかりやすくシンプルである必要があります。 さらに、同意はいつでも取り消すことができ、同意を与えるのと同じくらい簡単である必要があります(ちなみに、これには[
Sign up
]→Delete profile
が含まれます)。 - 「忘れられる権利」とは、人々が自分のデータを削除する権利を持っていることを意味します。
- このデータがどのように処理されるかに関する情報とともに、人々が任意の組織の個人データにアクセスする権利。
- データの移植性。つまり、ある会社でデータを入手して別の会社に転送する権利があります。
- GDPRに違反した場合の多額の罰金。
全体として、2018年5月25日は人々にとってかなり良い日であり、非倫理的に設計されたすべての組織にとっては大きく異なる未来の兆候です。
しかし、私たち自身をからかってはいけません。変化は一夜にして、またはすべての組織でハートビートで起こると考えてください。 それを時間の経過とともに実現するには、より深い変化が必要です。
意味の変化によって変化が起こる
GDPRがすべての問題を解決するわけではありません。 それは素朴だと信じています。 だからこそ、違いを生み出すのは会社の壁の中にいる人々次第です。 幸いなことに、ビジネスモデルを決定する管理チームの一員でなくても、変更を加えることができます。
より倫理的な設計アプローチに向けたこの種の変更は、一夜にして起こるとは主張されていません。 むしろ、DonNormanとRobertoVergantiが意味主導型イノベーションと呼んでいるものを通じて、段階的に変更を加え、長期的な組織の変化を促進することができます(「段階的および根本的なイノベーション」に関する記事を参照)。
意味主導のイノベーションは、人々が新しいダイナミクスを生み出す新しい考えを明確にし始め、最終的には根本的に新しい意味につながる結果です。
DonNormanとRobertoVergantiは、根本的なイノベーションは次のいずれかが発生した場合にのみ発生すると述べています。
- 新しいイネーブリングテクノロジーは、信頼性が高く経済的な形で利用できます(タッチインターフェイスがラボを出て、電話やタブレットの市場に参入するまでに20年かかりました)。
- 社会で何かの意味が変わるとき—意味主導のイノベーションとも呼ばれます。
データ駆動型ビジネスに関するプライバシーに対する認識、焦点、懸念の高まりは、それほど明確ではない将来、根本的なイノベーションと社会の変化を引き起こすと思います。 皮肉なことに、監視資本主義を創設した企業は、プライバシーに対する私たちの認識の仕方にも変化をもたらしました。私たちはすでに、企業や組織がプライバシー主導のソリューションを革新し、育成し始めています。
私たちを追跡し監視する企業の意味はすでに変化しています。 以前はあまり考えていませんでしたが、Facebookに配信される広告が閲覧履歴に基づいていると便利かもしれません。 しかし、監視資本主義のエスカレーションに伴い、ますます多くの人々がビジネスの名の下にスパイされることを不快であるだけでなく直接受け入れられないと感じているため、私たちは意味の変化を経験していると主張します。
追跡しない検索エンジンであるDuckDuckGoは、2017年に1日あたり平均1600万件の検索クエリを実行しました。これは、ウェブを使用する際にプライバシーがますます懸念されていることを示しています。 また、プライバシーを保護するために設計された安全な電話およびメッセンジャーアプリであるSignalなど、プライバシーに到達する市場に特化したアプリも見られます。 さらに、GDPRは、プライバシーに関連する意味の変化をさらに引き起こす可能性が高いです。
人間中心の設計アプローチへの移行
Human-Centered Design(HCD)は、Don Norman(とりわけ)によって開発された哲学です。 User Experience Professionals Association(UXPA)によると、HCDは、「ユーザーの積極的な関与と、ユーザーおよびタスクの要件の明確な理解」によって定義されます。
DonNormanとRobertoVergantiは、実質的な調査で、HCDは段階的なイノベーション(段階的な改善)にのみ適していると結論付けています。これは、ユーザーの調査を通じて行われているように、現在の状況を常に見ながら新しいアイデアが発見されないためです。
これは理にかなっているように聞こえますが、HCDは意味主導のイノベーションへのオフセットであり、最終的には非倫理的な組織から人々が受け入れるものと受け入れないものについての幅広い意味の変化につながると私は信じています。 私がこれを信じる理由は、HCDが他のどのエクスペリエンスデザイン手法よりも深い共感を育むからです。
人間中心のデザインは、フレームワークであると同時に考え方でもあります。 基本的に、「人間中心」で働くということは、プロセスの早い段階で継続的にサービスを提供する人々を巻き込むことを意味します。つまり、調査を使用してこれらの人々のニーズを確立し、彼らが抱えている問題を理解し、製品がこれらの問題の解決にどのように役立つかを理解します。
人間中心で作業することはエクスペリエンスデザイナーの自然な範囲内にありますが、あなたの仕事が設計と開発であり、スプリントのレビューと日常のタスクに常に専念している場合はどうしますか?
リモート開発チームと協力していると、開発者は製品を使用した人とは何の関係もないことを知りました。 これはしばしば、「私は思う…」、「技術的な観点から…」、「私は感じる…」などの発言が主な議論であるという激しい議論につながりました。
自分の考えや感じ方、または技術的な観点から最も簡単なことを決定する際の最大の問題は、サービスを提供している人が関与しないことです。 あなたの製品やサービスが問題を解決するために世界に配置されている人々。 そこでHCDが登場します。
UXの設計者と研究者は通常、調査を実施し、洞察を文書化し、ペルソナ、ユーザーニーズの説明、ユーザーフロー、ジャーニーなどの形で、洗練された状態で設計チームと製品チームに提供します。 そして、それはすべてうまくいっています。 ただし、問題は、組織とサービスを提供する人々との距離が大きいままであるということです。これは、UXデザイナー以外の誰もが彼らに話しかけたり、彼らが製品を使用しているのを見たことがないためです。 それで彼らは「私は感じる…」、「私は思う…」そして「技術的な観点から…」に戻り続けます。
あなたが奉仕する人々への共感を確立するのを助けるために、デザイナーと開発者、そして組織の他の人々ができる(そしてUXチームに求めることができる)非常に影響力のあることがいくつかあります。
ユーザーテストセッションのビデオの視聴にすべてのチームメンバーを参加させます。
実際にあなたの製品(またはあなたがテストしているものによってはプロトタイプ)を使用する人々の苦痛と喜びを経験することは毎秒価値があります。 他の人があなたが構築しているものと相互作用し、コメントするのを見ることがどれほど重要であるかを十分に強調することはできません(そして、あなたのチームはここでは「人」として数えられません!)。
これがあなたの会社のルーチンの一部ではない場合は、それを含めるように依頼してください。 確かに、UXデザイナーの大多数は、そのようなセッションを整理して促進することにわくわくすることはありません。 あなたは痛み、苦痛、欲求不満、幸福を経験し、複数の目を見張るものを手に入れることが保証されています、そしてそれはすべて人間中心の考え方を成長させるための足がかりとして役立ちます。あなたが仕える人々の実際の生きている肖像画を求めてください。
これには、文脈研究からの写真とビデオ、彼らの日常生活からの物語とそれらについての物語が含まれます。 開発する製品の反対側にいる人々の感覚を深めることは、即座に共感を生み出し、故意に彼らに悪いものを設計することを非常に難しくします。継続的テストを主張します。
HCDでのテストの重要性を十分に強調することはできません。 これには、概念実証テスト、プロトタイプテスト、およびユーザビリティテストが含まれます。 製品を使用することを意図されている人々からの早期かつ継続的な関与の副次的なボーナスは、それが長期的にお金を節約することです。 悪い呼び出しやエラーに早く気付くほど、修正するのに費用がかかりません。
1月13日にハワイで誤って引き起こされた核警報については多くのことが言われています。しかし、早期の継続的なテストがそれを防ぐのに役立ったと言っても過言ではありません。常に「なぜ」と尋ねてください。
組織やコミュニティで意味の変化を始めるための最初の重要なステップは、「なぜ」と尋ね始めることです。 なぜ非倫理的に何かが行われているのかを尋ねます。 ブラックハット機能を作成するように指示された理由を尋ねます。 物事の現状に疑問を投げかける。
設計上の決定が行われている理由を尋ねます。 それがCEOまたは他の誰かの考えによるものであり、サービスを提供している人々からの洞察に根ざしていない場合は、その検証を依頼してください。 意味の変化は小さなステップで成長します。
倫理的設計のベストプラクティス
組織内で人間中心の設計の伝統を確立することに加えて、倫理的な設計のベストプラクティスを利用することも重要です。 そうする人々は、主導権を握り、組織の他のメンバーに、より倫理的な方法で物事を行う方法を示すことの一部であり、そのすべてが段階的な意味の変化に追加されます。 ダークパターンが非倫理的なデザインに該当するのと同様に、倫理的なデザインを保証するために利用できるホワイトハットデザインパターンがあります。その一部については、以下で学習できます。
データを使用して人間の経験を向上させる
消費やトラフィックの増加など、非倫理的な目的でデータを使用している企業は数多くありますが、実際には、データを使用して実際に人間の体験を向上させることができます。
これはind.ieフォーラムの場合であり、読んだ内容を覚えてエクスペリエンスをカスタマイズする方法として、アカウントの設定が提案されています。
学生が学習管理システムに簡単にアクセスできるアプリの作成に携わっている現在のプロジェクトでは、学生の個々のコースを「最後にアクセスした」順に並べ替えています。 調査を通じて、学生は現在登録しているコースに関連する少数のページを再訪することがほとんどであることがわかっています。このカスタマイズは、動作を変更したり、意図しないアプリの一部を使用するように誘導したりするようには設計されていません。 代わりに、それは彼らの経験をより速くそしてより効率的にするように設計されています。
もう1つの良い例は、ビタミンなどを補充する時期になるとリマインダーを送信するアメリカの薬局Walgreensです。 これは、私たちの多くが抱えている問題を解決する非常に役立つ機能です。
データは、研究イニシアチブに情報を提供して、製品を操作するときに人々が抱える問題にどのように取り組んでいないかを理解するのに役立ちます。
旅行検索エンジンのSkyscannerは、データを通じて、新しく発売されたデザインが、アムステルダムから飛び立つためにサービスを利用した人々にとってうまく機能していないことに気づきました。 そのデータは、新しいデザインが最初に構築した障壁を打ち破った、アムステルダムを行き来する人々のためのカスタマイズされたソリューションに最終的につながる研究イニシアチブに情報を提供するのに役立ちました(これが背景ストーリーです)。
追跡なしの広告
広告は必ずしも非倫理的ではありません。 きめ細かいデータに基づく広告です。 ブランドのマーケティング活動の大部分を単一のプラットフォームに依存することは(愚かではないにしても)不注意です。特に、そのプラットフォームが、ブランドが広告ターゲティングの基盤として使用するデータを所有および制御していることを考えると。
Facebook、Instagram、およびGoogleは、広告主を「ユーザー」と見なす人々と同じくらい気にかけていません。つまり、ユーザーや企業がプラットホーム。 たとえば、偽のアカウントをまとめてブロックし始めた時期がありました。これは、ソーシャルメディア管理者がビジネスページを管理するために偽のアカウントを設定した多くの企業を傷つけました。彼らは(当然のことながら)この目的でプライベートアカウントを使用したくないからです。 。 これはFacebookの標準的な手順であり、1人あたり1つのプロファイルしか許可しません(複数のプロファイルを許可するとデータ追跡が汚染される可能性があります)。
プラットフォームは、企業の制御を超えたサードパーティであるため、マーケティング戦略において常に最も弱いリンクです。 私が地方紙でマーケティングに携わっていた90年代を振り返ると、きめ細かいデータ追跡は選択肢ではありませんでした。 店がイベントについての紙に広告を掲載したとき、彼らは単に何人の人々が現れたかを監視し、それを彼らの期待と比較して成功率を決定しました。
「古き良き時代」は確かにすべての面で良くはありませんでしたが、きめ細かいユーザーデータ追跡に広告を基づかないという考えは魅力的な考えです。 JohnGruberのブログであるDaringFireballは、広告の追跡を許可しないサイトの例です。 代わりに、John Gruberは、広告主が広告にカスタムリンクを追加して、広告のクリック率を監視できるようにすることを推奨しています。
ジョン・グルーバーが正しく述べているように:
「(たとえば)Facebookに広告の料金を支払う場合、広告主であるあなたがFacebookの数字を信頼して、広告の掲載結果を確認するのはなぜですか?」
- ソース
注目に値するもう1つの優れた例は、ホテルの予約サイトであるGoodwingsで、手数料の半分を慈善団体に寄付しています。 多数のNGOとの緊密なコラボレーションにより、これを実現できます。つまり、従来のマーケティングにほとんど費やすことはありません。
そして、Google Analyticsが意味のあるデータを収集するための唯一のオプションであると思うなら、もう一度考えてみてください。Matamoは、自分のサーバーに直接インストールされるオープンソースツールです。 Googleなどの広告代理店とデータが共有されないことを保証します。
常に、常にユーザビリティを優先する
監視資本主義とデータ追跡は、最近、倫理的設計に関連する問題について頻繁に話題になっています。 しかし、ユーザビリティのベストプラクティスに従うことの重要性を忘れてはなりません。 それがないと、使いやすさの欠如はほとんどの場合ダークパターンの使用を伴うため、デザインは非倫理的です。 コアユーザビリティについて詳しく読むには、Nielsen NormanGroupが適しています。
初期の頃、ヤコブ・ニールセンはユーザビリティの5つのコアコンポーネントを定義しました。
- 学習可能性、
- 効率、
- 記憶力
- エラー、および
- 満足。
使用可能な製品を確保するには、これらの5つのコンポーネントが設計および開発プロセスの中心であることが重要です。
必要以上に要求しないでください
人生の他の多くの側面と同様に、必要以上のものを求めることは搾取につながります。 eコマースサイトでは、ユーザーがアカウントにサインアップしたり製品を購入したりするときに、大量の情報を要求するのが一般的です。 しかし、誰かがデジタル製品(本など)を購入している場合は、実際には自分の電子メールアドレス以外のものを要求する必要はありません。
シグナルは良い例です。 本質的にプライベートであり、人々がアプリをすぐに使い始めるために絶対に必要な情報以上のものを要求することはありません。
透明であること
Norwegian.comには、おそらく世界で最高の航空運賃予約システムの1つがあります。 使い勝手が良いだけでなく、オプションのサービス料金に関して完全な透明性を提供します。これは、しばしば隠されているものです。 アマゾンの保管国以外に住んでいる人なら誰でも、自分の場所の実際の配達価格を見つけるのがどれほど難しいかを知っています。
結論
より倫理的な未来への動きが始まりました。 ビジネスモデルのコアに組み込まれていない限り、変化は根本的に短期的には起こりません。 しかし、それは私たちが現在の状態をより良く変えることができないという意味ではありません。 これは、段階的な変更を通じて行うことができます。 一歩ずつ。 人間中心で作業し、理由を尋ね、倫理的な設計のベストプラクティスを使用する。 それは、人々の生活に深く根付いた製品を作る私たちの義務です。 私たちが行うことは、良くも悪くも人生を変え、形作ります。 私はより良い選択をします。
もっと詳しく知る
倫理的なデザインに興味のある人なら誰でも利用できる貴重なリソースがたくさんあります。 始めるためのいくつかを次に示します。
- IDEOの人間中心のデザインキットは、HCDを理解するのに非常に役立ち、人間中心の作業方法に関する幅広い方法を提供します。
- Simply Secureは、倫理的な設計プロセスで実践者をサポートおよび教育する組織です。 それらは、信頼できる技術の構築に関心のある人々に完全な知識ベースを提供します
- White Hat UX —次世代のユーザーエクスペリエンスは、透明性があり、正直で倫理的なエクスペリエンスを設計する方法について、多くの実践的なアドバイスを提供する本です。 Trine Falbe、Martin Frederiksen、KimAndersenによって書かれました。
- Cracked Labsは、オーストリアのウィーンに拠点を置く独立した研究所であり、クリエイティブな研究所です。 情報技術の社会文化的影響を調査し、デジタル文化の分野で社会イノベーションを開発します。 彼らはプライバシーに関連するほとんどのものについての詳細なレポートを提供します。