Smashing Podcast Episode 41 Dengan Eva PenzeyMoog: Merancang Untuk Keamanan

Artikel ini telah didukung dengan baik oleh teman-teman terkasih kami di Netlify yang merupakan kelompok beragam talenta luar biasa dari seluruh dunia dan menawarkan platform untuk pengembang web yang melipatgandakan produktivitas. Terima kasih!

Dalam episode ini, kita berbicara tentang mendesain untuk keselamatan. Apa artinya mempertimbangkan pengguna yang rentan dalam desain kami? Drew McLellan berbicara dengan pakar Eva PenzeyMoog untuk mencari tahu.

Tampilkan Catatan

• Desain untuk Keamanan dari A Book Apart
• Proyek Keamanan Inklusif
• Eva di Twitter
• Situs pribadi Eva

Update mingguan

• Cara Membangun Situs E-Commerce Dengan Angular 11, Commerce Layer Dan Paypal yang ditulis oleh Zara Cooper
• Refactoring CSS: Strategi, Pengujian Regresi, dan Pemeliharaan yang ditulis oleh Adrian Bece
• Cara Membangun UI JavaScript yang Tangguh yang ditulis oleh Callum Hart
• Anak-anak Bereaksi Dan Metode Iterasi yang ditulis oleh Arihant Verma
• Pola Desain Frustrasi: Tombol Dinonaktifkan yang ditulis oleh Vitaly Friedman

Salinan

Drew McLellan: Dia adalah pendiri The Inclusive Safety Project, penulis buku, Dirancang Untuk Keamanan, yang diluncurkan bulan ini dari A Book Apart. Dia adalah Desainer Utama di 8th Light, di mana dia mendesain dan membangun perangkat lunak khusus dan berkonsultasi tentang strategi desain yang aman dan inklusif. Kami tahu dia ahli dalam merancang teknologi untuk melindungi yang rentan, tetapi tahukah Anda bahwa dia adalah pemegang rekor internasional untuk donat paling banyak yang ditampilkan di truk forklift? Teman-teman saya yang hebat, selamat datang, Eva PenzeyMoog. Hai Eva, apa kabar?

Eva PenzeyMoog: Saya hebat.

Drew: Senang mendengarnya. Saya ingin berbicara dengan Anda hari ini tentang prinsip-prinsip merancang produk dan pengalaman dengan mempertimbangkan keamanan pengguna yang rentan. Apakah adil sejak awal untuk memberikan semacam peringatan pemicu untuk subjek tertentu yang mungkin kita sentuh?

Eva: Tentu saja, ya. Terima kasih telah mengemukakan hal itu. Jelas memicu peringatan untuk menyebutkan kekerasan dalam rumah tangga secara eksplisit, juga mungkin beberapa pelecehan orang tua dan pelecehan anak.

Drew: Itu penting. merasa bebas. Jika Anda mengkhawatirkan salah satu dari masalah itu, itu mungkin menjadi pemicu bagi Anda. Jangan ragu untuk melewatkannya. Sampai jumpa di episode selanjutnya. Bingkai percakapan untuk kita, Eva. Ketika kita berbicara tentang Desain Untuk Keselamatan, masalah keamanan seperti apa yang kita bicarakan? Kami tidak berbicara tentang antarmuka untuk mobil yang mengemudi sendiri. Ini bukan keamanan seperti itu, kan?

Eva: Benar, persis. Ya. Ketika saya berbicara tentang keselamatan, saya benar-benar berbicara tentang keamanan antarpribadi, cara pengguna dapat mempersenjatai produk kami untuk saling menyakiti dengan cara antarpribadi. Orang-orang yang saling mengenal, hidup bersama, banyak kekerasan dalam rumah tangga dari pasangan romantis, tetapi juga orang tua dan anak-anak. Ada juga sedikit majikan dan karyawan lebih banyak di bidang pengawasan. Tapi ada hubungan batin pribadi aktual yang diperlukan dalam hal keamanan yang saya bicarakan, sebagai lawan, ya, seseorang anonim di internet atau entitas anonim yang mencoba mendapatkan data Anda, hal-hal seperti itu.

Drew: Mungkinkah masalah sesederhana ... Saya pikir setiap hari Anda melihat di jejaring sosial di mana ada kemampuan bagi pengguna yang berbeda untuk saling mengirim pesan, dan bagaimana itu seharusnya menjadi alat kecil yang berguna untuk memungkinkan orang melakukan percakapan secara offline atau di luar publik. Tapi hal semacam itu juga bisa, tanpa perlindungan yang tepat, menjadi vektor untuk semacam penyalahgunaan kendali.

Eva: Ya, tentu saja. Pastinya kapan pun Anda mengizinkan pengguna untuk mengirim semua jenis teks satu sama lain, ada kemungkinan penyalahgunaan. Pesan Facebook, yang itu sedikit lebih jelas, dan saya pikir ... Yah, saya berharap mereka memiliki beberapa perlindungan di tempat yang mereka kenali bahwa mungkin Anda tidak ingin melihat pesan tertentu atau ingin seseorang menghubungi Anda. Tetapi satu yang sangat menarik dan terkait yang saya temukan saat melakukan penelitian adalah banyak aplikasi atau layanan perbankan yang berbeda seperti Venmo yang memungkinkan Anda berbagi uang. Sering ada ruang untuk pesan. Setidaknya dengan Venmo, itu diperlukan.

Eva: Beberapa bank, itu opsional, tetapi orang akan mengirim satu sen ke seseorang dan kemudian memiliki beberapa pesan kasar atau sesuatu yang benar-benar berbahaya atau menakutkan atau mengancam, dan sebenarnya tidak ada cara bagi pengguna yang menerima pesan tersebut untuk menandai atau mengatakan, "Saya ingin memblokir pengguna ini, karena mengapa Anda ingin menghentikan seseorang mengirim uang dari Anda." Itu adalah situasi di mana saya pikir desainer tidak menganggap bahwa pelaku kekerasan selalu mencari cara untuk melakukan hal-hal seperti itu. Mereka sangat kreatif, dan itu belum dipertimbangkan dalam desain.

Drew: Kami sering berbicara tentang merancang jalur bahagia di mana segala sesuatu digunakan seperti yang dirancang untuk digunakan dan pengalaman berjalan dengan lancar. Kemudian sebagai insinyur, kami memikirkan, yah, bagaimana mungkin terjadi kesalahan dalam hal validasi gagal atau API turun. Tapi saya tidak yakin … Sebagai sebuah industri, apakah kita memiliki titik buta yang besar tentang cara-cara teknologi dapat disalahgunakan dalam hal mempertimbangkan keselamatan pengguna kita?

Eva: Ya. Saya benar-benar berpikir ada titik buta raksasa. Orang-orang sangat akrab dengan berbagai model ancaman semacam ini, seperti yang saya sebutkan, tentang orang tak dikenal yang melecehkan Anda di Twitter, entitas berbeda yang mencoba meretas data perusahaan perbankan, hal-hal seperti itu. Tapi kami menyebutnya model ancaman kekerasan dalam rumah tangga, yang sangat berbeda dan itu adalah salah satu yang kebanyakan orang tidak pikirkan dan itu selalu menjadi umpan balik ketika saya berbicara, merancang melawan kekerasan dalam rumah tangga di masa sebelum pandemi menghentikan konferensi . Itu selalu menjadi umpan balik, adalah orang-orang berkata, “Saya belum pernah mendengar tentang ini. Saya tidak tahu.” Itulah tujuan dari ceramah saya dan buku saya dan pekerjaan saya secara umum adalah untuk membantu orang memahami apa ini dan apa yang harus dilakukan karena ini adalah sesuatu yang hanya merupakan titik buta yang sangat besar.

Drew: Saya pikir kami memiliki kecenderungan, dan jelas berbahaya untuk menganggap bahwa setiap pengguna sama seperti kami. Sama seperti orang-orang yang membangun layanan atau produk, seperti tentara kita, seperti teman dan keluarga kita dan orang-orang yang kita kenal, dan menganggap bahwa setiap orang berada dalam situasi rumah yang stabil dan memiliki kepemilikan atau kendali penuh atas layanan mereka. dan perangkat. Itu tidak selalu terjadi, bukan?

Eva: Ya, tentu saja. Pasti tidak selalu demikian. Saya pikir kita mungkin melihat teman dan keluarga kita dan berpikir bahwa setiap orang dalam hubungan yang baik, tetapi sesuatu yang saya temukan adalah bahwa pasti kebanyakan orang yang mengalami kekerasan dalam rumah tangga tidak benar-benar memberi tahu semua orang dalam hidup mereka dan meneriakkannya dari atap rumah. Kebanyakan orang, hanya berdasarkan statistik, itu sangat umum. Anda mungkin mengenal seseorang yang pernah berada dalam situasi itu atau saat ini dalam situasi itu, dan mereka tidak benar-benar membicarakannya atau mereka mungkin tidak membagikan perilaku sepenuhnya.

Eva: Dalam banyak hal, dapat dimengerti bahwa itu bukan sesuatu yang benar-benar dipikirkan orang di tempat kerja karena itu bukan sesuatu yang kita pikirkan dalam masyarakat dan kehidupan secara umum dan kita mereproduksinya di tempat kerja kita. Pekerjaan saya mencoba membuat kita membicarakannya sedikit lebih eksplisit.

Drew: Apa saja hal-hal yang harus kita pikirkan dalam hal pertimbangan ini? Hanya memikirkan kapan orang lain mungkin memiliki akses ke akun Anda, atau jika seorang mitra mengetahui kata sandi Anda dan dapat masuk, Anda akan berpikir bahwa produk tersebut telah dirancang untuk dikendalikan oleh satu orang, tetapi sekarang mungkin seseorang yang jahat mengaksesnya. Pertimbangan seperti apa yang ada?

Eva: Ya. Nah, ada begitu banyak hal yang berbeda, tetapi itu adalah hal yang sangat besar yang saya miliki ... Tiga bab utama dalam buku baru saya difokuskan pada tiga bidang besar yang berbeda di mana hal ini terjadi, dan apa yang baru saja Anda sebutkan adalah fokus dari salah satu mereka tentang kontrol dan masalah daya dengan produk yang dirancang untuk banyak orang. Hal-hal seperti rekening bank bersama, hal-hal seperti Netflix atau Spotify, hal-hal seperti semua jenis perangkat rumah yang berbeda, perangkat Internet of Things, yang seolah-olah dimaksudkan untuk banyak orang. Tapi ada asumsi bahwa setiap orang adalah orang terhormat yang tidak mencari cara lain untuk memberlakukan kekuasaan dan kontrol atas orang-orang di sekitar mereka.

Eva: Banyak rekening bank bersama atau hal-hal seperti layanan kartu kredit bersama menyamar sebagai rekening bersama, tetapi sebenarnya satu orang memiliki kekuatan lebih. Misalnya, ini terjadi pada saya dan itu benar-benar membuat frustrasi karena saya menangani sebagian besar keuangan dalam pernikahan saya. Tetapi ketika kami membuat rekening bank gabungan pertama kami bertahun-tahun yang lalu, mereka menetapkan suami saya sebagai pengguna utama, yang pada dasarnya berarti bahwa datanya yang tersedia untuk umumlah yang digunakan untuk membuat kuis keamanan. Ketika saya masuk ke bank kami dari jaringan Wi-Fi baru, saya harus bertanya kepadanya seperti di jalan mana Anda tinggal ketika Anda masih kecil? Mereka sebenarnya kebanyakan… Beberapa di antaranya bisa saya jawab.

Eva: Saya tahu dia tidak pernah tinggal di California, tetapi banyak dari mereka yang benar-benar baik, dan saya harus bertanya kepadanya meskipun kami sudah lama bersama. Mereka cukup efektif untuk mengusir seseorang. Tapi sepertinya ini akun bersama, kenapa sebenarnya… Ini sebenarnya hanya akun untuknya yang juga bisa saya akses. Banyak masalah dengan itu di mana mereka mengizinkan seseorang untuk memiliki kontrol lebih karena dia tidak bisa memberi saya jawaban dan kemudian saya tidak akan memiliki akses ke keuangan kami tanpa harus menelepon bank atau melalui sesuatu dan melalui a proses yang berbeda. Ya. Banyak masalah yang berbeda dengan kontrol.

Eva: Saya pikir setiap kali Anda merancang produk yang akan melibatkan banyak pengguna memikirkan bagaimana satu pengguna akan menggunakan ini untuk mengontrol orang lain, dan kemudian bagaimana kita bisa mengamankannya, baik membuatnya jadi satu orang tidak memiliki kendali. Jika itu tidak mungkin, bagaimana kita bisa setidaknya memastikan bahwa orang lain mengerti persis apa yang terjadi dan tahu persis bagaimana mendapatkan kembali kekuasaan? Bisakah kita memberi mereka nomor untuk dihubungi, semacam pengaturan untuk diubah? Apapun itu, semuanya menjadi agak rumit.

Eva: Saya memiliki seluruh proses dalam buku tentang seperti apa sebenarnya ini dalam praktik, sesuatu yang sedikit lebih spesifik daripada hanya mempertimbangkan kekerasan dalam rumah tangga atau hanya mempertimbangkan siapa yang memegang kendali. Saya tidak menemukan saran seperti itu sangat berguna. Saya memiliki proses yang sangat teliti yang dapat dilakukan oleh desainer di atas proses desain aktual mereka yang ada untuk mendapatkan beberapa hal ini.

Drew: Saya kira, di mana Anda memiliki akun ini ... Memiliki akun adalah konsep yang lumrah. Kami sedang membangun produk atau layanan yang blok bangunan dasarnya adalah, oke, kami punya akun pengguna. Kami mungkin bahkan tidak terlalu memikirkan dengan cermat tentang jenis masalah saat menyiapkannya dan berpikir apakah akun tersebut berbeda dari orang yang bertanggung jawab atas akun tersebut? Seringkali, mereka hanya dianggap sebagai satu entitas, dan kemudian Anda harus menghubungkan entitas lain untuk membuat akun bersama dan hal-hal semacam itu. Tetapi juga mempertimbangkan masalah apa yang terjadi pada akun itu jika dua orang berpisah, bagaimana itu dapat dipisahkan di masa depan? Apakah itu sesuatu yang harus kita pikirkan sejak awal?

Eva: Ya, tentu saja. Itu poin yang sangat bagus yang Anda kemukakan. Saya pikir salah satu hal yang sangat saya rasakan adalah ketika kami memusatkan para penyintas dari berbagai jenis pelecehan dalam desain kami, kami akhirnya membuat produk yang lebih baik untuk semua orang. Saya mewawancarai cukup banyak orang tentang khususnya elemen penyalahgunaan keuangan, yang sangat umum dalam pengaturan kekerasan dalam rumah tangga. Statistik adalah 99% orang dalam hubungan kekerasan dalam rumah tangga, ada beberapa unsur penyalahgunaan keuangan yang sangat umum. Tetapi saya juga akhirnya mewawancarai beberapa orang yang secara tragis kehilangan pasangan mereka, orang telah meninggal, dan mereka memiliki rekening bersama.

Eva: Itu seperti cantik ... Ini skenario yang sangat umum, sayangnya, tetapi itu bukan sesuatu yang dirancang untuk ditangani oleh banyak produk ini, dan perlu waktu bertahun-tahun untuk benar-benar mendapatkan kendali penuh atas akun bersama atau atas sesuatu seperti ... Ketika nenek saya meninggal, dia memiliki banyak pandangan ke depan dan dia telah memberi ayah saya akses ke segalanya. Tetapi bahkan dengan itu, masih butuh waktu lama baginya untuk benar-benar menyelesaikan semuanya karena produk ini tidak dirancang untuk menangani hal-hal seperti itu. Tetapi jika kita memusatkan para penyintas dan berpikir tentang, ya, seperti apa rasanya ketika dua orang berpisah, dan dapat menanganinya secara efektif, itu pada akhirnya akan membantu sekelompok orang lain dalam situasi lain.

Drew: Kami berpikir banyak tentang proses orientasi dan membuat akun baru dan membawa orang ke dalam suatu produk, dan kemudian lupa untuk mempertimbangkan apa yang terjadi ketika mereka pergi dengan cara apa pun, apakah mereka sayangnya mati atau bagaimana hal itu dibulatkan di ujung lain dari proses. Saya pikir itu adalah sesuatu yang tidak mendapatkan perhatian yang benar-benar bisa diuntungkan.

Eva: Ya.

Drew: Kami membawa telepon ke dalam saku, dan itu adalah perangkat yang sangat pribadi dan sering kali merupakan kunci akses kami ke informasi, keuangan, dan komunikasi. Dalam situasi negatif, itu bisa dengan mudah ... Fakta bahwa itu adalah perangkat pribadi dapat menjadi vektor untuk kontrol dan penyalahgunaan. Hanya memikirkan hal-hal seperti layanan lokasi, layanan seperti Apple Find My, yang sangat bagus jika Anda memiliki anak usia sekolah dan Anda dapat check-in dan melihat di mana mereka berada, melihat mereka berada di tempat yang seharusnya, mereka aman . Ini adalah fitur keamanan dalam banyak hal, tetapi fitur itu dapat ditumbangkan, bukan?

Eva: Ya, tentu saja. Ya, dan saya senang Anda membicarakannya karena begitu banyak produk ini adalah fitur keselamatan untuk anak-anak. Ya, tentu saja, orang tua ingin tahu di mana anak-anak mereka, mereka ingin memastikan bahwa mereka aman, dan itu bisa menjadi alat yang sangat efektif. Saya pikir ada banyak masalah dengan orang tua yang menggunakan produk ini secara berlebihan. Saya menemukan beberapa kasus mahasiswa yang masih diperiksa oleh orang tuanya dan akan mendapat telepon jika mereka pergi ke pesta di luar kampus seperti mengapa Anda tidak di kamar asrama Anda? Hal-hal seperti itu. Ini bisa menjadi terlalu banyak. Tapi ya, sebagian besar, itu adalah produk hebat. Tetapi banyak orang kemudian menyalahgunakannya untuk melacak orang dewasa yang tidak menyetujui lokasi mereka dilacak, dan sering kali mereka juga …

Eva: Anda harus masuk ke layanan seperti dengan Google Maps, misalnya, berbagi lokasi. Anda harus masuk ke dalamnya untuk melihat bahwa Anda membagikannya dengan seseorang. Tidak ada peringatan. Mirip dengan Cari Milik Saya. Pengguna yang lokasinya dilacak memang mendapatkan peringatan, tetapi dalam situasi kekerasan dalam rumah tangga, sangat mudah bagi pelaku untuk menghapus peringatan dari ponsel orang tersebut sebelum mereka dapat melihatnya, dan kemudian tidak ada cara lain yang membuat orang itu akan menyadari bahwa ini bahkan terjadi. Saya pikir itu adalah contoh yang baik dari sesuatu yang kasus pelecehan tidak dipertimbangkan ketika kita menciptakan hal-hal yang pada akhirnya tentang keselamatan untuk anak-anak. Tetapi kita harus menyadari bahwa ada banyak sekali orang di luar sana yang akan menggunakannya untuk bukan anak-anak dalam pengaturan lain ini.

Drew: Saya kira dalam suatu hubungan, Anda dapat memberikan persetujuan agar lokasi Anda dilacak dengan sukarela pada satu titik waktu, dan kemudian Anda mungkin tidak mengerti bahwa itu berlanjut, dan mungkin tidak menyadari bahwa itu masih terjadi dan Anda sedang dilacak tanpa disadari.

Eva: Ya. Itu hal yang sangat penting untuk dipertimbangkan karena dalam hubungan yang kasar, tidak seperti ... Pelecehan tidak dimulai pada hari pertama, sebagian besar. Biasanya ini adalah hubungan yang benar-benar hebat pada awalnya, dan kemudian mereka perlahan-lahan memperkenalkan berbagai bentuk kontrol dan mengambil kekuasaan dan mengeluarkan orang tersebut dari jaringan pendukung mereka, dan ini semua terjadi seiring waktu, seringkali selama bertahun-tahun, karena jika Anda baru mulai melakukan ini pada kencan pertama, kebanyakan orang akan seperti, "Ya, tidak, saya keluar." Tapi begitu ada hubungan cinta ini, menjadi jauh lebih sulit untuk meninggalkan orang itu.

Eva: Tapi ya, sering kali hal-hal yang benar-benar aman untuk dilakukan di awal hubungan tidak lagi aman, tetapi orang itu sudah lama lupa bahwa mereka berbagi lokasi dengan orang ini, dan sekali lagi tidak ada yang baik. cara untuk diingatkan. Ada beberapa hal seperti kredit mereka, Google mengirim email setiap 30 hari, meskipun beberapa orang mengatakan bahwa mereka tidak benar-benar menerimanya sesering itu, dan beberapa orang melakukannya. Saya tidak yakin apa yang sebenarnya terjadi, tetapi mereka mengirim email ringkasan dengan ini semua orang yang Anda bagikan lokasi Anda, yang benar-benar luar biasa.

Eva: Tapi saya pikir banyak kerusakan yang bisa terjadi dalam 30 hari. Saya lebih suka sesuatu yang lebih sering atau bahkan ada di mana-mana yang memberi tahu Anda bahwa ini sedang terjadi, atau sesuatu yang lebih sering terjadi, kemudian akan memungkinkan pelaku untuk menghapus pemberitahuan itu. Ya, itu poin yang sangat bagus, adalah persetujuan itu. Itu banyak hal yang berasal dari praktik persetujuan penyerangan seksual. Saya pikir ada begitu banyak relevansi untuk teknologi. Hanya karena Anda menyetujui sesuatu di masa lalu tidak berarti Anda menyetujuinya sekarang atau di masa depan. Tapi di bidang teknologi, kami seperti, "Yah, mereka setuju lima tahun lalu, jadi persetujuan itu, itu masih berlaku," dan itu tidak benar-benar terjadi. Kita harus mendapatkan persetujuan mereka lagi nanti.

Drew: Ya, itu menghadirkan berbagai macam tantangan, bukan? Dalam bagaimana hal-hal ini dirancang, karena Anda tidak ingin menempatkan begitu banyak penghalang jalan ke dalam desain produk yang menjadi tidak berguna. Atau dalam kasus di mana Anda melacak seorang anak dan mereka tidak benar-benar menyetujui hari itu, dan tiba-tiba, mereka hilang, dan mereka tidak mengaktifkan layanan. Tetapi sekali lagi, memastikan bahwa persetujuan itu hanya berlaku selama itu benar-benar diberikan. Saya pikir itu cukup mudah dalam dokumen bersama, jika Anda menggunakan Google Documents, atau apa pun, untuk melihat siapa yang melihat dokumen itu pada saat itu, semua ikon muncul, jika ... Avatar dari semua pengguna berbeda yang ada di sana dan memiliki akses. Anda pikir solusi semacam itu bisa bekerja dengan baik ketika orang mengakses lokasi Anda?

Eva: Ya, sama sekali. Ya, itu menjadi lengket. Tidak banyak solusi langsung dan mudah dengan hal ini, dan hal-hal tentang, ya, Anda ingin ... Mungkin bukan ide yang bagus untuk membiarkan anak Anda yang berusia delapan tahun memberikan persetujuan setiap hari karena bagaimana jika suatu hari nanti mereka hanya seperti, "Tidak," atau mereka secara keliru mengatakan tidak atau apa pun, dan kemudian tiba-tiba, Anda tidak dapat menemukannya. Ya, itu skenario nyata. Saya pikir, dengan beberapa hal ini, sepertinya saya tidak berpikir realistis untuk mengatakan, "Yah, produksi ini seharusnya tidak ada atau Anda harus mendapatkan persetujuan setiap hari."

Eva: Tapi dalam kasus itu, masih ada hal yang bisa kamu lakukan seperti memberi tahu orang itu bahwa orang ini, pengguna lain ini dapat melihat lokasi mereka meskipun tidak banyak yang bisa mereka lakukan. Setidaknya memberi mereka informasi itu sehingga mereka memahami dengan jelas apa yang terjadi dan kemudian dapat mengambil tindakan untuk menjaga diri mereka tetap aman jika mereka berada dalam hubungan yang kasar itu, itu akan sangat berguna. Mungkin sekarang mereka tahu, oke, saya tidak akan membawa ponsel saya ketika saya meninggalkan kantor selama jam makan siang saya untuk melihat teman saya yang tidak disetujui oleh pasangan saya karena dia selalu sangat menganjurkan agar saya meninggalkan kantor. hubungan dan dia akan tahu bahwa saya telah pergi ke suatu tempat jika saya membawa telepon saya.

Eva: Tapi jika saya hanya menyimpan telepon saya di kantor, maka dia tidak akan tahu. Mampu membuat jenis keputusan berdasarkan informasi tersebut. Bahkan jika Anda tidak dapat serta merta mengakhiri berbagi lokasi, pasti ada hal lain yang dapat kami lakukan yang akan menjaga pengguna tetap aman sambil tetap mempertahankan fungsionalitas inti dari produk fitur.

Drew: Ya. Itu tergantung pada keputusan desain, bukan? Dan menemukan solusi untuk masalah yang sulit, tetapi pertama-tama pahami bahwa masalahnya ada dan perlu dipecahkan, yang menurut saya di situlah percakapan ini sangat penting dalam memahami berbagai cara berbagai hal digunakan. Semakin banyak, kami memiliki perangkat dengan mikrofon dan kamera di dalamnya. Kami memiliki banyak kamera pengintai di rumah kami dan di bel pintu kami, dan pengawasan rahasia bukan hanya sesuatu dari film mata-mata dan pertunjukan polisi lagi, bukan?

Eva: Ya. Oh ya. Ini masalah besar. Saya memiliki perasaan yang sangat kuat tentang hal ini, dan saya tahu banyak orang benar-benar menyukai perangkat ini dan saya pikir itu baik-baik saja. Saya pikir mereka banyak disalahgunakan untuk pengawasan. Saya pikir banyak pasangan dan anggota keluarga, tetapi juga banyak ... Di sinilah saya pikir masuk ke hal-hal dengan anak-anak, setidaknya bagi saya, menjadi sedikit lebih jelas bahwa bahkan anak-anak memiliki beberapa hak privasi, dan terutama ketika Anda melihat remaja membutuhkan lebih banyak kemandirian dan mereka membutuhkan ruang, dan ada hal-hal perkembangan otak yang terjadi di sekitar kemandirian.

Eva: Saya pikir ada cara untuk membantu anak-anak Anda aman saat online dan membuat keputusan yang baik, dan juga terkadang memeriksa apa yang mereka lakukan tanpa itu menjadi sesuatu di mana Anda terus-menerus mengawasi mereka atau terus-menerus menyuntikkan diri Anda ke dalam kehidupan mereka dengan cara yang tidak mereka inginkan. Tapi ya, kebanyakan perangkat pengawasan yang berbeda hanya di luar kendali, dan orang-orang menggunakan ini sepanjang waktu untuk diam-diam mengawasi satu sama lain atau bahkan tidak terang-terangan. Kadang-kadang di tempat terbuka seperti, “Ya, aku mengawasimu. Apa yang akan Anda lakukan? Anda tidak bisa karena kita berada dalam hubungan ini di mana saya telah memilih untuk menggunakan kekerasan untuk menjaga kekuasaan dan kendali saya atas Anda.”

Eva: Ini menjadi masalah yang sangat besar. Sesuatu yang sering saya temui adalah orang-orang ... Ini menjadi satu cara lagi bagi pelaku untuk mengisolasi korban dari jaringan dukungan mereka. Anda tidak dapat melakukan percakapan telepon pribadi dengan teman atau saudara Anda atau terapis Anda. Tiba-tiba, tidak ada tempat di rumah Anda yang sebenarnya adalah ruang pribadi, yang juga menjadi masalah besar selama pandemi di mana orang-orang terpaksa berada di rumah. Kami telah melihat peningkatan besar dalam kekerasan dalam rumah tangga, serta teknologi memfasilitasi kekerasan dalam rumah tangga karena pelaku memiliki lebih banyak waktu untuk mencari tahu bagaimana melakukan hal-hal ini, dan itu adalah ruang yang jauh lebih kecil yang harus mereka siapkan untuk kontrol. Banyak orang telah melakukan itu. Ini benar-benar masalah besar.

Drew: Saya berharap pembuat produk semacam ini, kamera pengintai, dan apa pun yang Anda miliki, akan berkata, “Kami hanya membuat alat di sini. Kami tidak bertanggung jawab atas bagaimana mereka digunakan. Kami tidak bisa berbuat apa-apa tentang itu.” Tetapi apakah Anda akan berargumen bahwa, ya, mereka memiliki tanggung jawab atas bagaimana alat-alat itu digunakan?

Eva: Ya, saya mau. Saya akan, pertama-tama, memberi tahu seseorang yang mengatakan bahwa, “Anda adalah manusia terlebih dahulu sebelum Anda menjadi karyawan di perusahaan teknologi, orang yang menghasilkan uang kapitalis. Anda adalah manusia dan produk Anda memengaruhi manusia dan Anda bertanggung jawab untuk itu.” Hal kedua yang ingin saya katakan adalah bahwa menuntut tingkat melek teknologi yang lebih tinggi dari pengguna kami adalah pola pikir yang sangat bermasalah untuk dimiliki, karena mudah bagi kita yang bekerja di bidang teknologi untuk mengatakan, “Yah, orang hanya perlu belajar lebih banyak. tentang itu. Kami tidak bertanggung jawab jika seseorang tidak mengerti bagaimana produk kami digunakan.”

Eva: Tetapi sebagian besar orang tidak bekerja di bidang teknologi dan mereka masih, jelas, beberapa benar-benar banyak orang yang benar-benar paham teknologi di luar sana yang tidak bekerja di bidang teknologi. Tetapi menuntut agar orang-orang memahami dengan tepat bagaimana setiap aplikasi yang mereka miliki, setiap hal yang mereka gunakan di ponsel atau laptop mereka, setiap perangkat yang mereka miliki di rumah, memahami setiap fitur dan mengidentifikasi cara-caranya. digunakan untuk melawan mereka, itu adalah beban yang sangat besar. Ini mungkin tidak tampak seperti masalah besar jika Anda hanya memikirkan satu produk Anda seperti, oh, well, tentu saja, orang harus meluangkan waktu untuk memahaminya.

Eva: Tapi kita berbicara tentang lusinan produk yang kita tanggung pada orang-orang yang sedang melalui situasi berbahaya untuk dipahami, yang sangat tidak realistis dan sangat tidak manusiawi, terutama mengingat apa yang dilakukan pelecehan dan pengawasan dan hal-hal berbeda ini ke otak Anda jika Anda terus-menerus dalam keadaan terancam dan dalam mode bertahan hidup ini sepanjang waktu. Otak Anda tidak akan dapat memiliki fungsi eksekutif penuh untuk mencari tahu, melihat aplikasi ini dan mencoba mengidentifikasi bagaimana suami saya menggunakan ini untuk mengawasi saya atau mengendalikan saya atau apa pun itu. Saya akan mengatakan bahwa itu benar-benar adil, jujur, pola pikir yang buruk untuk dimiliki dan bahwa kita bertanggung jawab atas bagaimana orang menggunakan produk kita.

Drew: Jika menurut Anda kebanyakan orang tidak memahami lebih dari satu atau dua tombol pada microwave mereka, bagaimana kita bisa diharapkan untuk memahami kemampuan dan fungsi semua aplikasi dan layanan berbeda yang berhubungan dengan kita?

Eva: Tentu saja. Ya.

Drew: Dalam hal merancang produk dan layanan, saya merasa sebagai pria kulit putih yang berbicara bahasa Inggris bahwa saya memiliki titik buta yang besar melalui posisi istimewa yang diberikan masyarakat kepada saya, dan saya merasa sangat naif dan saya sadar itu bisa menyebabkan pilihan desain bermasalah dalam hal-hal yang saya buat. Adakah langkah-langkah yang dapat kita ambil dan proses yang dapat kita ikuti untuk memastikan bahwa kita mengekspos titik-titik buta itu dan melakukan yang terbaik untuk melangkah keluar dari ranah pengalaman kita sendiri dan memasukkan lebih banyak skenario?

Eva: Ya, tentu saja. Saya memiliki begitu banyak pemikiran tentang ini. Saya pikir ada beberapa hal. Pertama, kita semua bertanggung jawab untuk mendidik diri kita sendiri tentang titik-titik buta kita. Setiap orang memiliki titik buta. Saya pikir mungkin cis laki-laki kulit putih memiliki lebih banyak titik buta daripada kelompok lain, tetapi tidak seperti ada beberapa kelompok yang tidak memiliki titik buta. Setiap orang memilikinya. Saya pikir mendidik diri kita sendiri tentang berbagai cara bahwa teknologi kita dapat disalahgunakan. Saya pikir itu lebih dari ... Jelas, keamanan interpersonal adalah hal yang saya kerjakan. Tetapi ada semua hal lain ini juga, yang juga terus saya coba pelajari dan cari tahu bagaimana saya memastikan bahwa teknologi yang saya kerjakan tidak akan melanggengkan hal-hal yang berbeda ini.

Eva: Saya sangat suka Design For Real Life oleh Sara Wachter-Boettcher dan Eric Meyer sangat bagus untuk desain inklusif dan desain penuh kasih. Tapi kemudian saya juga telah belajar tentang algoritma dan rasisme dan seksisme dan masalah yang berbeda dengan algoritma. Ada begitu banyak hal berbeda yang perlu kita pertimbangkan, dan saya pikir kita semua bertanggung jawab untuk mempelajari hal-hal itu. Kemudian saya juga berpikir membawa pengalaman langsung dari orang-orang yang telah melalui hal-hal ini setelah Anda mengidentifikasi, oke, rasisme akan menjadi masalah dengan produk ini, dan kita perlu memastikan bahwa kita sedang menghadapinya dan mencoba untuk mencegahnya dan pasti memberikan cara bagi orang untuk melaporkan rasisme atau apa pun yang Anda miliki.

Eva: Salah satu hal, contoh yang saya berikan dalam buku saya adalah Airbnb memiliki banyak masalah dengan rasisme dan host rasis. Bahkan hanya studi tentang jika Anda memiliki ... Jika foto Anda adalah orang kulit hitam, Anda akan ditolak. Permintaan Anda untuk memesan penginapan akan lebih sering ditolak daripada jika Anda memiliki orang kulit putih di foto Anda. Saya pikir saya sebagai orang kulit putih, itu adalah sesuatu yang saya pikir saya tidak bisa pergi dan mempelajarinya dan kemudian berbicara sebagai otoritas dalam masalah ini. Saya pikir dalam hal ini, Anda perlu membawa seseorang dengan pengalaman langsung yang dapat memberi tahu Anda, jadi menyewa konsultan desainer kulit hitam karena jelas kami tahu bahwa sebenarnya tidak ada keragaman besar dalam teknologi.

Eva: Idealnya, Anda sudah memiliki orang-orang di tim Anda yang bisa berbicara tentang itu, tapi saya pikir ... Tapi kemudian itu sangat rumit. Di sinilah masalahnya, apakah kita menuntut tenaga kerja semacam itu dari rekan satu tim kita? Itu juga bisa bermasalah. Orang kulit hitam di tim Anda mungkin sudah akan menghadapi banyak hal yang berbeda, dan kemudian membuat orang kulit putih seperti, "Hei, ceritakan kepada saya tentang pengalaman traumatis yang Anda alami karena ras Anda." Kita seharusnya tidak membebani orang seperti itu, kecuali…

Eva: Banyak orang akan dengan senang hati membicarakan hal itu dan membicarakannya, dan saya akan berbicara tentang berbagai hal, pengalaman saya sebagai seorang wanita, tetapi itu mungkin bukan sesuatu yang ingin saya lakukan setiap hari. Dalam hal ini, mempekerjakan orang yang melakukan itu untuk pekerjaan dan kemudian selalu membayar orang untuk pengalaman hidup mereka dan membuatnya tidak eksploitatif dalam hal memberi kompensasi kepada orang untuk pengetahuan dan pengalaman hidup itu.

Drew: Ya. Saya pikir itu benar-benar menggarisbawahi betapa sangat penting dan bermanfaatnya memiliki tim yang beragam yang mengerjakan produk, membawa segala macam pengalaman yang berbeda.

Eva: Ya, tentu saja.

Drew: Salah satu hal yang Anda bahas dalam buku Anda dalam proses desain adalah menciptakan arketipe pelaku dan penyintas untuk membantu Anda menguji fitur Anda. Bisakah Anda memberi tahu kami sedikit tentang ide itu?

Eva: Ya. Ini keluar dari keinginan untuk memiliki semacam artefak persona yang akan membantu orang memahami dengan sangat jelas apa masalahnya. Ini adalah sesuatu yang muncul setelah tim melakukan penelitian tentang masalah tersebut dan telah mengidentifikasi kemungkinan masalah yang berbeda dalam hal keselamatan interpersonal dan dapat dengan jelas mengartikulasikan apa itu. Kemudian Anda membuat arketipe pelaku, yaitu orang yang mencoba menggunakan produk Anda untuk apa pun kerugiannya, dan kemudian arketipe penyintas, yang akan menjadi korban kerugian itu. Hal penting tentang ini adalah memiliki tujuan. Ini hampir seperti Anda menemukan gambar, atau Anda bahkan tidak membutuhkan gambar, tetapi itu hanya mengartikulasikan apa pelecehan itu dan kemudian tujuan orang tersebut.

Eva: Jika seseorang yang ingin mencari tahu di mana mantan pacarnya tinggal sekarang karena dia ingin menguntitnya, tujuannya adalah untuk menguntitnya. Lalu tujuan si penyintas... Yah, maaf, tujuan si pelaku adalah menggunakan produk Anda. Katakanlah Strava, misalnya, adalah salah satu yang saya gunakan sebagai contoh dalam buku ini. Saya ingin menggunakan Strava untuk melacak mantan pacar saya, dan kemudian pola dasar yang selamat berkata, "Saya ingin merahasiakan lokasi saya dari mantan saya yang mencoba menguntit saya." Kemudian Anda dapat menggunakan tujuan tersebut untuk membantu menginformasikan beberapa desain Anda dan untuk menguji produk Anda untuk melihat apakah ada sesuatu tentang data lokasi penyintas yang tersedia untuk umum bagi seseorang yang mencoba menemukan lokasi mereka, meskipun mereka telah mengaktifkan semua privasi mereka. fitur?

Eva: Saya menggunakan Strava sebagai contoh karena sampai beberapa bulan yang lalu, ada kemampuan itu. Ada sesuatu yang bahkan jika Anda telah merahasiakan semuanya, jika Anda berlari atau berolahraga di dekat orang lain menggunakan aplikasi untuk jangka waktu tertentu, tidak jelas seberapa dekat Anda atau berapa lama Anda harus berlari dengan cara yang sama. jalan sebagai orang lain ini, itu akan menandai mereka sebagai telah muncul di latihan Anda. Itu akan menjadi contoh di mana pelaku dapat memenuhi tujuannya, ia dapat menemukan mantannya dengan cara ini. Maka Anda akan tahu, oke, kita perlu melawannya dan mencegah agar tujuan itu tidak berhasil.

Drew: Terutama, Anda tidak dapat memikirkan setiap skenario. Anda tidak dapat mengetahui apa yang akan coba dilakukan oleh pelaku kekerasan dalam segala situasi. But by covering some key apparent problems that could crop up, then I guess you're closing lots of doors for other lines of abuse that you haven't thought of.

Eva: Yes. Yeah, exactly. That brings up a really good other related point, which is that, yeah, you're probably not going to think of everything. Then having ways for users to report issues and then being the type of team and company that can take those criticisms or issues that users identify with some grace and quickly course correcting because there's always going to be things you don't think about and users are going to cover all sorts of things. I feel like this always happens. Being able to have a way to get that feedback and then to quickly course correct is also a really big part of the whole process of designing for safety.

Drew: Is there a process that would help you come up with these potential problems? Say you're designing a product that uses location data, what process would you go through to think of the different ways it could be abused? Is there anything that helps in that regard?

Eva: Yeah. This is something I get more in depth about in the book, but having some research around it first is the first thing. With location services is a pretty easy one, so to speak. There's so many documented issues with location services. There's also been academic studies done on this stuff, there's lots of literature out there that could help inform the issues that you're going to face. Then the other thing that I suggest that teams do is after doing this research is doing a brainstorm for novel of use cases that have not been covered elsewhere.

Eva: The way I usually do this is I have the team do a Black Mirror brainstorm. Let's make a Black Mirror episode. What's the worst, most ridiculous, just anything goes, worst case scenario for this product or feature that we're talking about? People usually come up with some really wild stuff and it's actually usually really fun. Then you say, “Okay, let's dial it back. Let's use this as inspiration for some more realistic issues that we might come across,” and then people are usually able to identify all sorts of things that their product might enable.

Drew: For people listening who feel like they would really love to champion this area of work within their organization, do you have any advice as to how they could go about doing that?

Eva: Yeah. There is a lot of stuff about this in the book, about integrating this into your practice and bringing it to your company. Advice for things like talking to a reluctant stakeholder whose only concern is, well, how much is this going to cost me? How much extra time is this going to take? Being able to give really explicit answers about things like that is really useful. Also, I have recordings of my conference talk which people usually say, “I had just had no idea that this was a thing.” You can help educate your team or your company.

Eva: I talked about this in the book too, honestly, it can be awkward and weird to bring this stuff up and just being mentally prepared for how it's going to feel to be like, “We should talk about domestic violence,” or, “We should talk about invasive child surveillance.” It can be really hard and just weird. One of the pieces of advice I give is for people to talk to a supportive coworker ahead of time, who can back them up if you're going to bring this up in a meeting and just help reduce the weirdness, and there are some other tactics in the book. But those are definitely the big ones.

Drew: I would normally ask at this point where our listeners should go to find out more about the topic. But I know that the answer is actually to go and read your book. We've only really just scratched the surface on what's covered in Design For Safety, which is out now, this August 2021 from A Book Apart. The book, for me, it's sometimes an uneasy read in terms of content, but it's superbly written and it really opened my eyes to a very important topic. One thing I really like about all the A Book Apart books is they're small and focused and they're easy to consume. I would really recommend that listeners check out the book if the topic is interesting to them.

Eva: Yeah, thanks for that. Theinclusivesafetyproject.com is the website I have to house all of this information. There's a lot of great resources in the back of the book for people who want to learn more. But if you just want something and more immediately, you can go to Theinclusivesafetyproject.com and there's a resources page there that has different sort of articles or studies to look at different people working in related spaces to follow on Twitter, books to read, things like that.

Drew: Benar. I've been learning what it means to design for safety. What have you been learning about, Eva?

Eva: I have been learning about data. I'm reading a really interesting book called Living in Data by Jer Thorp, which I thought it was going to be all about different issues with big data, which is such a big thing but it's actually an extremely thoughtful, much more interesting approach to what it means to live in data and just how much data is taken from us every day and what's done with it and just data out there in the world. It's really interesting and important, and yeah, I would definitely recommend that book.

Drew: No, amazing. If you the listener would like to hear more from Eva, you can follow her on Twitter where she's @epenzeymoog, and you can find all her work linked from her website at evapenzeymoog.com. Design For Safety is published abookapart.com and is available now. Thanks for joining us today, Eva. Apakah Anda memiliki kata-kata perpisahan?

Eva: Please get vaccinated so that we can go back to normal.