Smashing Podcast ตอนที่ 41 กับ Eva PenzeyMoog: การออกแบบเพื่อความปลอดภัย

บทความนี้ได้รับการสนับสนุนอย่างดีจากเพื่อนรักของเราที่ Netlify ซึ่งเป็นกลุ่มที่มีความสามารถอันน่าทึ่งจากทั่วทุกมุมโลก และมีแพลตฟอร์มสำหรับนักพัฒนาเว็บที่เพิ่มผลิตภาพ ขอขอบคุณ!

ในตอนนี้ เรากำลังพูดถึงการออกแบบเพื่อความปลอดภัย การพิจารณาผู้ใช้ที่มีช่องโหว่ในการออกแบบของเราหมายความว่าอย่างไร Drew McLellan พูดคุยกับผู้เชี่ยวชาญ Eva PenzeyMoog เพื่อหาคำตอบ

แสดงหมายเหตุ

• การออกแบบเพื่อความปลอดภัยจาก A Book Apart
• โครงการความปลอดภัยแบบเบ็ดเสร็จ
• อีวาบน Twitter
• เว็บไซต์ส่วนตัวของอีวา

อัพเดทประจำสัปดาห์

• วิธีสร้างเว็บไซต์อีคอมเมิร์ซด้วย Angular 11, Commerce Layer และ Paypal เขียนโดย Zara Cooper
• Refactoring CSS: กลยุทธ์, การทดสอบการถดถอยและการบำรุงรักษา เขียนโดย Adrian Bece
• วิธีสร้าง UI JavaScript ที่ยืดหยุ่นซึ่งเขียนโดย Callum Hart
• React Children and Iteration Methods เขียนโดย Arihant Verma
• รูปแบบการออกแบบที่น่าผิดหวัง: ปุ่มสำหรับผู้พิการ เขียนโดย Vitaly Friedman

การถอดเสียง

Drew McLellan: เธอเป็นผู้ก่อตั้ง The Inclusive Safety Project ซึ่งเป็นผู้แต่งหนังสือ Designed For Safety ซึ่งเปิดตัวในเดือนนี้จาก A Book Apart เธอเป็นหัวหน้านักออกแบบที่ 8th Light ซึ่งเธอออกแบบและสร้างซอฟต์แวร์ที่กำหนดเองและให้คำปรึกษาเกี่ยวกับกลยุทธ์การออกแบบที่ปลอดภัยและครอบคลุม เรารู้ว่าเธอเป็นผู้เชี่ยวชาญในการออกแบบเทคโนโลยีเพื่อปกป้องผู้ที่อ่อนแอ แต่คุณรู้หรือไม่ว่าเธอเป็นเจ้าของสถิติสากลสำหรับโดนัทส่วนใหญ่ที่ทำในรถยก? เพื่อนที่ยอดเยี่ยมของฉัน ได้โปรด ยินดีต้อนรับ Eva PenzeyMoog สวัสดีอีวา สบายดีไหม

Eva PenzeyMoog: ฉันยอดเยี่ยมมาก

ดริว : ยินดี ที่ได้ยิน วันนี้ฉันต้องการคุยกับคุณเกี่ยวกับหลักการออกแบบผลิตภัณฑ์และประสบการณ์โดยคำนึงถึงความปลอดภัยของผู้ใช้ที่มีช่องโหว่ มันจะยุติธรรมไหมตั้งแต่เริ่มแรกที่จะให้คำเตือนเกี่ยวกับเรื่องใดเรื่องหนึ่งที่เราอาจกล่าวถึง

อีวา: แน่นอน ใช่ ขอบคุณที่นำสิ่งนั้นขึ้นมา ทำให้เกิดคำเตือนอย่างชัดเจนหากมีการกล่าวถึงความรุนแรงในครอบครัวอย่างชัดแจ้ง รวมถึงการล่วงละเมิดในผู้สูงอายุและการล่วงละเมิดเด็กด้วย

ดริว : นั่นเป็นสิ่งสำคัญ ตามสบาย. หากคุณกังวลกับปัญหาเหล่านี้ ปัญหานั้นอาจเกิดจากคุณ รู้สึกอิสระที่จะข้ามพวกเขา แล้วพบกันใหม่ในตอนต่อไป วางกรอบการสนทนาสำหรับเรา อีวา เมื่อพูดถึงการออกแบบเพื่อความปลอดภัย เรากำลังพูดถึงปัญหาด้านความปลอดภัยประเภทใด เราไม่ได้พูดถึงอินเทอร์เฟซสำหรับรถยนต์ที่ขับด้วยตนเอง มันไม่ใช่ความปลอดภัยอย่างนั้นเหรอ?

อีวา: ถูกต้อง ใช่. เมื่อฉันพูดเกี่ยวกับความปลอดภัย ฉันกำลังพูดถึงความปลอดภัยระหว่างบุคคล วิธีที่ผู้ใช้สามารถสร้างอาวุธให้ผลิตภัณฑ์ของเราทำอันตรายซึ่งกันและกันในลักษณะระหว่างบุคคล คนที่รู้จักกัน อยู่ด้วยกัน ความรุนแรงในครอบครัวมากมายจากคู่รักที่โรแมนติก แต่ยังรวมถึงพ่อแม่และลูกด้วย ยังมีนายจ้างและลูกจ้างอีกเล็กน้อยที่อยู่ในขอบเขตของการสอดส่องดูแล แต่มีความสัมพันธ์ที่แท้จริงภายในส่วนบุคคลที่จำเป็นในแง่ของความปลอดภัยที่ฉันกำลังพูดถึง ตรงกันข้ามกับคนที่ไม่ระบุตัวตนบนอินเทอร์เน็ตหรือหน่วยงานที่ไม่ระบุชื่อที่พยายามรับข้อมูลของคุณ

Drew: อาจเป็นปัญหาง่ายๆ อย่าง ... ฉันคิดถึงทุกวันที่คุณเห็นบนโซเชียลเน็ตเวิร์กที่มีความสามารถสำหรับผู้ใช้ที่แตกต่างกันในการส่งข้อความถึงกัน และสิ่งนี้ควรจะเป็นเครื่องมือเล็กๆ ที่มีประโยชน์ในการทำให้ผู้คนสามารถสนทนาแบบออฟไลน์ได้อย่างไร หรือออกสู่สาธารณะ แต่สิ่งเหล่านั้นก็อาจเป็นพาหะของการควบคุมโดยมิชอบได้ หากไม่มีการป้องกันที่ถูกต้อง

อีวา: ใช่แน่นอน แน่นอนเมื่อใดก็ตามที่คุณอนุญาตให้ผู้ใช้ส่งข้อความประเภทใดก็ได้ถึงกัน มีความเป็นไปได้ที่จะมีการละเมิด การส่งข้อความบน Facebook นั้นชัดเจนกว่าเล็กน้อย และฉันคิดว่า … ฉันหวังว่าพวกเขาจะมีระบบป้องกันที่พวกเขาตระหนักดีว่าบางทีคุณอาจไม่ต้องการเห็นข้อความบางอย่างหรือต้องการให้ใครบางคนติดต่อคุณ แต่สิ่งที่น่าสนใจและเกี่ยวข้องจริงๆ ที่ฉันพบขณะทำวิจัยคือแอปพลิเคชันหรือบริการด้านการธนาคารต่างๆ มากมาย เช่น Venmo ที่ให้คุณแบ่งปันเงินได้ มักจะมีที่ว่างสำหรับข้อความ อย่างน้อยกับ Venmo ก็จำเป็น

อีวา: ธนาคารบางแห่ง เป็นทางเลือก แต่ผู้คนจะส่งเงินหนึ่งเพนนีไปให้ใครบางคน แล้วมีข้อความที่ไม่เหมาะสมหรือบางสิ่งที่เป็นอันตรายหรือน่ากลัวหรือคุกคามจริงๆ และไม่มีทางที่ผู้ใช้จะได้รับข้อความเหล่านั้นเพื่อตั้งค่าสถานะหรือพูดว่า “ฉันต้องการบล็อกผู้ใช้รายนี้ เพราะเหตุใดคุณจึงต้องการหยุดไม่ให้ผู้อื่นส่งเงินจากคุณ” นั่นเป็นสถานการณ์ที่ฉันคิดว่านักออกแบบไม่ได้พิจารณาว่าผู้กระทำความผิดมักจะมองหาวิธีการทำสิ่งนั้นอยู่เสมอ พวกเขามีความคิดสร้างสรรค์มาก และยังไม่ได้รับการพิจารณาในการออกแบบ

ดรูว์: เรามักพูดถึงการออกแบบเส้นทางแห่งความสุข ที่ซึ่งทุกอย่างถูกใช้อย่างถูกออกแบบให้ใช้งาน และประสบการณ์ก็ดำเนินไปอย่างราบรื่น ในฐานะวิศวกร เราคิดถึงสิ่งที่อาจผิดพลาดในแง่ของความล้มเหลวในการตรวจสอบความถูกต้องหรือ API หยุดทำงาน แต่ฉันไม่แน่ใจ … ในฐานะอุตสาหกรรม เรามีจุดบอดขนาดใหญ่เกี่ยวกับวิธีการใช้เทคโนโลยีในทางที่ผิดเมื่อพิจารณาถึงความปลอดภัยของผู้ใช้ของเราหรือไม่

เอ วา : ค่ะ ฉันคิดว่ามีจุดบอดขนาดยักษ์ ผู้คนคุ้นเคยกับรูปแบบการคุกคามต่างๆ เหล่านี้ อย่างที่ฉันพูดถึง ของบุคคลนิรนามที่คุกคามคุณบน Twitter หน่วยงานต่าง ๆ ที่พยายามเจาะเข้าไปในข้อมูลของบริษัทธนาคาร อะไรทำนองนั้น แต่เราเรียกมันว่ารูปแบบการคุกคามความรุนแรงในครอบครัว ซึ่งแตกต่างอย่างมาก และเป็นสิ่งที่คนส่วนใหญ่ไม่ได้นึกถึง และนั่นคือผลตอบรับเสมอเมื่อผมพูดคุย โดยออกแบบเพื่อต่อต้านความรุนแรงในครอบครัวในสมัยก่อนก่อนที่โรคระบาดใหญ่จะหยุดการประชุม . นั่นคือคำติชมเสมอ คือคนที่พูดว่า “ฉันไม่เคยได้ยินเรื่องนี้มาก่อน ฉันไม่มีความคิดเห็น." นั่นคือเป้าหมายของการพูด หนังสือ และงานโดยทั่วไปคือการช่วยให้ผู้คนเข้าใจว่านี่คืออะไรและต้องทำอย่างไรกับเรื่องนี้ เพราะมันเป็นเพียงจุดบอดขนาดมหึมา

Drew: ฉันคิดว่าเรามีแนวโน้ม และเห็นได้ชัดว่ามันอันตรายที่จะสันนิษฐานว่าผู้ใช้ทุกคนเป็นเหมือนเรา เช่นเดียวกับคนที่กำลังสร้างบริการหรือผลิตภัณฑ์ เช่นเดียวกับทหารของเรา เช่นเดียวกับเพื่อน ๆ และครอบครัวของเรา และคนที่เรารู้จัก และให้สันนิษฐานว่าทุกคนอยู่ในสถานการณ์ที่บ้านที่มั่นคงและมีความเป็นเจ้าของหรือควบคุมบริการของตนอย่างเต็มที่ และอุปกรณ์ต่างๆ มันไม่ใช่อย่างนั้นเสมอไปเหรอ?

อีวา: ใช่แน่นอน ไม่เสมอไปอย่างแน่นอน ฉันคิดว่าเราอาจมองดูเพื่อนและครอบครัวของเราและคิดว่าทุกคนมีความสัมพันธ์ที่ดี แต่สิ่งที่ฉันพบคือคนส่วนใหญ่ที่ใช้ความรุนแรงในครอบครัวไม่ได้บอกทุกคนในชีวิตและตะโกนอย่างแน่นอน หลังคา คนส่วนใหญ่ แค่ดูจากสถิติ มันเป็นเรื่องธรรมดามาก คุณคงรู้จักใครบางคนที่เคยอยู่ในสถานการณ์นั้นหรือกำลังอยู่ในสถานการณ์นั้น และพวกเขาไม่ได้พูดถึงเรื่องนี้จริงๆ หรือบางทีพวกเขาอาจไม่ได้แบ่งปันพฤติกรรมอย่างเต็มที่

อีวา: ในหลาย ๆ ด้าน เป็นที่เข้าใจได้ว่าไม่ใช่เรื่องที่ผู้คนคิดจริงๆ ในที่ทำงาน เพราะมันไม่ใช่สิ่งที่เราคิดในสังคมและชีวิตโดยทั่วไป และเราทำซ้ำสิ่งนั้นในที่ทำงานของเรา งานของฉันกำลังพยายามให้เราพูดถึงเรื่องนี้ให้ชัดเจนขึ้นอีกหน่อย

Drew: อะไรคือสิ่งที่เราควรคำนึงถึงเมื่อพูดถึงข้อควรพิจารณาเหล่านี้? แค่นึกถึงเวลาที่คนอื่นอาจเข้าถึงบัญชีของคุณ หรือถ้าพันธมิตรรู้รหัสผ่านของคุณและสามารถเข้าไปได้ คุณอาจจะคิดว่าผลิตภัณฑ์นั้นได้รับการออกแบบให้ควบคุมโดยบุคคลเพียงคนเดียว แต่ตอนนี้อาจมีใครบางคนที่ชั่วร้ายกำลังเข้าถึงมัน มีการพิจารณาประเภทใดบ้าง?

เอ วา : ค่ะ มีหลายสิ่งหลายอย่างที่แตกต่างกัน แต่นั่นเป็นเรื่องใหญ่จริงๆ ที่ฉันมี ... สามบทหลักในหนังสือเล่มใหม่ของฉันมุ่งเน้นไปที่สามส่วนที่แตกต่างกันใหญ่ที่สิ่งนี้เกิดขึ้น และสิ่งที่คุณเพิ่งพูดถึงคือจุดสนใจของหนึ่งใน เกี่ยวกับปัญหาด้านการควบคุมและกำลังของผลิตภัณฑ์ที่ออกแบบมาสำหรับหลายคน สิ่งต่างๆ เช่น บัญชีธนาคารที่ใช้ร่วมกัน สิ่งต่างๆ เช่น Netflix หรือ Spotify สิ่งต่างๆ เช่น อุปกรณ์ในบ้านประเภทต่างๆ อุปกรณ์ Internet of Things ที่เห็นได้ชัดว่ามีไว้สำหรับคนหลายคน แต่มีข้อสันนิษฐานว่าทุกคนเป็นบุคคลที่มีความเคารพซึ่งไม่ต้องการหาวิธีอื่นในการแสดงอำนาจและควบคุมผู้คนรอบข้าง

อีวา: บัญชีธนาคารร่วมหลายๆ บัญชี หรือหลายอย่างเช่น การปลอมแปลงบริการบัตรเครดิตที่ใช้ร่วมกันเป็นบัญชีร่วม แต่จริงๆ แล้วคนๆ เดียวมีอำนาจมากกว่า ตัวอย่างเช่น สิ่งนี้เกิดขึ้นกับฉันและมันน่าหงุดหงิดจริงๆ เพราะฉันจัดการเรื่องการเงินส่วนใหญ่ในชีวิตแต่งงาน แต่เมื่อเราตั้งค่าบัญชีธนาคารร่วมบัญชีแรกของเราเมื่อหลายปีก่อน พวกเขาตั้งสามีของฉันเป็นผู้ใช้หลัก ซึ่งโดยพื้นฐานแล้วหมายความว่ามันเป็นข้อมูลที่เปิดเผยต่อสาธารณะซึ่งใช้ในการสร้างแบบทดสอบความปลอดภัย เมื่อฉันเข้าสู่ระบบธนาคารของเราจากเครือข่าย Wi-Fi ใหม่ ฉันต้องถามเขาว่า คุณอาศัยอยู่บนถนนสายใดในสมัยที่คุณยังเป็นเด็ก ส่วนใหญ่เป็น … บางคนฉันสามารถตอบได้

อีวา: ฉันรู้ว่าเขาไม่เคยอาศัยอยู่ในแคลิฟอร์เนีย แต่ส่วนมากของพวกเขาดีจริงๆ และฉันต้องถามเขาแม้ว่าเราจะอยู่ด้วยกันมานาน พวกมันค่อนข้างมีประสิทธิภาพในการกันใครบางคนออกไป แต่ดูเหมือนว่านี่ควรจะเป็นบัญชีร่วม เหตุใดจึงเป็นเช่นนั้น ... จริงๆ แล้วเป็นเพียงบัญชีสำหรับเขาที่ฉันสามารถเข้าถึงได้ด้วย มีปัญหามากมายกับการที่พวกเขายอมให้ใครซักคนควบคุมมากขึ้นเพราะเขาไม่สามารถให้คำตอบฉันได้แล้วฉันก็จะไม่สามารถเข้าถึงการเงินของเราได้โดยไม่ต้องโทรไปที่ธนาคารหรือทำอะไรสักอย่างแล้วผ่าน กระบวนการที่แตกต่างกัน ใช่. ปัญหาต่างๆ มากมายเกี่ยวกับการควบคุม

อีวา: ฉันคิดว่าเมื่อใดก็ตามที่คุณออกแบบผลิตภัณฑ์ที่เกี่ยวข้องกับผู้ใช้หลายคนโดยคิดว่าผู้ใช้รายหนึ่งจะใช้สิ่งนี้เพื่อควบคุมบุคคลอื่นได้อย่างไร แล้วเราจะใส่มาตรการป้องกันได้อย่างไร ไม่ว่าจะทำอย่างนั้นได้อย่างไร คนคนหนึ่งไม่มีอำนาจควบคุม หากไม่สามารถทำได้ อย่างน้อยที่สุดเราจะแน่ใจได้อย่างไรว่าอีกฝ่ายจะเข้าใจอย่างถ่องแท้ว่าเกิดอะไรขึ้นและรู้วิธีที่จะฟื้นคืนอำนาจได้อย่างไร เราสามารถให้หมายเลขโทรศัพท์กับพวกเขา เปลี่ยนแปลงการตั้งค่าบางอย่างได้ไหม? ไม่ว่ามันจะเป็นอะไรก็ตาม มันค่อนข้างจะซับซ้อน

อีวา: ฉันมีกระบวนการทั้งหมดในหนังสือเกี่ยวกับลักษณะของสิ่งนี้ในทางปฏิบัติ มีบางอย่างที่เฉพาะเจาะจงมากกว่าการพิจารณาความรุนแรงในครอบครัวหรือเพียงแค่พิจารณาว่าใครคือผู้ควบคุม ฉันไม่พบว่าคำแนะนำประเภทนี้มีประโยชน์มาก ฉันมีกระบวนการที่ละเอียดถี่ถ้วนมากที่นักออกแบบสามารถใช้ในกระบวนการออกแบบที่มีอยู่จริงเพื่อให้ได้สิ่งนี้

Drew: ฉันเดาว่าคุณมีบัญชีเหล่านี้ที่ไหน ... การมีบัญชีเป็นแนวคิดธรรมดา เรากำลังสร้างผลิตภัณฑ์หรือบริการที่มีพื้นฐานการสร้างพื้นฐาน โอเค เรามีบัญชีผู้ใช้ เราอาจไม่ได้คิดอย่างใกล้ชิดเกี่ยวกับปัญหาประเภทต่างๆ เมื่อตั้งค่าและคิดว่าบัญชีแตกต่างจากผู้ที่รับผิดชอบบัญชีหรือไม่ บ่อยครั้ง สิ่งเหล่านี้ถูกพิจารณาว่าเป็นเอนทิตีเดียว จากนั้นคุณต้องรวมเอนทิตีอื่นๆ เพื่อสร้างบัญชีร่วมและสิ่งต่างๆ เหล่านั้น แต่ยังพิจารณาถึงประเด็นว่าจะเกิดอะไรขึ้นกับบัญชีนั้นถ้าคนสองคนแยกทางกันจะแยกจากกันในอนาคตได้อย่างไร? นั่นคือสิ่งที่เราควรคิดตั้งแต่เริ่มแรกหรือไม่?

อีวา: ใช่แน่นอน นั่นเป็นจุดที่ดีจริงๆที่คุณนำมา ฉันคิดว่าสิ่งหนึ่งที่ฉันรู้สึกหนักใจมากคือเมื่อเราให้ความสำคัญกับผู้รอดชีวิตจากการละเมิดประเภทต่างๆ ในการออกแบบของเรา เราจะจบลงด้วยการสร้างผลิตภัณฑ์ที่ดีขึ้นสำหรับทุกคน ฉันได้สัมภาษณ์ผู้คนจำนวนพอสมควรเกี่ยวกับองค์ประกอบการละเมิดทางการเงินโดยเฉพาะ ซึ่งพบได้บ่อยในการตั้งค่าความรุนแรงเกี่ยวกับครอบครัว สถิติคือ 99% ของผู้คนในความสัมพันธ์เกี่ยวกับความรุนแรงในครอบครัว มีองค์ประกอบของการละเมิดทางการเงินบางอย่างที่พบได้บ่อยมาก แต่ฉันก็ลงเอยด้วยการสัมภาษณ์บางคนที่สูญเสียคู่สมรสไปอย่างน่าเศร้า บุคคลนั้นเสียชีวิต และพวกเขามีบัญชีร่วมกัน

Eva: นั่นก็เหมือนคนสวย … มันเป็นเรื่องธรรมดามาก สถานการณ์ที่น่าเศร้า แต่มันไม่ใช่สิ่งที่ผลิตภัณฑ์จำนวนมากได้รับการออกแบบมาเพื่อรองรับ และอาจใช้เวลาหลายปีในการควบคุมบัญชีที่ใช้ร่วมกันหรือบางอย่างเช่น ... เมื่อคุณยายของฉันเสียชีวิต เธอมองการณ์ไกลมากและเธอก็ให้พ่อของฉันเข้าถึงทุกสิ่งได้ แต่ถึงอย่างนั้น เขาก็ยังใช้เวลานานกว่าจะจัดการทุกอย่างได้จริง เพราะผลิตภัณฑ์เหล่านี้ไม่ได้ออกแบบมาเพื่อจัดการกับสิ่งต่างๆ เช่นนั้น แต่ถ้าเราต้องจัดศูนย์ผู้รอดชีวิตและคิดว่า ใช่ จะเป็นอย่างไรเมื่อคนสองคนแยกจากกัน และสามารถจัดการกับสิ่งนั้นได้อย่างมีประสิทธิภาพ ซึ่งจะช่วยคนอื่นๆ ในสถานการณ์อื่นๆ ได้ในที่สุด

Drew: เราคิดมากเกี่ยวกับกระบวนการเริ่มต้นใช้งาน และสร้างบัญชีใหม่ และนำผู้คนเข้าสู่ผลิตภัณฑ์ จากนั้นลืมที่จะพิจารณาว่าจะเกิดอะไรขึ้นเมื่อพวกเขาจากไปไม่ว่าจะด้วยวิธีการใดก็ตาม ไม่ว่าพวกเขาจะเสียชีวิตอย่างน่าเสียดาย หรือจะจบลงอย่างไรที่ ปลายอีกด้านหนึ่งของกระบวนการ ฉันคิดว่ามันเป็นสิ่งที่ไม่ได้รับความสนใจว่าจะได้ประโยชน์จากมันจริงๆ

เอ วา : ค่ะ

ดรูว์: เราพกโทรศัพท์ติดตัวไปด้วยในกระเป๋า และมันเป็นอุปกรณ์ส่วนตัวมาก และมักจะเป็นกุญแจสำคัญในการเข้าถึงข้อมูล การเงิน และการสื่อสารของเราอย่างแท้จริง ในสถานการณ์เชิงลบ มันอาจจะง่าย … ความจริงที่ว่ามันเป็นอุปกรณ์ส่วนตัวสามารถกลายเป็นเวกเตอร์สำหรับการควบคุมและการละเมิด แค่นึกถึงสิ่งต่างๆ เช่น บริการระบุตำแหน่ง บริการอย่าง Find My ของ Apple ซึ่งดีมากถ้าคุณมีเด็กวัยเรียน และคุณสามารถเช็คอินและดูว่าพวกเขาอยู่ที่ไหน ดูว่าพวกเขาอยู่ในที่ที่ควรจะเป็น พวกเขาปลอดภัย . มันเป็นคุณสมบัติด้านความปลอดภัยในหลาย ๆ ด้าน แต่คุณสมบัตินั้นสามารถถูกโค่นล้มได้ใช่ไหม

อีวา: ใช่แน่นอน ใช่ และฉันดีใจที่คุณพูดถึงเรื่องนี้ เนื่องจากผลิตภัณฑ์เหล่านี้เป็นคุณลักษณะด้านความปลอดภัยสำหรับเด็กจำนวนมาก ใช่ แน่นอน พ่อแม่ต้องการรู้ว่าลูก ๆ ของพวกเขาอยู่ที่ไหน พวกเขาต้องการให้แน่ใจว่าพวกเขาปลอดภัย และนั่นอาจเป็นเครื่องมือที่มีประสิทธิภาพจริงๆ ฉันคิดว่ามีปัญหามากมายกับผู้ปกครองที่ใช้ผลิตภัณฑ์เหล่านี้มากเกินไป ฉันพบบางกรณีของนักศึกษาวิทยาลัยที่ยังคงถูกผู้ปกครองตรวจสอบอยู่และจะได้รับโทรศัพท์หากพวกเขาไปงานเลี้ยงนอกมหาวิทยาลัยเช่นทำไมคุณไม่อยู่ในหอพักของคุณ? สิ่งต่างๆเช่นนั้น มันอาจจะมากเกินไป แต่ใช่แล้ว ส่วนใหญ่เป็นผลิตภัณฑ์ที่ยอดเยี่ยม แต่ผู้คนจำนวนมากใช้สิ่งเหล่านั้นในทางที่ผิดเพื่อติดตามผู้ใหญ่ที่ไม่ยินยอมให้มีการติดตามตำแหน่งของพวกเขา และบ่อยครั้งที่พวกเขาทั้งสอง …

Eva: คุณต้องเข้าไปใช้บริการเหมือนกับ Google Maps เช่น การแชร์ตำแหน่ง คุณต้องเข้าไปข้างในเพื่อดูว่าคุณกำลังแบ่งปันกับใครบางคน ไม่มีการเตือน คล้ายกับ Find My ผู้ใช้ที่ถูกติดตามตำแหน่งจะได้รับการแจ้งเตือน แต่ในสถานการณ์ความรุนแรงในครอบครัว ผู้กระทำผิดจะลบการแจ้งเตือนออกจากโทรศัพท์ของบุคคลนั้นได้อย่างง่ายดายจริงๆ ก่อนจึงจะมองเห็นได้ และไม่มีวิธีอื่นที่บุคคลนั้น กำลังจะตระหนักว่าสิ่งนี้กำลังเกิดขึ้น ฉันคิดว่านั่นเป็นตัวอย่างที่ดีของบางสิ่งที่กรณีการละเมิดไม่ได้รับการพิจารณาเมื่อเราสร้างสิ่งต่าง ๆ ที่เกี่ยวข้องกับความปลอดภัยสำหรับเด็กในท้ายที่สุด แต่เราต้องตระหนักว่ามีผู้คนมากมายที่จะใช้มันเพื่อไม่ใช่เด็กในสภาพแวดล้อมอื่นๆ เหล่านี้

ดรูว์: ฉันคิดว่าในความสัมพันธ์ คุณอาจให้ความยินยอมในการติดตามตำแหน่งของคุณด้วยความเต็มใจ ณ จุดหนึ่ง จากนั้นคุณอาจไม่เข้าใจว่าจะดำเนินต่อไป และอาจไม่ทราบว่ายังดำเนินต่อไปและคุณ ถูกติดตามโดยไม่รู้ตัว

เอ วา : ค่ะ นั่นเป็นสิ่งสำคัญอย่างยิ่งที่จะต้องพิจารณา เพราะในความสัมพันธ์ที่เป็นการล่วงละเมิด มันไม่ใช่ ... การล่วงละเมิดไม่ได้เริ่มตั้งแต่วันแรก ส่วนใหญ่ โดยปกติแล้วความสัมพันธ์ที่ดีจริงๆ ในตอนแรก และจากนั้นพวกเขาค่อย ๆ แนะนำรูปแบบต่างๆ ของการควบคุมและรับอำนาจ และนำบุคคลออกจากเครือข่ายการสนับสนุนของพวกเขา และทั้งหมดนี้เกิดขึ้นเมื่อเวลาผ่านไป บ่อยครั้งในช่วงหลายปีที่ผ่านมา เพราะถ้าคุณเพิ่งเริ่มทำสิ่งนี้ เดทแรกคนส่วนใหญ่จะแบบว่า “ใช่ ฉันไม่ไปแล้ว” แต่เมื่อมีความสัมพันธ์ที่เปี่ยมด้วยความรักนี้แล้ว การละทิ้งบุคคลนั้นกลับกลายเป็นเรื่องยากขึ้นมาก

เอ วา : แต่ใช่ หลายครั้งที่สิ่งที่ปลอดภัยโดยสิ้นเชิงในช่วงเริ่มต้นของความสัมพันธ์นั้นไม่ปลอดภัยอีกต่อไป แต่คนๆ นั้นลืมไปนานแล้วว่าได้แบ่งปันตำแหน่งของตนกับบุคคลนี้ และอีกครั้งก็ไม่มีอะไรดี วิธีที่จะเตือน มีบางอย่างเช่นเครดิตของพวกเขา Google ส่งอีเมลทุก ๆ 30 วันแม้ว่าบางคนบอกว่าพวกเขาไม่ได้รับบ่อยนักและบางคนก็ได้รับ ฉันไม่แน่ใจว่าเกิดอะไรขึ้น แต่พวกเขาส่งอีเมลสรุปพร้อมกับคนที่คุณแชร์ตำแหน่งด้วย ซึ่งยอดเยี่ยมมาก

อีวา: แต่ฉันคิดว่าความเสียหายมากมายสามารถทำได้ใน 30 วัน ฉันต้องการบางสิ่งที่บ่อยกว่าหรือแม้แต่สิ่งทั่วไปทุกหนทุกแห่งที่แจ้งให้คุณทราบว่าสิ่งนี้กำลังเกิดขึ้น หรือสิ่งที่เกิดขึ้นบ่อยกว่า จะทำให้ผู้กระทำผิดสามารถลบการแจ้งเตือนนั้นได้ ใช่ นั่นเป็นประเด็นที่ดีจริงๆ นั่นคือความยินยอมนั้น มีหลายสิ่งหลายอย่างที่เกิดจากการยินยอมให้มีการล่วงละเมิดทางเพศ ฉันคิดว่าเทคโนโลยีมีความเกี่ยวข้องมาก เพียงเพราะคุณยินยอมกับบางสิ่งในอดีตไม่ได้หมายความว่าคุณยินยอมในตอนนี้หรือในอนาคต แต่ในด้านเทคโนโลยี เราแบบว่า "พวกเขายินยอมเมื่อห้าปีที่แล้ว ดังนั้นการยินยอมนั้นจึงยังใช้ได้อยู่" และนั่นไม่ใช่กรณีจริงๆ เราควรจะได้รับความยินยอมจากพวกเขาอีกครั้งในภายหลัง

Drew: ใช่ มันนำเสนอความท้าทายทุกประเภทใช่ไหม ในการออกแบบสิ่งเหล่านี้ เนื่องจากคุณไม่ต้องการใส่อุปสรรคมากมายในการออกแบบผลิตภัณฑ์จนไม่มีประโยชน์ หรือในกรณีที่คุณกำลังติดตามเด็กและพวกเขาไม่ได้ยอมรับในวันนั้นจริงๆ และในทันใด พวกเขาก็หายไป และพวกเขาไม่ได้เปิดใช้บริการ แต่อีกครั้ง ตรวจสอบให้แน่ใจว่าความยินยอมนั้นดำเนินต่อไปตราบเท่าที่ได้รับการอนุญาตอย่างแท้จริง ฉันคิดว่ามันง่ายพอในเอกสารที่แชร์ ถ้าคุณใช้ Google Documents หรืออะไรก็ตาม เพื่อดูว่าใครกำลังดูเอกสารนั้นในขณะนั้น ไอคอนทั้งหมดจะปรากฏขึ้น ถ้า ... รูปประจำตัวของผู้ใช้ต่างๆ ที่อยู่ที่นั่นและ มีการเข้าถึง. คุณคิดว่าโซลูชันประเภทนี้จะทำงานได้ดีพอๆ กันเมื่อมีคนเข้าถึงตำแหน่งของคุณใช่หรือไม่

อีวา: ใช่ทั้งหมด ใช่ มันจะเหนียว มีวิธีแก้ไขปัญหาที่ตรงไปตรงมาและง่ายดายไม่มากนักสำหรับเรื่องนี้ และเรื่องที่เกี่ยวกับ ใช่ คุณต้องการ ... อาจไม่ใช่ความคิดที่ดีที่จะปล่อยให้เด็กอายุแปดขวบของคุณยินยอมทุกวัน เพราะถ้าหากวันหนึ่ง พวกเขาแค่พูดว่า "ไม่" หรือพวกเขาพูดผิดหรืออะไรก็ตาม แล้วจู่ๆ คุณก็หาพวกเขาไม่เจอ ใช่ นั่นเป็นสถานการณ์จริง ฉันคิดว่าสำหรับสิ่งนี้ มันเหมือนกับว่าฉันไม่คิดว่ามันจะเป็นจริงที่จะพูดว่า "เอาละ การผลิตนี้ไม่ควรมีอยู่ หรือคุณควรได้รับความยินยอมทุกวัน"

อีวา: แต่ในกรณีเหล่านั้น ยังมีอีกหลายสิ่งที่คุณทำได้ เช่น บอกบุคคลนี้ว่า ผู้ใช้รายนี้ ผู้ใช้รายอื่นสามารถดูตำแหน่งของพวกเขาได้ แม้ว่าจะไม่มีอะไรมากเกี่ยวกับเรื่องนี้ก็ตาม อย่างน้อยที่สุด การให้ข้อมูลนั้นแก่พวกเขา เพื่อให้พวกเขาเข้าใจอย่างชัดเจนถึงสิ่งที่เกิดขึ้น และจากนั้นสามารถดำเนินการเพื่อรักษาตัวเองให้ปลอดภัย หากพวกเขาอยู่ในความสัมพันธ์ที่ไม่เหมาะสม มันจะเป็นประโยชน์จริงๆ บางทีตอนนี้พวกเขารู้แล้ว โอเค ฉันจะไม่เอาโทรศัพท์ไปด้วยเวลาออกจากออฟฟิศในช่วงเวลาพักกลางวัน ไปหาเพื่อนที่คู่ของฉันไม่เห็นด้วย เพราะเธอมักจะสนับสนุนให้ฉันเลิกจ้าง ความสัมพันธ์และเขาจะรู้ว่าฉันไปที่ไหนสักแห่งถ้าฉันนำโทรศัพท์มาด้วย

อีวา: แต่ถ้าฉันเก็บโทรศัพท์ไว้ที่ออฟฟิศ เขาก็ไม่รู้เรื่อง ความสามารถในการตัดสินใจอย่างมีข้อมูลเหล่านั้น แม้ว่าคุณจะไม่สามารถยุติการแชร์ตำแหน่งได้ แต่ยังมีสิ่งอื่น ๆ ที่เราสามารถทำได้ซึ่งจะทำให้ผู้ใช้ปลอดภัยในขณะที่ยังคงรักษาฟังก์ชันการทำงานหลักของผลิตภัณฑ์คุณลักษณะไว้

ดริว : ครับ มันขึ้นอยู่กับการตัดสินใจออกแบบใช่ไหม และหาทางแก้ไขปัญหายากๆ แต่ก่อนอื่นให้เข้าใจว่าปัญหามีและจำเป็นต้องแก้ไข ซึ่งฉันคิดว่าบทสนทนานี้มีความสำคัญมากในการทำความเข้าใจวิธีต่างๆ ที่ใช้ เรามีอุปกรณ์ที่มีไมโครโฟนและกล้องอยู่ในนั้นมากขึ้นเรื่อยๆ เรามีกล้องวงจรปิดมากมายในบ้านและที่กริ่งประตู การเฝ้าระวังแอบแฝงไม่ได้เป็นเพียงบางอย่างจากภาพยนตร์สายลับและรายการของตำรวจอีกต่อไปใช่ไหม

เอ วา : ค่ะ โอ้ใช่. มันเป็นปัญหาใหญ่ ฉันมีความรู้สึกที่แรงกล้ามากเกี่ยวกับสิ่งนี้ และฉันรู้ว่าผู้คนจำนวนมากสนใจอุปกรณ์เหล่านี้จริงๆ และฉันคิดว่านั่นก็ไม่เป็นไร ฉันคิดว่าพวกเขาถูกใช้ในทางที่ผิดมากสำหรับการเฝ้าระวัง ฉันคิดว่ามีคู่ครองและสมาชิกในครอบครัวเป็นจำนวนมาก แต่ก็มีอีกมากเช่นกัน … นี่คือจุดที่ฉันคิดว่าการมีอะไรกับลูก สำหรับฉัน อย่างน้อยมันก็ชัดเจนขึ้นเล็กน้อยว่าแม้แต่เด็ก ๆ ก็มีสิทธิในความเป็นส่วนตัว และโดยเฉพาะอย่างยิ่ง เมื่อคุณดูวัยรุ่นต้องการความเป็นอิสระมากขึ้น และพวกเขาต้องการพื้นที่ และมีสิ่งที่เกี่ยวกับการพัฒนาสมองอย่างแท้จริงที่เกี่ยวข้องกับความเป็นอิสระ

อีวา: ฉันคิดว่ามีวิธีต่างๆ ที่จะช่วยให้ลูกๆ ของคุณออนไลน์ได้อย่างปลอดภัยและตัดสินใจได้ดี และบางครั้งก็ตรวจดูว่าพวกเขากำลังทำอะไรอยู่ โดยที่คุณไม่ได้เฝ้าดูพวกเขาอยู่ตลอดเวลาหรือใส่ตัวเองเข้าไปในชีวิตของพวกเขาในรูปแบบต่างๆ อย่างต่อเนื่อง ที่พวกเขาไม่ต้องการ แต่ใช่ อุปกรณ์เฝ้าระวังต่างๆ มากมายจนควบคุมไม่ได้ และผู้คนใช้อุปกรณ์เหล่านี้ตลอดเวลาเพื่อแอบดูกัน หรือไม่เปิดเผยด้วยซ้ำ บางครั้งก็เปิดเผยออกมาเช่น “ใช่ ฉันกำลังดูคุณอยู่ คุณจะทำอย่างไรกับมัน? คุณทำไม่ได้เพราะเราอยู่ในความสัมพันธ์ที่ฉันเลือกใช้ความรุนแรงเพื่อรักษาอำนาจและควบคุมคุณ”

อีวา: มันกลายเป็นปัญหาใหญ่จริงๆ สิ่งที่ฉันเจอบ่อยคือผู้คน … มันกลายเป็นอีกวิธีหนึ่งสำหรับผู้ทำร้ายเพื่อแยกผู้รอดชีวิตออกจากเครือข่ายการสนับสนุนของพวกเขา คุณไม่สามารถสนทนาทางโทรศัพท์แบบส่วนตัวกับเพื่อน พี่น้อง หรือนักบำบัดโรคได้ ทันใดนั้น ไม่มีที่ไหนในบ้านของคุณที่เป็นพื้นที่ส่วนตัวจริงๆ ซึ่งก็เป็นปัญหาใหญ่เช่นกันในช่วงการระบาดใหญ่ที่ผู้คนถูกบังคับให้อยู่ที่บ้าน เราได้เห็นความรุนแรงในครอบครัวเพิ่มขึ้นอย่างมาก เช่นเดียวกับเทคโนโลยีที่เอื้อต่อความรุนแรงในครอบครัว เนื่องจากผู้ทำทารุณกรรมมีเวลามากขึ้นในการคิดหาวิธีทำสิ่งเหล่านี้ และมันเป็นพื้นที่ที่เล็กกว่ามากที่พวกเขาต้องวางสายเพื่อควบคุม มีคนจำนวนมากทำอย่างนั้น มันเป็นปัญหาใหญ่จริงๆ

ดรูว์: ฉันคาดหวังว่าผู้ผลิตผลิตภัณฑ์ประเภทนี้ กล้องวงจรปิด และสิ่งที่คุณมี จะพูดว่า "เราแค่สร้างเครื่องมือที่นี่ เราไม่มีความรับผิดชอบใด ๆ เกี่ยวกับวิธีการใช้งาน เราไม่สามารถทำอะไรกับมันได้” แต่คุณจะเถียงว่าใช่ พวกเขามีหน้าที่รับผิดชอบในการใช้เครื่องมือเหล่านั้นอย่างไร

Eva: ใช่ฉันจะ อย่างแรกเลย ฉันจะบอกคนที่พูดว่า "คุณเป็นมนุษย์ก่อนที่คุณจะเป็นลูกจ้างในบริษัทเทคโนโลยี คนทำเงินแบบนายทุน คุณเป็นมนุษย์และผลิตภัณฑ์ของคุณมีผลกระทบต่อมนุษย์และคุณต้องรับผิดชอบต่อสิ่งนั้น” อย่างที่สองที่ฉันจะพูดก็คือการเรียกร้องความรู้ด้านเทคโนโลยีจากผู้ใช้ในระดับที่สูงขึ้นนั้นเป็นแนวความคิดที่มีปัญหาจริงๆ เพราะเป็นเรื่องง่ายสำหรับเราที่ทำงานด้านเทคโนโลยีที่จะพูดว่า “ผู้คนเพียงแค่ต้องเรียนรู้เพิ่มเติม เกี่ยวกับมัน. เราไม่รับผิดชอบหากมีคนไม่เข้าใจวิธีการใช้ผลิตภัณฑ์ของเรา”

อีวา: แต่คนส่วนใหญ่ไม่ได้ทำงานด้านเทคโนโลยี และเห็นได้ชัดว่าพวกเขายังมีคนที่เชี่ยวชาญด้านเทคโนโลยีจริงๆ จำนวนมากที่ไม่ได้ทำงานด้านเทคโนโลยี แต่เรียกร้องให้ผู้คนเข้าใจว่าทุกแอปที่พวกเขามี ทุกสิ่งที่พวกเขาใช้บนโทรศัพท์หรือแล็ปท็อปของพวกเขา ทุกอุปกรณ์เดียวที่พวกเขามีในบ้านของพวกเขา ทำความเข้าใจทุกคุณสมบัติเดียวและระบุวิธีที่จะเป็นได้ ใช้กับพวกเขา นั่นเป็นภาระที่ใหญ่มาก มันอาจจะไม่ใช่เรื่องใหญ่ถ้าคุณแค่คิดถึงผลิตภัณฑ์เดียวของคุณเช่น โอ้ แน่นอน ผู้คนควรใช้เวลาในการทำความเข้าใจมัน

อีวา: แต่เรากำลังพูดถึงผลิตภัณฑ์หลายสิบชนิดที่เราต้องรับผิดชอบกับผู้ที่ต้องเผชิญกับสถานการณ์อันตรายที่ต้องทำความเข้าใจ ซึ่งไม่สมจริงและไร้มนุษยธรรมอย่างยิ่ง โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงการละเมิดและการสอดส่องดูแล ตลอดจนสิ่งที่แตกต่างกันเหล่านี้ ต่อสมองของคุณหากคุณอยู่ในภาวะถูกคุกคามตลอดเวลาและอยู่ในโหมดเอาชีวิตรอดนี้ตลอดเวลา สมองของคุณจะไม่สามารถทำหน้าที่ผู้บริหารได้อย่างเต็มที่มากกว่าการค้นหา การดูแอปนี้ และพยายามระบุว่าสามีของฉันใช้สิ่งนี้เพื่อเฝ้าดูฉันหรือควบคุมฉันหรืออะไรก็ตาม ฉันจะบอกว่านั่นเป็นเพียงความคิดที่เส็งเคร็งจริงๆ และเรามีความรับผิดชอบต่อวิธีที่ผู้คนใช้ผลิตภัณฑ์ของเรา

Drew: เมื่อคุณคิดว่าคนส่วนใหญ่ไม่เข้าใจปุ่มมากกว่าหนึ่งหรือสองปุ่มในไมโครเวฟ เราจะคาดหวังให้เข้าใจความสามารถและการทำงานของแอปและบริการต่างๆ ที่เราติดต่อด้วยได้อย่างไร

อีวา: แน่นอน ใช่.

ดรูว์: เมื่อพูดถึงการออกแบบผลิตภัณฑ์และบริการ ฉันรู้สึกเหมือนเป็นชายผิวขาวที่พูดภาษาอังกฤษได้ตรง ๆ ว่าฉันมีจุดบอดอย่างใหญ่หลวงจากตำแหน่งที่ได้รับการยกเว้นซึ่งสังคมมีให้ และฉันรู้สึกไร้เดียงสามาก และรู้ตัวดีว่าสามารถทำได้ นำไปสู่ตัวเลือกการออกแบบที่มีปัญหาในสิ่งที่ฉันทำ มีขั้นตอนที่เราสามารถทำได้และขั้นตอนที่เราสามารถปฏิบัติตามเพื่อให้แน่ใจว่าเรากำลังเปิดเผยจุดบอดเหล่านั้นและพยายามอย่างเต็มที่เพื่อก้าวออกจากขอบเขตประสบการณ์ของเราเองและรวมสถานการณ์เพิ่มเติมหรือไม่?

อีวา: ใช่แน่นอน ฉันมีความคิดมากมายเกี่ยวกับเรื่องนี้ ฉันคิดว่ามีสองสามสิ่ง ประการแรก เราทุกคนมีหน้าที่ให้ความรู้เกี่ยวกับจุดบอดของเรา ทุกคนมีจุดบอด ฉันคิดว่าบางทีผู้ชายผิวขาวของ cis จะมีจุดบอดมากกว่ากลุ่มอื่น แต่ก็ไม่ใช่ว่าจะมีบางกลุ่มที่จะไม่มีจุดบอด ทุกคนมีพวกเขา ฉันคิดว่าการให้ความรู้ตัวเองเกี่ยวกับวิธีการต่างๆ ที่เทคโนโลยีของเราอาจถูกนำไปใช้ในทางที่ผิด ฉันคิดว่ามันมากกว่า ... เห็นได้ชัดว่าความปลอดภัยระหว่างบุคคลเป็นสิ่งที่ฉันทำงานอยู่ แต่ยังมีสิ่งอื่นๆ ทั้งหมดเช่นกัน ที่ฉันยังพยายามเรียนรู้อยู่เสมอและค้นหาว่าฉันจะแน่ใจได้อย่างไรว่าเทคโนโลยีที่ฉันกำลังดำเนินการอยู่จะไม่ทำให้สิ่งต่าง ๆ เหล่านี้คงอยู่ต่อไป

Eva: ฉันชอบ Design For Real Life โดย Sara Wachter-Boettcher และ Eric Meyer นั้นยอดเยี่ยมสำหรับการออกแบบที่ครอบคลุมและการออกแบบที่เห็นอกเห็นใจ แต่แล้วฉันก็ได้เรียนรู้เกี่ยวกับอัลกอริธึม การเหยียดเชื้อชาติและการแบ่งแยกเพศ และปัญหาต่างๆ เกี่ยวกับอัลกอริทึม มีหลายสิ่งหลายอย่างที่เราต้องพิจารณา และฉันคิดว่าเราทุกคนต้องรับผิดชอบในการเรียนรู้สิ่งเหล่านั้น จากนั้นฉันก็คิดว่าการนำประสบการณ์ชีวิตของผู้คนที่เคยผ่านสิ่งเหล่านี้มาเมื่อคุณได้ระบุ โอเค การเหยียดเชื้อชาติจะเป็นปัญหากับผลิตภัณฑ์นี้ และเราจำเป็นต้องตรวจสอบให้แน่ใจว่าเรากำลังจัดการกับสิ่งนั้นและ พยายามป้องกันและเปิดโอกาสให้ผู้คนรายงานการเหยียดเชื้อชาติหรือสิ่งที่คุณมีได้อย่างแน่นอน

อีวา: อย่างหนึ่ง ตัวอย่างที่ฉันให้ไว้ในหนังสือคือ Airbnb มีปัญหามากมายเกี่ยวกับการเหยียดเชื้อชาติและโฮสต์ที่เหยียดผิว แม้จะแค่ศึกษาว่าคุณมี … ถ้ารูปถ่ายของคุณเป็นคนผิวดำ คุณจะถูกปฏิเสธ คำขอจองที่พักของคุณจะถูกปฏิเสธบ่อยกว่าที่คุณมีคนผิวขาวอยู่ในรูปถ่ายของคุณ ฉันคิดว่าฉันเป็นคนผิวขาว นั่นคือสิ่งที่ฉันคิดว่าไม่สามารถไปเรียนรู้และพูดในฐานะผู้มีอำนาจในประเด็นนี้ได้ ฉันคิดว่าในกรณีนั้น คุณต้องพาผู้ที่มีประสบการณ์ชีวิตนั้นเข้ามา ซึ่งสามารถแจ้งคุณได้ ดังนั้นจ้างที่ปรึกษาดีไซเนอร์คนผิวสี เพราะเห็นได้ชัดว่าเรารู้ดีว่าเทคโนโลยีไม่ได้มีความหลากหลายมากนัก

Eva: ตามหลักการแล้ว คุณจะมีคนในทีมที่สามารถพูดกับสิ่งนั้นได้ แต่ฉันคิดว่า … แต่แล้วมันก็ซับซ้อนมาก นี่คือประเด็นที่เราต้องการแรงงานประเภทนั้นจากเพื่อนร่วมทีมของเราหรือไม่? นั่นอาจเป็นปัญหาได้เช่นกัน คนผิวสีในทีมของคุณอาจจะต้องเผชิญอะไรหลายๆ อย่างอยู่แล้ว จากนั้นให้คนผิวขาวเป็นเหมือน “เฮ้ คุยกับฉันเกี่ยวกับประสบการณ์ที่กระทบกระเทือนจิตใจที่คุณมีเพราะเชื้อชาติของคุณ” เราไม่ควรสร้างภาระแบบนั้นให้กับผู้คน เว้นแต่ ...

อีวา: ผู้คนมากมายเต็มใจที่จะหยิบยกเรื่องนั้นขึ้นมาพูดเกี่ยวกับเรื่องนี้ และฉันจะพูดเกี่ยวกับสิ่งต่างๆ ประสบการณ์ของฉันในฐานะผู้หญิง แต่อาจไม่ใช่สิ่งที่ฉันอยากทำทุกวัน ในกรณีนั้น จ้างคนที่ทำสิ่งนั้นเพื่อทำงานแล้วจ่ายเงินให้ผู้คนสำหรับประสบการณ์ชีวิตของพวกเขาและทำให้มันไม่ถูกเอารัดเอาเปรียบในแง่ของการชดเชยผู้คนสำหรับความรู้นั้นและประสบการณ์ที่มีชีวิต

ดริว : ครับ ฉันคิดว่ามันเป็นการตอกย้ำถึงความสำคัญและประโยชน์อย่างเหลือเชื่อของการมีทีมที่หลากหลายทำงานเกี่ยวกับผลิตภัณฑ์ นำประสบการณ์ที่แตกต่างกันออกไป

อีวา: ใช่แน่นอน

Drew: สิ่งหนึ่งที่คุณกล่าวถึงในหนังสือของคุณในกระบวนการออกแบบคือการสร้างต้นแบบผู้ทำร้ายและผู้รอดชีวิตเพื่อช่วยคุณทดสอบคุณลักษณะของคุณ คุณช่วยบอกเราหน่อยเกี่ยวกับแนวคิดนั้นได้ไหม

เอ วา : ค่ะ สิ่งนี้เกิดขึ้นจากความต้องการที่จะมีสิ่งประดิษฐ์ที่จะช่วยให้ผู้คนเข้าใจอย่างชัดเจนว่าปัญหาคืออะไร นี่คือสิ่งที่เกิดขึ้นหลังจากที่ทีมได้ทำการวิจัยเกี่ยวกับปัญหาดังกล่าวแล้ว และได้ระบุปัญหาที่เป็นไปได้ที่แตกต่างกันในด้านความปลอดภัยระหว่างบุคคล และสามารถระบุได้อย่างชัดเจนว่าปัญหาเหล่านั้นคืออะไร จากนั้นคุณสร้างต้นแบบผู้ล่วงละเมิด ซึ่งก็คือบุคคลที่พยายามใช้ผลิตภัณฑ์ของคุณสำหรับสิ่งที่เป็นอันตราย และจากนั้นแม่แบบผู้รอดชีวิตที่จะตกเป็นเหยื่อของอันตรายนั้น สิ่งสำคัญเกี่ยวกับสิ่งเหล่านี้คือการมีเป้าหมาย มันเกือบจะเหมือนกับการที่คุณเจอรูปภาพ หรือคุณไม่จำเป็นต้องมีรูปภาพด้วยซ้ำ แต่มันแค่บ่งบอกว่าการล่วงละเมิดคืออะไร และเป้าหมายของบุคคลนั้น

Eva: ถ้าเป็นคนที่อยากจะรู้ว่าแฟนเก่าของพวกเขาอาศัยอยู่ที่ไหนตอนนี้เพราะเขาต้องการสะกดรอยตามเธอ เป้าหมายของเขาคือการสะกดรอยตามเธอ จากนั้นเป้าหมายของผู้รอดชีวิต … ขอโทษนะ เป้าหมายของผู้ทำร้ายคือการใช้ผลิตภัณฑ์ของคุณ สมมุติว่า Strava เป็นตัวอย่างหนึ่งที่ผมใช้เป็นตัวอย่างในหนังสือ ฉันต้องการใช้ Strava เพื่อตามหาแฟนเก่าของฉัน จากนั้นต้นแบบผู้รอดชีวิตก็พูดว่า “ฉันต้องการเก็บตำแหน่งของฉันเป็นความลับจากแฟนเก่าที่พยายามสะกดรอยตามฉัน” จากนั้นคุณสามารถใช้เป้าหมายเหล่านั้นเพื่อช่วยแจ้งการออกแบบบางส่วนของคุณและเพื่อทดสอบผลิตภัณฑ์ของคุณเพื่อดูว่ามีอะไรเกี่ยวกับข้อมูลตำแหน่งของผู้รอดชีวิตที่เปิดเผยต่อสาธารณะแก่ผู้ที่พยายามค้นหาตำแหน่งของพวกเขา แม้ว่าพวกเขาจะได้เปิดใช้งานความเป็นส่วนตัวทั้งหมดแล้วก็ตาม คุณสมบัติ?

Eva: ฉันใช้ Strava เป็นตัวอย่าง เพราะเมื่อไม่กี่เดือนที่ผ่านมา มีความสามารถนั้น มีบางอย่างที่ถึงแม้คุณจะเก็บทุกอย่างไว้เป็นส่วนตัว หากคุณวิ่งหรือออกกำลังกายใกล้ๆ กับคนอื่นโดยใช้แอปเป็นระยะเวลาหนึ่ง มันไม่ชัดเจนว่าคุณต้องอยู่ใกล้แค่ไหนหรือต้องวิ่งเหมือนเดิมนานแค่ไหน สตรีทเหมือนคนนี้ มันจะแท็กพวกเขาว่าปรากฏในการออกกำลังกายของคุณ นั่นคงเป็นตัวอย่างที่ผู้กระทำทารุณกรรมสามารถบรรลุเป้าหมายของเขา เขาได้ค้นพบอดีตของเขาด้วยวิธีนี้ แล้วคุณจะรู้ว่า โอเค เราต้องต่อต้านมันและป้องกันไม่ให้เป้าหมายนั้นประสบความสำเร็จ

Drew: โดยเฉพาะอย่างยิ่ง คุณไม่สามารถคิดได้ทุกสถานการณ์ คุณไม่สามารถคิดได้ว่าผู้กระทำความผิดจะพยายามทำอะไรในทุกสถานการณ์ But by covering some key apparent problems that could crop up, then I guess you're closing lots of doors for other lines of abuse that you haven't thought of.

Eva: Yes. Yeah, exactly. That brings up a really good other related point, which is that, yeah, you're probably not going to think of everything. Then having ways for users to report issues and then being the type of team and company that can take those criticisms or issues that users identify with some grace and quickly course correcting because there's always going to be things you don't think about and users are going to cover all sorts of things. I feel like this always happens. Being able to have a way to get that feedback and then to quickly course correct is also a really big part of the whole process of designing for safety.

Drew: Is there a process that would help you come up with these potential problems? Say you're designing a product that uses location data, what process would you go through to think of the different ways it could be abused? Is there anything that helps in that regard?

Eva: Yeah. This is something I get more in depth about in the book, but having some research around it first is the first thing. With location services is a pretty easy one, so to speak. There's so many documented issues with location services. There's also been academic studies done on this stuff, there's lots of literature out there that could help inform the issues that you're going to face. Then the other thing that I suggest that teams do is after doing this research is doing a brainstorm for novel of use cases that have not been covered elsewhere.

Eva: The way I usually do this is I have the team do a Black Mirror brainstorm. Let's make a Black Mirror episode. What's the worst, most ridiculous, just anything goes, worst case scenario for this product or feature that we're talking about? People usually come up with some really wild stuff and it's actually usually really fun. Then you say, “Okay, let's dial it back. Let's use this as inspiration for some more realistic issues that we might come across,” and then people are usually able to identify all sorts of things that their product might enable.

Drew: For people listening who feel like they would really love to champion this area of work within their organization, do you have any advice as to how they could go about doing that?

Eva: Yeah. There is a lot of stuff about this in the book, about integrating this into your practice and bringing it to your company. Advice for things like talking to a reluctant stakeholder whose only concern is, well, how much is this going to cost me? How much extra time is this going to take? Being able to give really explicit answers about things like that is really useful. Also, I have recordings of my conference talk which people usually say, “I had just had no idea that this was a thing.” You can help educate your team or your company.

Eva: I talked about this in the book too, honestly, it can be awkward and weird to bring this stuff up and just being mentally prepared for how it's going to feel to be like, “We should talk about domestic violence,” or, “We should talk about invasive child surveillance.” It can be really hard and just weird. One of the pieces of advice I give is for people to talk to a supportive coworker ahead of time, who can back them up if you're going to bring this up in a meeting and just help reduce the weirdness, and there are some other tactics in the book. But those are definitely the big ones.

Drew: I would normally ask at this point where our listeners should go to find out more about the topic. But I know that the answer is actually to go and read your book. We've only really just scratched the surface on what's covered in Design For Safety, which is out now, this August 2021 from A Book Apart. The book, for me, it's sometimes an uneasy read in terms of content, but it's superbly written and it really opened my eyes to a very important topic. One thing I really like about all the A Book Apart books is they're small and focused and they're easy to consume. I would really recommend that listeners check out the book if the topic is interesting to them.

Eva: Yeah, thanks for that. Theinclusivesafetyproject.com is the website I have to house all of this information. There's a lot of great resources in the back of the book for people who want to learn more. But if you just want something and more immediately, you can go to Theinclusivesafetyproject.com and there's a resources page there that has different sort of articles or studies to look at different people working in related spaces to follow on Twitter, books to read, things like that.

ดริว : ถูกต้อง I've been learning what it means to design for safety. What have you been learning about, Eva?

Eva: I have been learning about data. I'm reading a really interesting book called Living in Data by Jer Thorp, which I thought it was going to be all about different issues with big data, which is such a big thing but it's actually an extremely thoughtful, much more interesting approach to what it means to live in data and just how much data is taken from us every day and what's done with it and just data out there in the world. It's really interesting and important, and yeah, I would definitely recommend that book.

Drew: No, amazing. If you the listener would like to hear more from Eva, you can follow her on Twitter where she's @epenzeymoog, and you can find all her work linked from her website at evapenzeymoog.com. Design For Safety is published abookapart.com and is available now. Thanks for joining us today, Eva. คุณมีคำพรากจากกันบ้างไหม?

Eva: Please get vaccinated so that we can go back to normal.