Eva PenzeyMoog와 함께하는 스매싱 팟캐스트 에피소드 41: 안전을 위한 설계

이 기사는 전 세계에서 온 다양한 그룹의 놀라운 재능을 가진 Netlify의 친애하는 친구로부터 친절하게 지원되었으며 웹 개발자를 위해 생산성을 배가하는 플랫폼을 제공합니다. 감사합니다!

이 에피소드에서는 안전을 위한 설계에 대해 이야기합니다. 우리 디자인에서 취약한 사용자를 고려한다는 것은 무엇을 의미합니까? Drew McLellan이 전문가 Eva PenzeyMoog와 대화하여 알아봅니다.

메모 표시

• A Book Apart의 안전을 위한 디자인
• 포용적 안전 프로젝트
• 트위터의 에바
• 에바의 개인 사이트

주간 업데이트

• Zara Cooper가 작성한 Angular 11, Commerce Layer 및 Paypal을 사용하여 전자 상거래 사이트를 구축하는 방법
• CSS 리팩토링: Adrian Bece가 작성한 전략, 회귀 테스트 및 유지 관리
• Callum Hart가 작성한 탄력적인 JavaScript UI를 구축하는 방법
• Arihant Verma가 작성한 React Children 및 반복 방법
• 답답한 디자인 패턴: Vitaly Friedman이 작성한 비활성화된 버튼

성적 증명서

Drew McLellan: 그녀는 The Inclusive Safety Project의 창시자이며, 이번 달 A Book Apart에서 출시되는 Designed For Safety라는 책의 저자입니다. 그녀는 8th Light의 수석 디자이너로 맞춤형 소프트웨어를 설계 및 구축하고 안전하고 포괄적인 설계 전략에 대해 컨설팅합니다. 우리는 그녀가 취약한 사람들을 보호하기 위한 기술을 설계하는 전문가라는 것을 알고 있지만 그녀가 지게차에서 가장 많이 생산된 도넛에 대한 국제 기록 보유자라는 것을 알고 계셨습니까? 내 멋진 친구들, 환영합니다, Eva PenzeyMoog. 안녕, 에바, 잘 지내?

Eva PenzeyMoog: 굉장 합니다.

드류: 반갑 습니다. 오늘은 취약한 사용자의 안전을 염두에 두고 제품과 경험을 디자인하는 원칙에 대해 이야기하고 싶었습니다. 우리가 만질 수 있는 특정 주제에 대해 일종의 방아쇠 경고를 주는 것이 처음부터 공정한가요?

에바: 물론이죠. 올려주셔서 감사합니다. 가정 폭력, 또한 일부 노인 학대 및 아동 학대에 대한 명시적인 언급에 대해 확실히 경고합니다.

드류: 그게 중요해. 부담없이 이러한 문제가 걱정된다면 트리거가 될 수 있습니다. 건너뛰어도 됩니다. 다음화에서 뵙겠습니다. 대화의 틀을 잡아줘, 에바. Design For Safety에 대해 이야기할 때 어떤 종류의 안전 문제에 대해 이야기하고 있습니까? 우리는 자율주행차를 위한 인터페이스에 대해 이야기하는 것이 아닙니다. 그런 종류의 안전은 아니잖아요?

에바: 맞아요. 응. 제가 안전에 대해 이야기할 때 저는 실제로 대인 관계 안전, 즉 사용자가 대인 관계 방식으로 서로에게 해를 끼치도록 제품을 무기화할 수 있는 방법에 대해 이야기하고 있습니다. 서로를 아는 사람들은 동거하면서 낭만적인 파트너뿐만 아니라 부모와 자녀로부터 가정 폭력을 많이 당합니다. 또한 감시 영역에는 고용주와 직원이 더 많습니다. 하지만 인터넷에서 익명의 누군가나 귀하의 데이터를 얻으려고 하는 익명의 단체 등과는 대조적으로, 내가 말하는 안전의 측면에서 요구되는 내적 개인적 실제 관계가 있습니다.

Drew: 다음 과 같은 간단한 문제가 있을 수 있습니까? 저는 소셜 네트워크에서 매일 볼 수 있는 다양한 사용자가 서로에게 메시지를 보낼 수 있는 기능과 이것이 사람들이 오프라인에서 대화할 수 있도록 하는 데 도움이 되는 작은 도구가 되어야 한다고 생각합니다. 또는 공개적으로. 그러나 그런 종류의 것은 올바른 보호 장치가 없으면 일종의 통제 남용의 매개체가 될 수도 있습니다.

에바: 네, 물론입니다. 확실히 사용자가 서로에게 모든 유형의 텍스트를 보낼 수 있도록 허용하면 남용의 가능성이 있습니다. 페이스북 메시지가 좀 더 명확하고 제 생각에는 ... 글쎄, 나는 그들이 당신이 특정 메시지를 보고 싶지 않거나 누군가가 당신에게 연락하는 것을 원하지 않을 수도 있음을 인식하는 몇 가지 보호 장치가 있기를 바랍니다. 하지만 조사를 하면서 알게 된 정말 흥미롭고 관련된 것은 돈을 공유할 수 있는 Venmo와 같은 다양한 뱅킹 애플리케이션이나 서비스입니다. 종종 메시지를 위한 공간이 있습니다. 적어도 Venmo에서는 필요합니다.

Eva: 일부 은행은 선택 사항이지만 사람들은 누군가에게 1페니를 보낸 다음 욕설이나 정말 해롭거나 무섭거나 위협적인 메시지를 보냅니다. 이러한 메시지를 받은 사용자가 플래그를 지정하거나 다음과 같이 말할 방법은 없습니다. "이 사용자를 차단하고 싶습니다. 왜 누군가가 당신에게서 돈을 보내는 것을 막고 싶기 때문입니다." 그것은 디자이너가 학대자가 항상 그런 일을 할 방법을 찾고 있다는 것을 단순히 고려하지 않았다고 생각하는 상황입니다. 그들은 매우 창의적이고 디자인에서 고려되지 않았습니다.

Drew: 우리는 종종 모든 것이 사용되도록 설계된 대로 사용되며 경험이 원활하게 진행되는 행복한 경로를 설계하는 것에 대해 이야기합니다. 그런 다음 엔지니어로서 우리는 유효성 검사 실패 또는 API 다운과 관련하여 일이 어떻게 잘못될 수 있는지에 대해 생각합니다. 하지만 확실하지 않습니다 ... 업계로서 사용자의 안전을 고려할 때 기술이 오용될 수 있는 방법에 대해 큰 맹점이 있습니까?

에바: 네. 나는 절대적으로 거대한 사각 지대가 있다고 생각합니다. 사람들은 내가 언급한 것처럼 익명의 사람이 Twitter에서 당신을 괴롭히는 다양한 위협 모델, 은행 회사의 데이터를 해킹하려는 여러 주체 등의 다양한 위협 모델에 매우 익숙합니다. 그러나 우리는 그것을 가정 폭력 위협 모델이라고 부릅니다. 이것은 매우 다르며 대부분의 사람들이 생각하지 않는 모델입니다. 전염병이 회의를 중단하기 이전에 가정 폭력에 반대하는 설계를 하면서 제가 강연을 할 때 항상 피드백을 받았습니다. . 그것은 항상 피드백이었습니다. 사람들은 "나는 이것을 들어본 적이 없습니다. 나는 아무 생각이 없었다.” 그것이 내 연설과 내 책의 목표이며 일반적으로 내 작업은 사람들이 이것이 무엇인지 그리고 그것에 대해 무엇을 해야 하는지 이해하도록 돕는 것입니다. 왜냐하면 그것은 엄청난 맹점에 불과하기 때문입니다.

Drew: 우리에게도 경향이 있다고 생각합니다. 모든 사용자가 우리와 같다고 가정하는 것은 분명히 위험합니다. 서비스나 제품을 만드는 사람들처럼, 우리 군인들처럼, 친구와 가족, 우리가 아는 사람들처럼, 그리고 모든 사람이 안정적인 가정 상황에 있고 서비스에 대한 완전한 소유권이나 통제권을 가지고 있다고 가정합니다. 및 장치. 항상 그런 것은 아니잖아요, 그렇죠?

에바: 네, 물론입니다. 확실히 항상 그런 것은 아닙니다. 나는 우리가 친구와 가족을 보고 모든 사람이 좋은 관계에 있다고 생각할지 모른다고 생각하지만, 내가 발견한 것은 확실히 가정 폭력을 겪는 대부분의 사람들이 자신의 삶의 모든 사람에게 자신의 삶에 대해 정확히 말하지 않고 옥상. 대부분의 사람들은 통계에 근거하여 매우 일반적입니다. 당신은 아마도 그 상황에 처해 있거나 현재 그러한 상황에 있는 누군가를 알고 있을 것입니다. 그리고 그들은 그것에 대해 실제로 이야기하지 않거나 행동의 전체 범위를 공유하지 않을 수 있습니다.

에바: 많은 면에서 사람들이 직장에서 실제로 생각한 것이 아니라는 것은 이해할 만합니다. 왜냐하면 그것은 우리가 사회와 삶 전반에서 생각하는 것이 아니기 때문이며 우리는 그것을 직장에서 재현합니다. 내 작업은 우리가 그것에 대해 좀 더 명시적으로 이야기하도록 하려는 것입니다.

Drew: 이러한 고려 사항과 관련하여 우리가 생각해야 하는 사항에는 어떤 것이 있습니까? 다른 사람이 언제 귀하의 계정에 액세스할 수 있는지 또는 파트너가 귀하의 비밀번호를 알고 있고 들어갈 수 있는지 생각해 보면 제품이 한 사람에 의해 제어되도록 설계되었지만 지금은 악의적인 누군가가 액세스하고 있다고 생각할 수 있습니다. 어떤 종류의 고려 사항이 있습니까?

에바: 네. 글쎄요, 아주 다양한 것들이 있지만 제가 가지고 있는 것은 정말 큰 것입니다 ... 제 새 책의 세 가지 주요 장은 이러한 일이 발생하는 세 가지 큰 영역에 초점을 맞추고 있습니다. 그리고 당신이 방금 언급한 것은 다음 중 하나의 초점입니다. 여러 사람을 위해 설계된 제품의 제어 및 전원 문제에 대해 설명합니다. 공유 은행 계좌, Netflix 또는 Spotify와 같은 것, 다양한 가정용 기기, 사물 인터넷 기기와 같이 표면적으로 여러 사람을 대상으로 하는 것입니다. 그러나 모든 사람은 주변 사람들을 통제하고 권력을 행사할 다른 방법을 찾지 않는 존경하는 사람이라는 가정이 있습니다.

Eva: 많은 공동 은행 계좌 또는 공유 신용 카드 서비스와 같은 것들이 공동 계좌로 가장하지만 실제로는 한 사람이 더 많은 권한을 가지고 있습니다. 예를 들어, 이런 일이 나에게 일어났고 결혼 생활에서 대부분의 재정을 처리하기 때문에 정말 실망스러웠습니다. 그러나 몇 년 전 우리가 첫 공동 은행 계좌를 개설했을 때 남편을 기본 사용자로 설정했습니다. 기본적으로 보안 퀴즈를 만드는 데 사용되는 것은 공개적으로 사용 가능한 데이터라는 의미였습니다. 새로운 Wi-Fi 네트워크에서 우리 은행에 로그인할 때 나는 그에게 당신이 어렸을 때 이 거리 중 어느 곳에서 살았는지 물어야 합니다. 그들은 실제로 대부분 ... 그들 중 일부는 내가 대답할 수 있습니다.

Eva: 그가 캘리포니아에 살아본 적이 없다는 것을 알고 있습니다. 그러나 그들 중 많은 사람들이 실제로 매우 훌륭하고, 우리가 오랫동안 함께 했음에도 불구하고 그에게 물어야 했습니다. 그들은 누군가를 막는 데 꽤 효과적입니다. 그러나 이것은 공동 계정이어야 하는 것과 같습니다. 왜 실제로는 ... 사실 저도 액세스할 수 있는 그 사람을 위한 계정일 뿐입니다. 누군가가 나에게 답을 줄 수 없었기 때문에 더 많은 통제권을 갖도록 허용하는 것과 관련된 많은 문제가 있습니다. 다른 과정. 응. 제어에 대한 다양한 문제.

Eva: 여러 사용자가 참여하는 제품을 디자인할 때마다 한 사용자가 이를 사용하여 다른 사람을 제어할 수 있는 방법과 그에 대한 안전 장치를 어떻게 둘 수 있는지 생각합니다. 한 사람이 통제할 수 없습니다. 그것이 가능하지 않다면 최소한 상대방이 무슨 일이 일어나고 있는지 정확히 이해하고 권력을 되찾는 방법을 정확히 알고 있는지 어떻게 확인할 수 있습니까? 그들에게 전화할 번호를 줄 수 있습니까? 일종의 설정을 변경할 수 있습니까? 그것이 무엇이든, 모든 것이 복잡해집니다.

에바: 나는 이것이 실제로 어떻게 보이는지에 대한 책의 전체 과정을 가지고 있습니다. 가정 폭력을 고려하거나 누가 통제하는지 고려하는 것보다 조금 더 구체적인 것입니다. 나는 그런 종류의 조언이 별로 유용하지 않다고 생각합니다. 디자이너가 실제 기존 디자인 프로세스에 추가하여 이 중 일부를 얻을 수 있는 매우 철저한 프로세스가 있습니다.

Drew: 제 생각에는 이러한 계정이 있는 곳이 어디입니까 ... 계정을 갖는 것은 너무나 흔한 개념입니다. 우리는 기본 빌딩 블록인 제품이나 서비스를 만들고 있습니다. 알겠습니다. 사용자 계정이 있습니다. 우리는 아마도 그것을 설정할 때 문제의 종류에 대해 너무 깊이 생각하지 않고 계정을 책임지는 사람들과 계정이 다르다고 생각합니까? 종종 그들은 하나의 엔터티로 간주되며 공동 계정과 그런 종류를 만들기 위해 다른 엔터티를 추가해야 합니다. 하지만 두 사람이 각자의 길을 간다면 그 계정은 어떻게 되는가 하는 문제도 생각해보면, 앞으로 어떻게 쪼개질 수 있을까? 처음부터 생각해야 하는 부분이 아닐까요?

에바: 네, 물론입니다. 그것은 당신이 제기하는 정말 좋은 포인트입니다. 내가 정말 강하게 느끼는 것 중 하나는 우리가 디자인에서 다양한 유형의 학대의 생존자를 중심으로 삼을 때 결국 모두를 위해 더 나은 제품을 만든다는 것입니다. 나는 특히 가정 폭력 환경에서 흔히 볼 수 있는 재정적 학대 요소에 대해 상당한 양의 사람들을 인터뷰했습니다. 통계에 따르면 가정 폭력 관계에 있는 사람들의 99%, 정말 흔한 재정적 학대 요소가 있습니다. 그러나 나는 또한 비극적으로 배우자를 잃고 한 사람이 사망했으며 공동 계정을 가진 일부 사람들과 인터뷰를 마쳤습니다.

Eva: 그건 마치 예쁜 것 같군요 ... 매우 일반적이고 슬프게도 그런 시나리오입니다. 하지만 많은 제품이 처리하도록 설계된 것이 아니며 공유 계정이나 다음과 같은 것을 실제로 완전히 제어하는 ​​데 몇 년이 걸릴 수 있습니다. 할머니가 돌아가셨을 때, 그녀는 선견지명이 많았고 아버지에게 모든 것에 대한 접근 권한을 주었습니다. 그러나 그럼에도 불구하고 실제로 모든 것을 정리하는 데는 여전히 오랜 시간이 걸렸습니다. 이러한 제품은 그런 일을 처리하도록 설계되지 않았기 때문입니다. 하지만 우리가 생존자들을 중심에 두고 두 사람이 헤어질 때 어떤 모습일지, 그리고 그것을 효과적으로 처리할 수 있다면 궁극적으로 다른 상황에 있는 많은 사람들에게 도움이 될 것이라고 생각합니다.

Drew: 우리는 온보딩 프로세스와 새 계정을 만들고 사람들을 제품으로 끌어들이는 것에 대해 많은 생각을 합니다. 그런 다음 그들이 불행히도 죽든, 어떻게 해서 최종적으로 반올림되는지, 어떤 수단으로든 떠날 때 무슨 일이 일어나는지 고려하는 것을 잊습니다. 프로세스의 다른 쪽 끝. 정말 혜택을 받을 수 있다는 점에서 주목을 받지 못하는 부분이라고 생각합니다.

에바: 네.

Drew: 우리는 휴대전화를 주머니에 넣고 다니는데 매우 개인적인 장치이며 종종 말 그대로 정보, 재정 및 통신에 대한 액세스의 열쇠입니다. 부정적인 상황에서는 쉽게... 개인용 장치라는 사실이 통제와 남용의 매개체가 될 수 있습니다. 위치 서비스, Apple의 Find My와 같은 서비스에 대해 생각해 보십시오. 이는 취학 연령의 자녀가 있고 체크인하여 자녀의 위치를 ​​확인하고 자녀가 있어야 할 위치에 있고 안전한지 확인할 수 있는 경우에 매우 좋습니다. . 여러 면에서 안전 기능이지만 그 기능은 전복될 수 있지 않습니까?

에바: 네, 물론입니다. 네, 그리고 이러한 제품 중 상당수가 어린이용 안전 기능이기 때문에 귀하가 그 문제를 제기하게 되어 기쁩니다. 예, 물론 부모는 자녀가 어디에 있는지 알고 싶어하고 자녀가 안전한지 확인하기를 원하며 이는 정말 효과적인 도구가 될 수 있습니다. 나는 부모가 이러한 제품을 남용하는 문제가 많다고 생각합니다. 아직도 부모님 체크인을 하고 있는데 기숙사에 왜 안가냐는 식으로 캠퍼스 밖에서 파티를 하면 전화를 받는 대학생들의 사례를 본 적이 있습니다. 그런 것들. 너무 많아질 수 있습니다. 그러나 예, 대부분의 경우 훌륭한 제품입니다. 그러나 많은 사람들이 위치 추적에 동의하지 않는 성인을 추적하기 위해 이를 오용합니다.

에바: 위치 공유 등 구글 지도와 같은 서비스로 들어가야 한다. 다른 사람과 공유하고 있는지 보려면 해당 페이지로 이동해야 합니다. 알림이 없습니다. 나의 찾기와 유사합니다. 위치가 추적되는 사용자는 경고를 받지만 가정 폭력 상황에서 학대자가 보기 전에 그 사람의 전화에서 경고를 삭제하는 것은 정말 쉽습니다. 이런 일이 일어나고 있다는 것을 깨닫게 될 것입니다. 저는 이것이 우리가 궁극적으로 아이들의 안전에 관한 것을 만들 때 학대 사례가 고려되지 않는 좋은 예라고 생각합니다. 그러나 우리는 이러한 다른 환경에서 어린이가 아닌 사람들을 위해 그것을 사용할 수많은 사람들이 있다는 것을 깨달아야 합니다.

Drew: 관계에서, 당신은 어느 시점에서 당신의 위치를 ​​매우 기꺼이 추적하는 데 동의할 수 있다고 생각합니다. 그러면 당신은 그것이 계속된다는 것을 이해하지 못할 수도 있고 그것이 여전히 진행되고 있다는 것을 인식하지 못할 수도 있습니다. 자신도 모르게 추적되고 있다.

에바: 네. 학대적인 관계 내에서는 … 대부분의 경우 학대가 첫날부터 시작되지 않기 때문에 이는 고려해야 할 정말 중요한 사항입니다. 일반적으로 처음에는 정말 좋은 관계입니다. 그리고 나서 그들은 천천히 다른 형태의 통제와 권력을 장악하고 지원 네트워크에서 사람을 제거합니다. 이 모든 것은 시간이 지남에 따라 종종 발생합니다. 왜냐하면 당신이 이것을 시작했다면 첫 데이트에서 대부분의 사람들은 "예, 아니요, 저는 외출 중입니다."라고 말할 것입니다. 하지만 이런 사랑의 관계가 생기면 그 사람을 떠나보내기가 훨씬 힘들어집니다.

Eva: 하지만 예, 관계 초기에는 완전히 안전했던 일이 더 이상 안전하지 않은 경우가 많습니다. 하지만 그 사람은 이 사람과 자신의 위치를 ​​공유했다는 사실을 오래 전부터 잊어버렸고, 다시 좋은 일도 없었습니다. 상기시키는 방법. 신용과 같은 몇 가지 사항이 있습니다. Google은 30일마다 이메일을 보내지만 실제로 이메일을 그렇게 자주 받지 않는다고 말하는 사람도 있고 받는 사람도 있습니다. 정확히 무슨 일이 벌어지고 있는지는 잘 모르겠지만, 그들은 당신이 위치를 공유하고 있는 모든 사람들과 함께 요약 이메일을 보냅니다. 정말 대단합니다.

Eva: 하지만 30일 안에 많은 피해를 입힐 수 있다고 생각합니다. 나는 더 자주 발생하거나 더 자주 발생하고 있음을 알려주는 더 자주 또는 편재하는 것을 선호하고 학대자가 해당 알림을 삭제할 수 있도록 합니다. 네, 정말 좋은 지적입니다. 동의입니다. 성폭행 동의 관행에서 비롯된 것들이 많습니다. 기술과 관련이 많다고 생각합니다. 과거에 동의했다고 해서 현재 또는 미래에 동의하는 것은 아닙니다. 하지만 기술 분야에서 우리는 "글쎄요, 그들은 5년 전에 동의했기 때문에 그 동의는 여전히 유효합니다"라고 말하지만 실제로는 그렇지 않습니다. 나중에 다시 동의를 받아야 합니다.

Drew: 예, 모든 종류의 도전을 제시합니다. 그렇지 않나요? 이러한 것들이 디자인되는 방식에서, 당신은 그것이 유용하지 않게 되는 제품 디자인에 너무 많은 장애물을 넣고 싶지 않기 때문입니다. 또는 자녀를 추적하고 있는데 그날 다시 동의하지 않았는데 갑자기 실종되어 서비스가 활성화되지 않은 경우입니다. 그러나 다시 말하지만, 그 동의는 그것이 진정으로 주어진 동안에만 계속되고 있는지 확인하십시오. 공유 문서에서 Google 문서 등을 사용하는 경우 그 당시 문서를 보고 있는 사람이 누구인지 확인하기 위해 모든 아이콘이 표시되는 경우 공유 문서에서 충분히 쉽다고 생각합니다. … 액세스 권한이 있습니다. 사람들이 귀하의 위치에 액세스할 때 이러한 종류의 솔루션이 똑같이 잘 작동할 수 있다고 생각했습니까?

에바: 네, 완전히. 네, 끈적거립니다. 이 문제에 대한 간단하고 쉬운 솔루션은 많지 않으며, 예, 다음과 같은 사항을 원할 것입니다. 아마도 8살짜리 아이들이 매일 동의하도록 하는 것은 좋은 생각이 아닐 것입니다. 왜냐하면 언젠가는 그들은 "아니요"라고 말하거나 실수로 아니요라고 말했는데 갑자기 찾을 수 없습니다. 네, 실제 시나리오입니다. 제 생각에는 이 중 일부에 대해 "글쎄, 이 작품은 존재해서는 안 되며, 그렇지 않으면 매일 동의를 받아야 합니다"라고 말하는 것은 현실적이지 않다고 생각합니다.

Eva: 하지만 그런 경우에는 이 사람, 이 다른 사용자가 할 수 있는 일이 많지 않아도 자신의 위치를 ​​볼 수 있다고 말하는 것과 같이 여전히 할 수 있는 일이 있습니다. 최소한 무슨 일이 일어나고 있는지 명확하게 이해하고 학대적인 관계에 있는 경우 자신을 보호하기 위한 조치를 취할 수 있도록 정보를 제공하는 것은 정말 유용할 것입니다. 아마도 이제 그들은 알겠습니다. 알겠습니다. 점심 시간에 사무실을 나갈 때 파트너가 승인하지 않는 친구를 만나기 위해 사무실을 떠날 때 항상 전화를 가져가지 않을 것입니다. 그리고 그는 내가 내 전화를 가져오면 내가 어딘가에 갔다는 것을 알게 될 것입니다.

Eva: 하지만 내가 사무실에 전화기를 두고 있으면 그는 모를 거예요. 이러한 유형의 정보에 입각한 결정을 내릴 수 있습니다. 위치 공유를 반드시 종료할 수는 없지만 기능 제품의 핵심 기능을 계속 유지하면서 사용자를 안전하게 보호할 수 있는 다른 조치가 분명히 있습니다.

드류: 네. 디자인 결정에 달려 있지 않습니까? 그리고 어려운 문제에 대한 해결책을 찾는 것, 그러나 먼저 문제가 있고 해결해야 한다는 것을 이해하는 것, 이것이 바로 이 대화가 사물이 사용되는 다양한 방식을 이해하는 데 매우 중요한 부분이라고 생각합니다. 점점 더 많은 마이크와 카메라가 있는 장치가 있습니다. 우리 집과 초인종에 많은 감시 카메라가 있으며 은밀한 감시는 더 이상 첩보 영화와 경찰 쇼에서나 볼 수 있는 것이 아닙니다. 그렇죠?

에바: 네. 오 예. 너무 큰 문제입니다. 나는 이 물건에 대해 매우 강한 감정을 가지고 있고 많은 사람들이 이 장치에 정말로 관심이 있다는 것을 알고 있고 나는 그것이 완전히 괜찮다고 생각합니다. 감시용으로 많이 사용되는 것 같아요. 나는 많은 배우자와 가족 구성원을 생각하지만, 또한 많은 … 십대들을 보면 훨씬 더 많은 독립이 필요하고 공간이 필요합니다. 그리고 말 그대로 독립을 둘러싼 두뇌 발달 일이 일어나고 있습니다.

Eva: 자녀가 온라인에서 안전하고 올바른 결정을 내릴 수 있도록 도울 수 있는 방법이 있다고 생각합니다. 또한 자녀가 무엇을 하고 있는지 확인하는 방법은 자녀를 지속적으로 관찰하거나 자녀의 삶에 지속적으로 자신을 주입하지 않는 것입니다. 그들이 원하지 않는다는 것을. 그러나 예, 다양한 감시 장치의 과잉은 통제할 수 없으며 사람들은 항상 이것을 사용하여 서로를 은밀하게 감시하거나 심지어 공개적으로 보지도 않습니다. 때때로 그것은 공개적으로 "예, 당신을 지켜보고 있습니다. 당신은 그것에 대해 무엇을 할거야? 당신은 그렇게 할 수 없습니다. 왜냐하면 내가 당신을 통제하고 권력을 유지하기 위해 폭력을 사용하기로 선택한 관계에 있기 때문입니다.”

에바: 정말 큰 문제가 됩니다. 내가 많이 접한 것은 사람들입니다 ... 학대자가 생존자를 지원 네트워크에서 격리시키는 또 하나의 방법이됩니다. 친구나 형제자매 또는 치료사와 사적인 전화 통화를 할 수 없습니다. 갑자기, 집에 실제로 사적인 공간이 있는 곳이 없습니다. 사람들이 집에 있어야 하는 전염병 동안 정말 큰 문제이기도 했습니다. 우리는 가정 폭력이 엄청나게 증가하는 것을 보았고, 기술이 가정 폭력을 조장하는 것을 보았습니다. 학대자들이 이러한 일을 하는 방법을 알아낼 시간이 더 많았고 통제를 위해 배선해야 하는 공간이 훨씬 작았기 때문입니다. 많은 사람들이 그렇게 해왔습니다. 정말 큰 문제가 되었습니다.

Drew: 이러한 종류의 제품, 감시 카메라 및 귀하가 가지고 있는 제품의 제조업체가 "여기서 도구를 만들고 있을 뿐입니다. 우리는 그것들이 어떻게 사용되는지에 대해 어떠한 책임도 지지 않습니다. 우리는 그것에 대해 아무것도 할 수 없습니다.” 그러나 그들이 그러한 도구를 사용하는 방법에 대해 책임이 있다고 주장하시겠습니까?

에바: 네, 그렇게 하겠습니다. 저는 먼저 다음과 같이 말한 사람에게 이렇게 말할 것입니다. 당신은 인간이고 당신의 제품은 인간에게 영향을 미치며 그에 대한 책임은 당신에게 있습니다.” 두 번째로 말씀드리고 싶은 것은 사용자에게 더 높은 수준의 기술 활용 능력을 요구하는 것은 정말 문제가 되는 사고 방식이라는 것입니다. 기술 분야에서 일하는 사람들은 이렇게 말하기 쉽기 때문입니다. 그것에 대해. 누군가 우리 제품이 어떻게 사용되는지 이해하지 못한다면 우리는 책임을 지지 않습니다.”

Eva: 하지만 대다수의 사람들은 기술 분야에서 일하지 않고 여전히 기술 분야에서 일하지 않고 기술에 정통한 사람들이 여전히 많습니다. 그러나 사람들에게 자신이 가지고 있는 모든 앱, 휴대전화나 노트북에서 사용하는 모든 것, 집에 있는 모든 기기, 모든 기능을 이해하고 어떻게 될 수 있는지 정확히 이해하도록 요구합니다. 그들을 상대로 사용하는 것은 엄청난 부담입니다. 아, 물론 사람들이 시간을 들여 이해해야 하는 것처럼 하나의 제품에 대해서만 생각한다면 별 문제가 아닌 것처럼 보일 수도 있습니다.

Eva: 하지만 우리는 위험한 상황을 겪고 있는 사람들에게 이해해야 할 책임을 부여하는 수십 가지 제품에 대해 이야기하고 있습니다. 이는 특히 학대와 감시, 이러한 다양한 일들이 하는 일을 고려할 때 매우 비현실적이고 상당히 비인간적입니다. 당신이 끊임없이 위협받는 상태에 있고 항상 이 생존 모드에 있다면 당신의 두뇌에. 당신의 두뇌는 이 앱을 알아내고, 보고, 남편이 나를 감시하거나 나를 통제하기 위해 어떻게 사용하는지 식별하려고 노력하는 동안 완전한 실행 기능을 가질 수 없을 것입니다. 나는 그것이 정말로 단지, 솔직히 말해서, 가질 수 있는 엉터리 사고방식이며 사람들이 우리 제품을 사용하는 방식에 대해 우리가 책임이 있다고 말하고 싶습니다.

Drew: 대부분의 사람들이 전자레인지에 있는 하나 또는 두 개 이상의 버튼을 이해하지 못한다고 생각할 때 우리가 접하는 모든 다양한 앱과 서비스의 기능과 기능을 어떻게 이해할 수 있을까요?

에바: 물론입니다. 응.

Drew: 제품과 서비스를 디자인할 때 영어를 구사하는 이성애자 남성으로서 사회가 나에게 제공하는 특권적인 위치를 통해 큰 맹점이 있다는 것을 느끼고 매우 순진하고 그것이 그럴 수 있다는 것을 알고 있습니다. 내가 만들고 있는 것에서 문제가 있는 디자인 선택으로 이어집니다. 이러한 사각 지대를 노출하고 우리 자신의 경험 영역을 벗어나 더 많은 시나리오를 포함하기 위해 최선을 다하고 있는지 확인하기 위해 취할 수 있는 단계와 따를 수 있는 프로세스가 있습니까?

에바: 네, 물론입니다. 나는 이것에 대해 많은 생각이 있습니다. 몇 가지가 있다고 생각합니다. 첫째, 우리 모두는 자신의 사각지대에 대해 교육할 책임이 있습니다. 누구에게나 사각지대가 있습니다. 제 생각에는 시스 백인 남성이 다른 그룹보다 사각지대가 더 많을 수 있지만 사각지대가 없는 그룹이 있는 것은 아닙니다. 누구나 가지고 있습니다. 나는 우리의 기술이 오용될 수 있는 다양한 방법에 대해 스스로 교육하는 것이라고 생각합니다. 제 생각에는 그 이상이라고 생각합니다. ... 분명히, 대인 관계 안전은 제가 작업하는 것입니다. 그러나 다른 모든 것들도 있습니다. 저는 또한 지속적으로 배우고 제가 작업 중인 기술이 이러한 다른 것들을 영속화하지 않도록 하는 방법을 알아내려고 노력하고 있습니다.

Eva: 저는 Sara Wachter-Boettcher의 Design For Real Life를 정말 좋아하고 Eric Meyer는 포괄적인 디자인과 자비로운 디자인에 탁월합니다. 하지만 그 후 알고리즘과 인종차별, 성차별, 그리고 알고리즘의 다양한 문제에 대해서도 배웠습니다. 우리가 고려해야 할 다른 것들이 너무 많고, 우리 모두가 그런 것들을 배울 책임이 있다고 생각합니다. 그리고 제 생각에는 이러한 일을 겪은 사람들의 생생한 경험을 한 번 확인하면 이 제품에서 인종차별이 문제가 될 것이며 우리가 이 문제를 처리하고 있는지 확인해야 한다고 생각합니다. 그것을 방지하기 위해 노력하고 사람들이 인종 차별주의를 신고할 수 있는 방법을 확실히 제공합니다.

에바: 제가 제 책에서 제시한 사례 중 하나는 에어비앤비가 인종차별과 인종차별 호스트에 대해 많은 문제가 있다는 것입니다. 당신이 가지고 있는지에 대한 연구만으로도 ... 당신의 사진이 흑인이라면 당신은 거부 될 것입니다. 숙박 예약 요청은 사진에 백인이 있는 경우보다 더 자주 거부됩니다. 저는 제가 백인이라고 생각합니다. 그건 제가 그냥 가서 배우고 그 문제에 대한 권위자로서 말할 수 없다고 생각하는 것입니다. 그런 경우에는 정보를 제공할 수 있는 생생한 경험을 가진 사람을 데려와야 한다고 생각합니다. 따라서 흑인 디자이너 컨설턴트를 고용하는 것은 기술 분야에 실제로 큰 다양성이 없다는 것을 분명히 알고 있기 때문입니다.

Eva: 이상적으로는 팀에 이미 그것에 대해 말할 수 있는 사람들이 있지만 제 생각에는 ... 하지만 너무 복잡합니다. 이것이 우리가 팀원들에게 그런 노동을 요구하는 곳입니다. 그것도 문제가 될 수 있습니다. 당신 팀의 흑인은 아마도 이미 많은 다른 일에 직면하고 있을 것이고, 그런 다음 백인들은 "이봐, 당신이 인종 때문에 겪었던 충격적인 경험에 대해 이야기해 주세요." 우리는 아마도 사람들에게 그런 종류의 부담을 주어서는 안 될 것입니다.

에바: 많은 사람들이 기꺼이 그 문제를 제기하고 그것에 대해 이야기할 것이고, 저는 여성으로서 제 경험에 대해 이야기할 것입니다. 하지만 아마도 제가 매일 하고 싶은 일이 아닐 수도 있습니다. 그 경우에, 일을 위해 그렇게 하는 사람들을 고용한 다음 항상 그들의 삶의 경험에 대해 사람들에게 비용을 지불하고, 그 지식과 경험에 대해 실제로 사람들에게 보상한다는 점에서 착취적이지 않게 만듭니다.

드류: 네. 다양한 팀이 제품에 대해 작업하고 모든 종류의 다양한 경험을 가져오는 것이 얼마나 믿을 수 없을 정도로 중요하고 유익한지를 강조하는 것 같습니다.

에바: 네, 물론입니다.

Drew: 디자인 과정에서 책에서 다루는 것 중 하나는 기능을 테스트하는 데 도움이 되는 학대자 및 생존자 원형을 만드는 것입니다. 그 아이디어에 대해 조금 말씀해 주시겠습니까?

에바: 네. 이것은 사람들이 문제가 무엇인지 매우 명확하게 이해하는 데 도움이 되는 일종의 페르소나 아티팩트를 원했기 때문에 나온 것입니다. 이것은 팀이 문제에 대한 연구를 수행하고 대인 관계 안전과 관련하여 발생할 수 있는 다양한 문제를 식별하고 그것이 무엇인지 매우 명확하게 설명할 수 있는 후에 나온 것입니다. 그런 다음 피해가 무엇이든 간에 귀하의 제품을 사용하려는 사람인 학대자 원형을 만들고 그 피해의 희생자가 될 생존자 원형을 만듭니다. 이것들에서 중요한 것은 목표를 갖는 것입니다. 그것은 당신이 사진을 찾거나 사진이 필요하지 않은 것과 거의 비슷하지만 학대가 무엇인지 그리고 그 사람의 목표를 분명히 나타냅니다.

에바: 스토킹을 하고 싶어서 전 여자친구가 지금 어디에 사는지 알아내고자 하는 사람이라면 그의 목표는 그녀를 스토킹하는 것입니다. 그렇다면 생존자의 목표는 ... 글쎄요, 죄송합니다. 학대자의 목표는 귀하의 제품을 사용하는 것입니다. 예를 들어 Strava는 책에서 예로 사용하는 것 중 하나입니다. Strava를 사용하여 전 여자 친구를 추적하고 싶습니다. 그러면 생존자 유형은 "나를 스토킹하려는 전 남자에게 내 위치를 비밀로 유지하고 싶습니다."라고 말합니다. 그런 다음 이러한 목표를 사용하여 일부 디자인에 정보를 제공하고 제품을 테스트하여 생존자의 위치 데이터에 대해 모든 개인 정보를 활성화한 경우에도 공개적으로 사용할 수 있는 생존자의 위치 데이터가 있는지 확인할 수 있습니다. 특징?

Eva: 몇 달 전까지만 해도 그런 기능이 있었기 때문에 Strava를 예로 사용합니다. 모든 것을 비공개로 놔두어도 앱을 사용하여 다른 사람 근처에서 일정 시간 동안 달리거나 운동을 하면 얼마나 가까워야 하는지, 얼마나 오래 같이 달려야 하는지 불명확한 일이 있었습니다. 거리를 이 다른 사람으로 지정하면 운동에 등장한 것으로 태그가 지정됩니다. 그것은 학대자가 자신의 목표를 달성할 수 있었던 예가 될 것입니다. 그는 이런 방식으로 전 애인을 찾을 수 있었습니다. 그러면 당신은 알겠죠. 우리는 그것에 반대하여 그 목표가 성공하는 것을 막아야 합니다.

Drew: 특히, 모든 시나리오를 생각할 수는 없습니다. 학대자가 모든 상황에서 무엇을 하려고 하는지 알 수는 없습니다. But by covering some key apparent problems that could crop up, then I guess you're closing lots of doors for other lines of abuse that you haven't thought of.

Eva: Yes. 예 바로 그 거예요. That brings up a really good other related point, which is that, yeah, you're probably not going to think of everything. Then having ways for users to report issues and then being the type of team and company that can take those criticisms or issues that users identify with some grace and quickly course correcting because there's always going to be things you don't think about and users are going to cover all sorts of things. I feel like this always happens. Being able to have a way to get that feedback and then to quickly course correct is also a really big part of the whole process of designing for safety.

Drew: Is there a process that would help you come up with these potential problems? Say you're designing a product that uses location data, what process would you go through to think of the different ways it could be abused? Is there anything that helps in that regard?

Eva: Yeah. This is something I get more in depth about in the book, but having some research around it first is the first thing. With location services is a pretty easy one, so to speak. There's so many documented issues with location services. There's also been academic studies done on this stuff, there's lots of literature out there that could help inform the issues that you're going to face. Then the other thing that I suggest that teams do is after doing this research is doing a brainstorm for novel of use cases that have not been covered elsewhere.

Eva: The way I usually do this is I have the team do a Black Mirror brainstorm. Let's make a Black Mirror episode. What's the worst, most ridiculous, just anything goes, worst case scenario for this product or feature that we're talking about? People usually come up with some really wild stuff and it's actually usually really fun. Then you say, “Okay, let's dial it back. Let's use this as inspiration for some more realistic issues that we might come across,” and then people are usually able to identify all sorts of things that their product might enable.

Drew: For people listening who feel like they would really love to champion this area of work within their organization, do you have any advice as to how they could go about doing that?

Eva: Yeah. There is a lot of stuff about this in the book, about integrating this into your practice and bringing it to your company. Advice for things like talking to a reluctant stakeholder whose only concern is, well, how much is this going to cost me? How much extra time is this going to take? Being able to give really explicit answers about things like that is really useful. Also, I have recordings of my conference talk which people usually say, “I had just had no idea that this was a thing.” You can help educate your team or your company.

Eva: I talked about this in the book too, honestly, it can be awkward and weird to bring this stuff up and just being mentally prepared for how it's going to feel to be like, “We should talk about domestic violence,” or, “We should talk about invasive child surveillance.” It can be really hard and just weird. One of the pieces of advice I give is for people to talk to a supportive coworker ahead of time, who can back them up if you're going to bring this up in a meeting and just help reduce the weirdness, and there are some other tactics in the book. But those are definitely the big ones.

Drew: I would normally ask at this point where our listeners should go to find out more about the topic. But I know that the answer is actually to go and read your book. We've only really just scratched the surface on what's covered in Design For Safety, which is out now, this August 2021 from A Book Apart. The book, for me, it's sometimes an uneasy read in terms of content, but it's superbly written and it really opened my eyes to a very important topic. One thing I really like about all the A Book Apart books is they're small and focused and they're easy to consume. I would really recommend that listeners check out the book if the topic is interesting to them.

Eva: Yeah, thanks for that. Theinclusivesafetyproject.com is the website I have to house all of this information. There's a lot of great resources in the back of the book for people who want to learn more. But if you just want something and more immediately, you can go to Theinclusivesafetyproject.com and there's a resources page there that has different sort of articles or studies to look at different people working in related spaces to follow on Twitter, books to read, things like that.

드류: 맞아. I've been learning what it means to design for safety. What have you been learning about, Eva?

Eva: I have been learning about data. I'm reading a really interesting book called Living in Data by Jer Thorp, which I thought it was going to be all about different issues with big data, which is such a big thing but it's actually an extremely thoughtful, much more interesting approach to what it means to live in data and just how much data is taken from us every day and what's done with it and just data out there in the world. It's really interesting and important, and yeah, I would definitely recommend that book.

Drew: No, amazing. If you the listener would like to hear more from Eva, you can follow her on Twitter where she's @epenzeymoog, and you can find all her work linked from her website at evapenzeymoog.com. Design For Safety is published abookapart.com and is available now. Thanks for joining us today, Eva. 이별의 말이 있나요?

Eva: Please get vaccinated so that we can go back to normal.