개인 정보 보호 설계: 개인 정보를 판매하고 변경하는 방법

게시 됨: 2022-03-10
요약 요약 ↬ 개인정보는 인터넷에서 가장 환상적이고 가장 이해도가 낮은 주제 중 하나가 된 기본적인 인권입니다. 그러나 변화의 시간이 다가오고 있습니다. 이 기사에서는 이러한 변경이 비즈니스 성공에 중요한 이유와 수익에도 긍정적인 영향을 주는 방식으로 필요한 변경을 수행하는 방법을 정확하게 설명합니다.

사생활 보호는 우리가 진정한 자아가 될 수 있도록 하는 기본적인 인권입니다. 그것이 우리가 부끄러움 없이 이상한 사람이 될 수 있게 해주는 것입니다. 그것은 우리가 결과 없이 반대 의견을 가질 수 있게 합니다. 그리고 궁극적으로 그것이 우리를 자유롭게 해줍니다. 이것이 많은 국가에서 개인 정보 보호에 관한 엄격한 법률을 가지고 있는 이유입니다. 그러나 이러한 공통된 이해에도 불구하고 인터넷의 개인 정보 보호는 현재까지 가장 이해도가 낮고 정의가 부족한 주제 중 하나입니다 . 인터넷의 개인 정보는 광범위한 문제에 걸쳐 있고 다양한 형태로 형성되기 때문에 식별하고 논의하기가 매우 어렵기 때문입니다. . 그러나 이 모호함을 해결하려고 합니다.

미국에서는 누군가의 우편물을 여는 것은 연방 범죄입니다. 이는 최대 5년의 징역형에 처할 수 있는 사생활 침해 범죄로 간주됩니다. 은유적으로 말하면 사진, 비디오, 텍스트 또는 기타 무엇이든 인터넷에서 생성하는 각 데이터 조각은 메일 소포로 생각할 수 있습니다. 그러나 실생활에서 메일을 여는 것과 달리 인터넷 회사는 법적 처벌 없이 시스템을 통해 전달되는 모든 메일을 합법적으로 열 수 있습니다. 게다가, 그들은 또한 그것을 복사할 수 있습니다. 이 회사들이 하는 일은 누군가가 우리 메일을 열어 Kinkos에서 복사한 다음 우리 이름이 적힌 파일 캐비닛에 보관하고 비용을 지불할 의사가 있는 모든 사람과 공유하는 것과 비슷합니다. 해당 파일 캐비닛을 열거나 사본 중 일부를 삭제하시겠습니까? 너무 나빠. 우리의 우편물은 현재 그들의 재산으로 간주되며 우리는 그것이 어떻게 사용되는지에 대해 거의 통제할 수 없습니다 .

우체국이 우편물을 인질로 잡고 돈을 지불할 의사가 있는 사람에게 판매한다는 사실을 알게 된다면 대중이 겪을 분노를 상상할 수 있습니까? 인터넷의 데이터로 인해 발생하는 상황도 다르지 않으며 이제는 변화해야 할 때입니다.

이런 일이 발생하는 것은 단순한 윤리 문제가 아니라 기본적인 인권 문제입니다.

(규제에 따라 강제로 변경하지 않고) 필요한 변경을 수행하는 문제는 문제에 달러 기호를 표시하는 것입니다. 소비자 개인 정보 보호 표준을 개선하기 위한 20,000시간의 엔지니어링 투자에 대한 재정적 수익은 얼마입니까? 소비자들이 이러한 변화를 요구하고 있습니까? 재정적 수익을 내지 못하고 소비자들이 요구하지 않는다면 왜 변화가 일어나야 합니까? 그리고 그것이 있고 수익이 있다고 해도 20,000시간의 투자는 어떤 모습일까요? 제품 로드맵에는 무엇이 그리고 언제 포함될 예정입니까? 이것들은 모두 우리가 효과적으로 앞으로 나아가는 데 도움이 되어야 하는 유효한 문제입니다 . 토론합시다.

추천 자료 : 웹 디자인에서 윤리 사용하기

점프 후 더! 아래에서 계속 읽기 ↓

소비자가 원하는가?

이 질문에 대한 대답은 어려운 예입니다. Pew Research Center의 조사 결과에 따르면 미국 성인의 90%는 자신에 대해 수집되는 정보를 제어하는 ​​것이 중요하다고 생각하고, 93%는 이 정보에 액세스할 수 있는 사람을 제어할 수 있는 것이 중요하다고 생각하며, 86%는 디지털 발자국을 제거하거나 마스킹하기 위한 조치를 취했습니다. doteveryone의 2018년 디지털 태도 보고서에서 유럽인에 대해 비슷한 수치가 발견되었습니다. 이러한 수치에도 불구하고, 59%는 여전히 온라인에서 익명을 유지하는 것이 불가능하다고 생각하고, 68%는 현행법이 개인 정보를 보호하기에 충분하지 않다고 생각하며, 6%만이 정부 기관이 개인 정보를 안전하게 보호할 수 있다고 "매우 확신"합니다.

무슨 생각을 하는지 알겠어요. 이것은 소비자의 요구이며, 그 소비자가 오래된 제품을 남기기 시작할 때까지 재정적으로 변경할 이유가 없습니다. 그리고 (나는 당신의 논리에 동의하지 않지만) 당신이 옳습니다. 현재로서는 변경할 재정적 이유가 거의 없습니다. 그러나 소비자 수요가 임계량에 도달하면 상황이 항상 바뀝니다. 그리고 변화가 요구되기 전에 앞서가는 기업이 장기적으로 항상 승리합니다. 항상 가장 큰 고통을 느끼도록 강요될 때까지 변화를 거부하는 사람들 . 역사는 이것이 사실임을 보여줍니다. 그러나 비즈니스를 그렇게 많이 변화시킬 법안에서는 어떤 일이 벌어질까요? 좋은 질문입니다.

규제를 통해 전 세계의 데이터 보호 및 개인 정보 보호 표준에 일어날 일은 소비자가 스팸 이메일로부터 보호를 요구하여 미국에서 CAN-SPAM 법이 제정된 불과 10년 전과 크게 다르지 않을 것입니다. — 그러나 훨씬 더 큰 규모로 기하급수적으로 더 큰 영향을 미칩니다. 소비자들이 스팸 이메일을 받는 것이 지겹기 때문에 만들어진 이 법안은 상업적 이메일에 대한 규칙을 설정하고 상업적 메시지에 대한 요구 사항을 설정하고 수신자에게 개인과 회사가 이메일을 보내지 못하도록 할 권리를 부여하고 위반에 대한 강력한 처벌을 명시했습니다. 소비자들이 자신이 얼마나 심하게 속았는지 이해하기 시작 하는 시대에 접어들면서(몇 년 동안 사람들에게 자신의 데이터에 대한 친밀한 통제권을 부여하는 것은 의심할 여지 없이 데이터 수집의 미래가 될 것입니다) 그것이 자유 의지든 입법이든 간에. 그리고 먼저 움직이기로 한 사람이 승리합니다. 날 믿지 않아?

엔지니어가 작성한 코드로 인해 법적 문제가 발생할 수 있다는 사실을 고려하십시오. Apple Watch, Alexa 및 FitBit 데이터는 법원에서 증거로 사용되어 데이터에 대한 소비자의 인식을 변화시켰습니다. 마이크로소프트와 미국 대법원은 클라우드 기반 범죄 활동에서 물리적 경계가 어디까지 확장되는지 정의하기 위해 올해 초 법정에 출두했으며, 긴 싸움의 시작이 될 것입니다. 이러한 예는 앞으로 나올 내용을 살짝 엿본 것일 뿐입니다. 사람들은 더 많은 것을 요구하고 있으며 우리는 전환점에 도달하고 있습니다.

이러한 요구에 대응하기 위해 가장 먼저 조치를 취한 국가는 GDPR을 수립한 EU이며, 이제 다른 국가의 정책 입안자들도 이를 따르기 시작하여 우리의 사이버 미래를 정의하기 위해 자국의 법률을 제정하고 있습니다. 예를 들어, 미국 상원 정보 위원회 부의장인 마크 워너(Mark Warner)는 최근 몇 달 전 요약 보고서에서 몇 가지 아이디어를 제시하여 곧 미국에서 법안이 어디로 향할지를 보여주었습니다. 그러나 이것을 미래라고 믿는 것은 진보적인 사람들만이 아닙니다. 스티브 배넌과 같은 우익 인플루언서들조차 규제가 필요하다고 생각합니다.

우리가 보고 있는 것은 놀라운 조작에 대한 인간의 반응입니다. 우리가 이전 세대에 비해 얼마나 길들여져 있더라도 사람들은 위협을 받고 있다고 느낄 때 항상 뒤로 물러날 것입니다. 우리가 수천 년 동안 살아남을 수 있었던 것은 자연스러운 반응입니다. 오늘날 기술은 단순한 소비자 대면 산업이 아닙니다. 그것은 이제 국가 안보의 문제이기도 하다 . 그리고 이런 이유로 우리가 좋든 싫든 반응이 있을 것입니다. 그리고 깔깔대고 휩쓸리지 않고 대비할 수 있는 전략이 나오면 더 좋을 것 같아요. 그래서, 당신이 요구하는 재정적 수익은 무엇입니까? 글쎄, 당신의 사업 가치는 얼마입니까? 그 정도야.

추천 자료 : GDPR이 개발 방식을 어떻게 변화시킬지

정확히 해결해야 하는 것과 그 이유에 대한 간단한 프레임워크를 위해 디지털 시스템 생성의 기초가 되는 몇 가지 진실을 확인할 수 있습니다.

  1. 개인 정보는 사후 대응이 아니라 사전 예방적이어야 하며 개인 정보 문제가 사용자에게 도달하기 전에 예상해야 합니다.
    이러한 문제는 문제가 발생한 후 처리하고 싶은 문제가 아니라 가능하면 완전히 방지하고 싶은 문제입니다.
  2. 개인 정보는 기본 설정이어야 합니다.
    개인 정보 보호와 관련하여 "비즈니스에 가장 적합한" 옵션은 없습니다. 이것은 소비자에게 가장 좋은 것이 무엇인지에 대한 문제이며 장기적으로 비즈니스에 더 좋습니다. 2018년 8월 Public by Default가 대중에게 공개되어 브랜드에 대한 나쁜 언론이 퍼진 2018년 8월 Paypal과 Venmo에 일어난 일을 통해 강압적 결함이 대중에게 노출되면 어떻게 되는지 알 수 있습니다. 변화를 일으키기 전에 나쁜 일이 일어나기만을 기다리는 기업에 더 많이 올 것입니다.
  3. 프라이버시는 양수여야 하며 이분법을 피해야 합니다.
    개인 정보 보호에는 이분법적 관계가 없습니다. 그것은 끊임없는 감독과 끊임없는 반복이 필요한 영원히 변할 수 있는 문제입니다. 우리의 작업은 조건 및 서비스 계약으로 끝나지 않고 영원히 지속되며 제품과 함께 진화하고 소비자가 자신을 보호할 수 있도록 하는 제품의 기본 요소로 간주되어야 합니다. 이해 부족을 이용하는 것이 아닙니다.
  4. 개인 정보 보호 표준은 가시적이고 투명하며 개방적이며 문서화되고 독립적으로 검증 가능해야 합니다.
    개인 정보 보호 표준에 대한 리트머스 테스트를 정의할 수 있는 좋은 방법은 없지만 비즈니스 사람으로서 우리 모두 스스로에게 던져야 하는 몇 가지 질문은 다음과 같습니다. 첫째, 언론이 귀하의 개인 정보 보호 계약을 발표했다면 이해할 수 있습니까? 둘째, 이해할 수 있다면 소비자가 읽은 내용을 즐길 수 있습니까? 마지막으로 중요하지 않은 경우 변경해야 할 사항은 무엇입니까?

이러한 원칙은 제품이 구축되고 발전할 때 염두에 두어야 할 매우 귀중한 기반이 될 것입니다. 그들은 윤리의 좋은 기준을 가질 수 있도록 자신과 팀에게 할 수 있는 빠르고 쉬운 질문을 나타내지만, 법적 기초에 대한 더 긴 글을 보려면 작년에 Smashing에 대해 몇 가지 추가 원칙을 설명한 Heather Burns의 글을 읽을 수 있습니다. 또한 PIA(프라이버시 영향 평가) 동안 검사해야 할 사항의 전체 목록을 보려면 다음에 따라 평가가 수행되는 방식을 확인할 수도 있습니다.

  • 영국 정보 위원회(ICO)
  • 캐나다 프라이버시 커미셔너 사무소
  • 미국 국토안보부

하지만 서둘러 제품을 변경하기 전에 먼저 현재 공개된 몇 가지 결함을 지적하고 적절하게 구현되면 변경 사항이 어떻게 보일지 이야기해 보겠습니다.

변경 방법

미국 개인 정보 보호 관행의 가장 큰 문제 중 하나는 개인 정보를 정의하는 데 중요한 역할을 하지만 매우 제대로 수행하지 못하는 경향이 있는 약관 및 서비스 계약(T&S)을 이해하는 것이 얼마나 어려운지입니다. 현재 사용자는 동의하는 내용을 이해하려면 법률 용어와 전문 용어로 가득 찬 긴 문서를 읽어야 합니다. 한 연구에서는 실제로 평균적인 사람 이 연간 기준으로 접하는 모든 개인정보 보호정책을 읽는 데 연간 약 201시간(거의 10일)이 걸린다는 것을 보여주었습니다. 연구자들은 이 손실된 시간의 가치가 연간 거의 7,810억 달러에 이를 것으로 추정했는데, 이는 소비자를 보호해야 하는 규칙인 쉽고 소화하기 쉬운 규칙이라는 점을 고려할 때 수용할 수 없는 수준입니다. 이것은 소비자를 진정으로 이해하지 못한 채 옵트인해야 하는 위치에 놓이게 합니다. 그리고 많은 경우 강제적인 것은 법적 언어가 아니라 일반적으로 다양한 경험을 통해 명확하게 입증된 바와 같이 옵션이 제공되는 방식입니다.

이 이미지는 동의를 가정하고 위험한 방식으로 소비자가 동의하도록 하는 방식으로 동의를 수집하기 위해 현재 많은 사이트가 수행하는 작업을 보여줍니다.
이런 식으로 동의가 수집되면 가정합니다. (큰 미리보기)

위에 주어진 예는 일반적인 와이어프레임이지만 우리 모두가 이와 같은 패턴과 보다 구체적인 유형의 데이터 수집과 관련된 유사한 패턴을 보았기 때문에 이 작업을 선택했습니다. 특정 예를 나열할 수는 있지만 목록은 영원히 계속될 것이며 이러한 패턴(및 기타 매우 유사한 패턴)은 인터넷의 거의 모든 단일 웹사이트 또는 앱에서 찾을 수 있기 때문에 조작 패턴을 보여주는 특정 회사를 나열할 이유가 없습니다. 이런 식으로 동의를 구하는 데는 한 가지 중요한 문제가 있습니다. 소비자는 몇 가지 추가 단계, 많은 읽기 및 종종 훨씬 더 없이 조건 및 서비스를 수락하지 않을 수 있습니다. 동의를 구하는 것은 아니오라고 말할 수 있는 선택지가 필요하고 "아니오"가 최선의 선택인지 여부를 알기 위해서는 소비자가 동의하는 내용을 이해해야 하기 때문에 해결해야 하는 근본적인 결함입니다 . 그러나 제품은 그렇게 만들어지지 않습니다. 왜요? 글쎄, 그것은 비즈니스에 가장 적합합니다.

우리가 정말로 앉아서 이것에 대해 생각한다면, 우리가 수집하는 데이터와 수집 이유를 설명하는 것보다 회사가 앱 사용 방법을 설명하기 위해 스플래시 페이지를 만드는 데 더 많은 시간을 할애한다는 사실을 쉽게 알 수 있지만 인식하지 못하게 됩니다. 왜요? T&S 계약이 이루어지는 방식을 간단히 변경하면 소비자가 무엇에 가입하는지 더 잘 알 수 있을 뿐만 아니라 더 책임감 있는 소비자가 될 수 있습니다 . GDPR이 전 세계에 미친 영향으로 인해 이러한 변경 중 일부가 이미 이루어지고 있음을 알 수 있습니다. 많은 유럽 국가에서 다음과 같은 모달을 통해 동의를 요청하는 것은 드문 일이 아닙니다.

이 이미지에서는 동의의 이점이 인식되었지만 여전히 개선의 여지가 있습니다.
이 이미지에서 동의를 제공하는 이점이 인식되었습니다. (큰 미리보기)

이 첫 번째 예는 앞으로 나아갈 수 있는 좋은 단계입니다. 소비자에게 데이터가 사용되는 용도를 알려주지만 데이터가 어디로 갈 것인지에 대한 투명성이 부족하고 거부 옵션 없이 계약에 우선 순위를 부여합니다. 또한 모든 정보를 단일 텍스트 본문으로 묶어 정보를 훨씬 덜 소화하게 만듭니다.

이것이 어떻게 설계될 수 있는지에 대한 더 나은 예는 현재 많은 유럽 사이트에서 일반적으로 사용되는 아래의 모달과 같습니다.

이 이미지는 일반 데이터 보호 규정(GDPR)을 준수하고 소비자에게 더 나은 옵션을 제공하기 위해 유럽의 여러 사이트에서 동의를 요청하는 방법을 보여줍니다. 그들은 여전히 ​​필요한 것이 아닙니다.
GDPR 준수가 문제가 된 후 더 많은 옵션이 제공되었지만 여전히 개선할 수 있습니다. (큰 미리보기)

이를 통해 소비자는 자신의 데이터가 무엇에 사용될 것인지에 대한 포괄적인 이해를 얻을 수 있으며 소화 가능한 방식으로 데이터를 사용할 수 있습니다. 그러나 동의 후 데이터가 어디로 갈 것인지에 대한 중요한 정보는 여전히 부족합니다. 데이터가 공유되는 위치, 공유 대상 및 해당 계약에 어떤 제한 사항이 있는지에 대한 단서가 없습니다. 이것은 웹에 있는 대부분의 옵션보다 훨씬 낫지만 여전히 개선해야 할 사항이 있습니다.

타사 로그인 프롬프트

예를 들어, 타사 서비스를 사용하여 플랫폼에 로그인할 때 소비자는 다음 사항을 잘 알고 있어야 합니다.

  1. 제3자로부터 어떤 데이터를 가져갈지,
  2. 무엇을 위해 사용되고 있으며 액세스 권한이 없는 경우 경험에 영향을 미칠 수 있습니다.
  3. 다른 사람이 액세스할 수 있거나 액세스할 수 있습니다.

소비자가 제어할 수 있는 방식으로 이를 구현하려면 이 경험을 통해 소비자가 컬렉션의 개별 부분에 동의할 수 있어야 하며 모든 것에 동의하거나 전혀 동의하지 않아도 됩니다.

이 모형은 사이트에서 타사 로그인을 사용할 때 사이트가 동의를 요청할 수 있는 일반적인 버전을 보여줍니다. 여러 변수를 나열하는 것이 좋지 않은 방법과 각 지점에 대해 개별적으로 동의를 요청해야 하는 이유를 보여줍니다.
소비자가 각 지점에서 확인하도록 함으로써 프로세스에 마찰을 더할 뿐만 아니라 콘텐츠를 소화할 수 있는지도 확인합니다. (큰 미리보기)

이것은 T&S를 이해하기 쉽게 만들고 소비자가 회사가 동의하기를 원하는 것이 아니라 진정으로 동의하는 것을 선택할 수 있도록 합니다. 그리고 이것이 진정한 옵트인인지 확인하려면 기본값을 옵트아웃으로 설정해야 합니다. 이것은 동의를 구하는 방식에 극적인 변화를 가져올 작은 변화가 될 것입니다. 오늘날 대부분의 기업은 자신이 진정으로 관심을 갖는 것을 숨기기 위해 이 콘텐츠를 법률 용어 로 덮고 있지만, 이러한 방식으로 동의를 구하는 시대는 빠르게 지나가고 있습니다.

소비자에게 의미 있는 서비스를 제공하고 윤리적으로 제공하는 경우 이러한 변경은 문제가 되지 않습니다. 서비스에 진정한 가치가 있다면 소비자는 귀하의 요청에 저항하지 않을 것입니다. 그들은 믿을 수 있는 사람과 신뢰할 수 없는 사람을 알고 싶을 뿐이며, 이는 귀하의 비즈니스가 신뢰성을 입증하는 데 도움이 될 수 있는 간단한 단계입니다.

단일 및 다중 포인트 데이터 수집 요청

다음으로, 귀하의 플랫폼에 대해 이해할 수 있는 T&S 계약을 생성할 때 애플리케이션 경험 내에서 이것이 보다 맥락적으로 어떻게 작용할 수 있는지 고려해야 합니다. 모든 것을 포기하면 소화되지 않는다는 점을 명심하십시오. 이러한 이유로 소비자가 추가 데이터 계층을 수집해야 하는 서비스의 일부를 사용하려고 할 때 데이터 수집 요청은 상황 에 따라 발생해야 합니다.

이 요청이 어떻게 발생하는지 보여주기 위해 다음은 단일 및 다중 지점 데이터 수집 요청이 어떻게 생겼는지에 대한 몇 가지 예입니다.

이 모형은 데이터의 특정 지점을 사용할 수 있는 권한을 요청할 때 어떻게 보일지 보여줍니다. 여기에는 사람들에게 자신의 데이터가 사용되는 용도, 해당 프로세스에서 중요한 이유를 보여주는 것, 약관 및 서비스에 있는 긴 법적 전문 용어 목록을 읽을 필요 없이 각 개별 지점에 대해 옵트인 또는 옵트아웃할 수 있는 기능이 포함됩니다. 합의.
단일 및 다중 지점 데이터 요청은 현재 서비스 계약 조건의 복잡성을 줄이기 위해 설계할 수 있습니다. (큰 미리보기)

사용자에게 모든 것을 미리 요구하는 대신 T&S를 경험 내에서 소화 가능한 상호 작용 지점으로 나누면 진행 상황과 이유를 더 잘 이해할 수 있습니다. 경험을 개선하는 데 데이터가 필요하지 않은 경우 데이터가 수집되는 이유는 무엇입니까? 그리고 그것이 회사에만 이익이 되는 경솔한 이유로 수집된다면 정직해야 합니다. 그것은 불행히도 현대 세계에서 혁신적이고 진보적인 고객 서비스로 간주되는 기본적인 정직입니다.

이러한 초기 요청의 가장 큰 핵심은 이 중 어느 것도 기본적으로 옵트인되어서 는 안 된다는 것입니다. 모든 초기 트리거는 도구를 사용하는 사람들이 선택하는 경우 옵트인하고 선택하는 경우 옵트인하지 않고 사용할 수 있도록 해야 합니다. 강제 옵트인(또는 더 심한 경우 강제 옵트인)의 시대는 갑자기 멈추고 있으며, 이를 주도하는 사람들은 앞으로도 오랫동안 선두를 유지할 것입니다.

데이터 제어 센터

의미 있는 방식으로 동의를 구하는 것 외에도 소비자에게 사후 데이터를 제어할 수 있는 기능을 제공하는 것도 중요합니다. 데이터를 제어하기 위한 소비자의 액세스는 약관 및 서비스 계약으로 끝나지 않아야 합니다. 계정 제어의 어딘가에는 소비자가 서비스에 시간을 투자한 후 플랫폼에서 데이터를 제어할 수 있는 장소(또는 장소)도 있어야 합니다. 이 영역은 수집되는 데이터, 공유 대상, 제거 방법 등을 보여주어야 합니다.

이 모형은 소비자에게 어떤 데이터가 사용되고 있는지 뿐만 아니라 어디로 가는지 알려주는 데이터 컨트롤을 만드는 방법을 보여주고 소비자가 안전하다고 느끼는 방식으로 데이터 흐름을 친밀하게 제어할 수 있도록 합니다.
지금 우리는 종종 데이터를 다운로드할 수 있지만 일반적으로 데이터를 제어할 수 없거나 거의 없습니다. 이것은 변화할 필요가 있습니다. (큰 미리보기)

완전한 데이터 제어에 대한 아이디어는 믿을 수 없을 정도로 자유로워 보일 수 있지만 미래는 의심의 여지가 없습니다. 그리고 데이터를 생성하는 소비자의 재산으로서 기본적인 인권으로 여겨져야 합니다. 이것이 역사의 이 시점에서 논쟁이 되어야 할 이유가 없습니다. 데이터는 집합적으로 우리 삶의 이야기를 나타내며 결합하면 특히 시스템이 블랙박스로 남도록 허용하는 경우 데이터를 생성하는 사람들에 대해 막대한 힘을 생성합니다. 따라서 이전 섹션에서 논의한 것처럼 소비자에게 데이터에 대한 액세스 권한을 부여하는 것 외에도 소비자가 스스로를 방어할 수 있도록 경험을 더 이해하기 쉽게 만들어야 합니다.

설명 가능한 AI 생성

우리가 원하는 것을 깨닫기도 전에 우리가 원하는 것을 보여주는 제안된 결과를 얻는 것은 놀라운 일이지만, 이는 또한 기계가 아직 혼자 감당할 준비가 되지 않은 강력한 위치에 놓이게 합니다. 기계가 전문가로 자리 잡고 통과할 만큼 지능적인 수준에서 작동하면 대중은 일반적으로 실패할 때까지 기계를 신뢰합니다. 그러나 대중이 이해할 수 없는 방식으로 기계가 고장 나면 인류에 대한 가장 큰 위협 중 하나인 고장에도 불구하고 기계는 전문가로 남게 됩니다.

예를 들어, 누군가가 시각적 검색 도구를 사용하여 식용 버섯과 독버섯의 차이점을 식별하고 기계가 독버섯이 안전하다는 메시지를 받았다는 것을 알지 못했다면 그 사람은 죽을 수 있습니다. 아니면 기계가 법원 사건의 결과를 결정하고 그 결정에 대한 설명을 제공할 필요가 없다면 어떻게 될까요? 또는 더 나쁜 것은 이러한 기술이 군사적 목적으로 사용되고 치명적인 무력을 사용할 수 있는 권한이 부여되면 어떻게 됩니까? 마지막 상황은 극단적으로 들릴지 모르지만 현재 유엔 내에서 논의되고 있는 문제입니다.

대중이 배후에서 무슨 일이 일어나고 있는지 이해할 수 있도록 하려면 DARPA에서 설명 가능한 인공 지능(XAI)이라고 부르는 것, 즉 기계가 결정을 내리는 방법과 이러한 작업이 달성된 정확성을 설명하는 도구를 만들어야 합니다. 이것은 영업 비밀을 누설하는 것이 아니라 소비자가 이러한 기계를 신뢰할 수 있고 오류가 발생할 경우 스스로를 방어할 수 있다고 느끼게 하는 것입니다.

인공 지능을 기반으로 하지는 않지만 이것이 어떻게 생겼는지에 대한 좋은 예는 사람들이 신용 점수를 더 잘 이해할 수 있도록 하는 CreditKarma입니다. 과거에는 알고리즘처럼 숨겨져 있던 시스템입니다. 이 도구를 통해 소비자는 배후에서 일어나는 일을 더 잘 이해하고 시스템이 실패했다고 생각하는 경우 결과의 합법성에 대해 토론할 수 있습니다. 지도의 Google 경기 점수 및 프로그램의 Netflix 퍼센트 경기와 같은 시스템으로 유사한 도구가 만들어지고 있지만 이러한 시스템은 설명 가능한 AI의 표면을 긁기 시작했습니다.

이미지에는 결정을 설명하는 시스템을 만드는 방법을 보여주기 위해 Google 지도 및 Netflix의 스크린샷이 포함되어 있습니다. 둘 다 좋은 첫 단계이지만 개선해야 할 점이 많습니다.
여기서 우리는 기계의 결정을 매우 피상적인 수준에서 설명하려고 시도하는 시스템을 봅니다. 이것은 좋은 시작이지만 더 나은 것이 필요합니다. (큰 미리보기)

이러한 노력에도 불구하고 오늘날 대부분의 알고리즘은 회사가 우리가 원한다고 생각하는 것을 기반으로 우리의 경험을 결정합니다. 그러나 소비자는 더 이상 대형 상장 기업에 의해 보이지 않게 통제되어서는 안 됩니다. 소비자는 자신의 알고리즘을 제어할 권리가 있어야 합니다 . 이것은 경험의 어떤 부분에 어떤 변수가 사용되는지, 각 변수의 가중치를 변경하면 경험에 어떤 영향을 미치는지 알려주고 필요에 맞을 때까지 조정할 수 있는 기능을 제공하는 것과 같이 간단할 수 있습니다. 그들이 선호하는 경우 알고리즘을 완전히 끕니다. 이것이 유료 기능인지 무료 기능인지는 여전히 논쟁의 여지가 있지만 논쟁의 여지가 없는 것은 이 자유를 제공해야 하는지 여부입니다.

이 모형은 개인 소유 또는 상장 기업의 손에 통제가 맡겨지는 대신 소비자가 스스로 사용하고 통제할 수 있는 방식으로 스스로를 설명하는 인공 지능을 만드는 방법을 보여줍니다.
알고리즘 제어는 비즈니스의 미래가 될 것입니다. 광고에만 의존하지 않고 서비스 수익을 창출할 수 있는 방법이 될 수 있을까요? 무료여야 합니까? (큰 미리보기)

위의 예는 일반적인 제안이지만 보다 구체적인 상황에서 경험을 만드는 방법을 상상하기 시작합니다. 소비자에게 데이터, 데이터 사용 방식, 데이터가 삶에 미치는 영향을 이해할 수 있는 능력을 제공함으로써 소비자가 자신의 자유를 통제할 수 있는 시스템을 설계할 것입니다.

그러나 이러한 변경이 아무리 잘 이루어지더라도 사람들에게 개인 정보를 더 잘 제어할 수 있게 해준다고 해서 자동으로 소비자에게 더 안전한 환경이 보장되는 것은 아님을 알아야 합니다. 사실, 그것은 상황을 악화시킬 수 있습니다. 연구에 따르면 사람들에게 데이터를 더 잘 제어할 수 있으면 실제로 더 민감한 정보를 제공할 가능성이 높아 집니다. 그리고 소비자가 해당 데이터가 어떻게 사용될 수 있는지 알지 못한다면(이 데이터가 공유되는 위치를 알고 있더라도) 이는 소비자를 위험에 빠뜨립니다. 이러한 의미에서 소비자에게 데이터를 더 잘 제어할 수 있게 하고 인터넷을 더 안전하게 만드는 것은 스니커즈에 영양 라벨을 붙이고 캔디바가 덜 살찌게 만들 것으로 기대하는 것과 같습니다. 그렇지 않을 것이고, 사람들은 여전히 ​​그것을 먹을 것입니다.

나는 소비자가 더 나은 개인 정보 보호 통제와 더 큰 투명성에 대한 기본적인 권리가 있다고 믿지만 데이터에 정통한 기술자로서 더 나은 시스템을 구축할 뿐만 아니라 대중이 인터넷 안전을 이해하도록 돕는 것도 우리의 임무라고 믿습니다. 따라서 이를 통합하는 마지막 단계는 통제가 모든 소비자에게 필요한 것은 아니라는 사실을 인식하는 것입니다. 또한 백엔드에서 일어나는 일과 그 이유를 이해해야 합니다. 이것은 반드시 소스 코드를 제공하거나 IP를 제공하는 것을 의미하지는 않지만 최소한 안전 문제로 기본 수준에서 무슨 일이 일어나고 있는지 이해하기에 충분한 정보를 제공해야 합니다 . 그리고 이것을 달성하기 위해 우리는 우리의 스크린 너머로 나아가야 할 것입니다. 우리는 우리의 일을 지역 사회로 확장하고 그 미래를 만드는 데 도움을 주어야 합니다.

추천 자료 : 디자인 윤리: 디자인에 대한 윤리적 이해의 전환

변화를 장려하다

개인 정보 보호를 포기하는 것은 기술 세계에 존재하는 독점, 이것이 왜 그렇게 위험한지에 대한 소비자의 오해, 재정 수익과 관련된 전술적 솔루션의 부족으로 인해 인구가 갇힌 것입니다. 그러나 이것은 해결해야 할 문제입니다. 버락 오바마는 행정부의 인터넷 개인 정보 보호에 대한 우려 요약에서 다음과 같이 언급했습니다.

“한 가지 분명한 사실은 우리가 과거보다 개인 정보를 더 자유롭게 공유하는 세상에 살고 있지만 프라이버시가 시대에 뒤떨어진 가치라는 결론을 거부해야 한다는 것입니다. 그것은 처음부터 우리 민주주의의 핵심이었고 우리는 그 어느 때보다 지금 그것을 필요로 합니다.”

신뢰할 수 있고 안전한 데이터 공유 경험을 만드는 것은 앞으로 수십 년 동안 세계가 직면하게 될 가장 큰 과제 중 하나가 될 것입니다.

페이스북의 주가가 개인정보 보호 노력에 다시 집중하겠다고 발표한 후 하루 만에 19% 하락한 것을 보면 이러한 변경이 얼마나 어려운지 알 수 있습니다. 이는 최근 단기 수익 성장에 초점을 맞춘 투자자들이 기업이 더 나은 전략을 구현해야 하는 시급함을 알고 있지만 대중이 비즈니스에 의문을 제기하기 시작할 경우 수반되는 비용 을 깨닫기 때문입니다. .

그 과정이 쉽지는 않을 것이지만(그리고 많은 경우 고통스러울 수 있음), 우리 모두는 프라이버시가 기술의 연약한 하층부라는 것과 그것을 바꿀 때라는 것을 알고 있습니다. 오늘 내린 결정은 장기적으로 큰 결실을 맺을 것입니다. 지난 10여 년 동안 성장의 비즈니스를 지배하게 된 단기적인 분기별 사고방식과는 극명한 차이입니다. 따라서 이러한 문제를 모든 이해 관계자의 우선 순위로 만들 수 있는 창의적인 방법을 찾는 것은 기업과 정책 입안자 모두에게 필수적인 것으로 간주되어야 하며, 이는 기술자로서의 우리의 역할이 이사회 이상으로 확장되어야 함을 의미합니다.

예를 들어, 이 기사에서 제기된 숫자와 문제에 대해 논의하는 것 이상으로 이러한 변경을 장려하는 좋은 방법은 시스템 개선에 많은 예산을 할당하는 회사에 대한 세금 감면을 통하는 것입니다. 회사 문화에서 개인 정보 보호 및 보안을 최우선 순위로 삼는 데 도움이 되도록 직원을 위한 정기 교육 또는 워크샵을 제공 하기로 결정한 회사에는 휴식 시간이 주어질 수 있습니다. 공격이 발생하기 전에 시스템의 허점을 찾기 위해 전문 해커를 고용하는 회사에 제공될 수 있습니다. 그들은 소비자에게 이익이 되는 방식으로 비즈니스 관행을 재구성하는 데 많은 시간을 할당하는 사람들에게 주어질 수 있습니다. 그런 의미에서 이러한 인센티브는 친환경을 실천하는 기업에 주어지는 세제혜택과 별반 다르지 않을 것이다.

세금 감면에 대한 아이디어가 일부 사람들에게는 터무니없게 들릴 수 있지만, 이와 같은 인센티브는 현재 처리되는 방식보다 더 적극적인 솔루션이 될 것입니다. "Google이 Android 독점 금지 위반으로 EU로부터 기록적인 50억 달러의 벌금을 부과했습니다."라는 헤드라인을 읽는 것은 기분이 좋을 수 있지만, 이와 같은 벌금은 해당 회사 수익의 극히 일부에 불과하다는 점을 염두에 두어야 합니다. 이것을 대부분의 경우 결론을 내리는 데 몇 년 또는 수십 년이 걸리고 그 비율은 점점 더 작아진다는 사실과 결합하십시오. 이를 고려하여 세금 감면에 대한 아이디어는 다른 관점에서 접근할 수 있습니다. 즉, 이전에 태만한 행동에 대한 보상이 아니라 관련된 모든 사람에게 최상의 이익이 되는 방식으로 공공 안전을 향상시키는 것입니다 . 회사가 불법 행위를 계속하면서 법원 사건을 정리할 수 있도록 하는 현재 시스템을 유지하는 것은 법이 전혀 없는 것보다 더는 아니더라도 위험합니다.

이 글을 재미있게 읽었고 다른 사람들도 이 글을 읽어야 한다고 생각한다면 널리 알려주세요.

이 기사는 인터넷 안전에 관한 기사 시리즈의 시작입니다. 이 기사에서는 기술자로서 우리가 구축하고 있는 비즈니스를 변경하고 생성할 수 있도록 윤리적인 디자인 패턴에 재정 번호를 적용하기 위해 노력할 것입니다. 인터넷으로 연결된 경험의 개발을 둘러싼 더 나은 문화.