Tasarımla Gizlilik: Gizlilik Nasıl Satılır ve Değişiklik Yapılır

Yayınlanan: 2022-03-10
Kısa özet ↬ Gizlilik, İnternet'in en yanıltıcı ve en az anlaşılan konularından biri haline gelen temel bir insan hakkıdır. Ancak, değişim zamanı geliyor. Bu makale, bu değişiklikleri yapmanın işinizin başarısı için neden bu kadar kritik olduğunu ve yapılması gereken değişiklikleri aynı zamanda kârlılığınızı da olumlu yönde etkileyecek şekilde nasıl yapabileceğinizi tam olarak açıklayacaktır.

Gizlilik, gerçek benliğimiz olmamızı sağlayan temel bir insan hakkıdır. Utanmadan tuhaf olmamızı sağlayan şey bu. Sonuç olmadan muhalif görüşlere sahip olmamızı sağlar. Ve nihayetinde, özgür olmamızı sağlayan şeydir. Bu nedenle birçok ülkenin mahremiyetle ilgili katı yasaları vardır. Bununla birlikte, bu ortak anlayışa rağmen, İnternette mahremiyet bugüne kadar en az anlaşılan ve tam olarak tanımlanmayan konulardan biridir, çünkü çok çeşitli konuları kapsar, birçok farklı biçimde şekillenir ve bu da tanımlanmasını ve tartışılmasını inanılmaz derecede zorlaştırır. . Ancak, bu belirsizliği çözmeye çalışmak istiyorum.

Amerika Birleşik Devletleri'nde birinin postasını açmak federal bir suçtur. Bu, bir kişiyi beş yıla kadar hapis cezasına çarptırabilecek mahremiyet ihlali olarak kabul edilir. Metaforik olarak konuşursak, İnternette yarattığımız her veri parçası - fotoğraf, video, metin veya başka bir şey - bir paket posta olarak düşünülebilir. Ancak, postalarımızı gerçek hayatta açmaktan farklı olarak, İnternet şirketleri yasal olarak sistemleri üzerinden teslim edilen her posta parçasını yasal olarak açabilmektedir. Ayrıca, kopyalarını da yapabilirler. Bu şirketlerin yaptıkları, postalarımızı açan, Kinkos'ta kopyalayan, sonra üzerinde adımız yazan bir dosya dolabında saklayan ve parasını ödemek isteyen herkesle paylaşan biriyle karşılaştırılabilir. O dosya dolabını açmak mı yoksa bazı kopyaları silmek mi istiyorsunuz? Çok kötü. Postalarımız şu anda onların mülkü olarak kabul ediliyor ve nasıl kullanılacağı üzerinde neredeyse hiçbir kontrolümüz yok .

Halkın posta servisinin postalarını rehin tuttuğunu ve bunu ödemeye razı olan kişiye sattığını öğrendiğinde yaşayacağı öfkeyi hayal edebiliyor musunuz? İnternetteki verilerde olan da bundan farklı değil ve artık bunun değişme zamanı geldi.

Bunun olması sadece bir etik meselesi olmaktan öte, bir temel insan hakları meselesidir.

Yapılması gereken değişiklikleri (düzenlemeler tarafından zorunlu kılınmadan) yapmakla ilgili sorun, konulara dolar işareti koymaktır. Tüketici mahremiyet standartlarını iyileştirmek için 20.000 saatlik bir mühendislik yatırımının finansal getirisi nedir? Tüketiciler bu değişiklikleri talep ediyor mu? Çünkü eğer mali bir getirisi yoksa ve tüketiciler bunu talep etmiyorsa, o zaman neden değişiklik yapsın ki? Ve öyle olsalar ve bir getirisi olsa bile, 20.000 saatlik yatırım neye benziyor? Ürün yol haritasına ne ve ne zaman konulacak? Bunların tümü, etkili bir şekilde ilerlememize yardımcı olmak için ele alınması gereken geçerli endişelerdir . Öyleyse tartışalım.

Önerilen okumalar : Web Tasarımında Etik Kullanımı

Atlamadan sonra daha fazlası! Aşağıdan okumaya devam edin ↓

Tüketiciler İstiyor mu?

Bu sorunun cevabı zor bir evet. Pew Araştırma Merkezi'nin bulguları, Amerika Birleşik Devletleri'ndeki yetişkinlerin yüzde 90'ının kendileri hakkında toplanan bilgileri kontrol etmelerinin önemli olduğuna inandığını, yüzde 93'ünün bu bilgilere kimlerin erişebileceğini kontrol edebilmelerinin önemli olduğuna inandığını ve yüzde 86'sının dijital ayak izlerini kaldırmak veya maskelemek için adımlar attı. Doteherkes'in 2018 Dijital Tutumlar raporunda Avrupalılar hakkında benzer sayılar keşfedildi. Bu rakamlara rağmen, yüzde 59'u hala çevrimiçi ortamda anonim kalmanın imkansız olduğunu düşünüyor, yüzde 68'i mevcut yasaların mahremiyetlerini korumak için yeterli olmadığına inanıyor ve sadece yüzde 6'sı devlet kurumlarının kendilerini güvende tutabileceğinden “çok emin”.

Şimdi, ne düşündüğünü biliyorum. Bu tüketici talebidir ve bu tüketiciler eski ürünleri geride bırakmaya başlayana kadar herhangi bir değişiklik yapmak için mali bir neden yoktur. Ve (mantığınıza katılmasam da) haklısınız. Şu anda herhangi bir değişiklik yapmak için çok az mali neden var. Ancak, tüketici talebi kritik bir kitleye ulaştığında işler her zaman değişir. Ve değişim talep edilmeden öncülük eden işletmeler uzun vadede her zaman kazanır. Her zaman en büyük acıyı hissetmek zorunda kalana kadar bir değişiklik yapmayı reddedenler . Tarih bunun doğru olduğunu gösteriyor. Ama işi bu kadar değiştirecek olan mevzuatta ne olacak? Harika soru.

Düzenleme yoluyla dünya genelinde veri koruma ve gizlilik standartlarına ne olacak, tüketicilerin spam e-postalardan koruma talep ettiği ve bunun sonucunda Amerika Birleşik Devletleri'nde CAN-SPAM Yasası ile sonuçlanan on yıldan daha kısa bir süre önce meydana gelenden çok farklı olmayacak. - ama çok daha büyük ölçekte ve katlanarak daha büyük etkiyle. Tüketicilerin spam e-posta almaktan bıkması nedeniyle oluşturulan bu mevzuat, ticari e-posta için kurallar belirledi, ticari mesajlar için gereksinimler belirledi, alıcılara bireylere ve şirketlere e-posta göndermeyi durdurma hakkı verdi ve ihlaller için ağır cezalar verdi. Tüketicilerin ne kadar kötü bir şekilde aldatıldıklarını anlamaya başladıkları bir döneme girerken (yıllardır insanlara verilerinin tam kontrolünü vermek, şüphesiz veri toplamanın geleceği olacaktır) - bu ister özgür irade ister yasalar yoluyla olsun. Ve ilk hareket etmeyi seçenler kazanacak. Bana inanmıyor musun?

Mühendislerin yazdıkları kod için yasal olarak başının belaya girebileceğini bir düşünün. Diğerlerinin yanı sıra Apple Watch, Alexa ve FitBit verileri mahkemede delil olarak kullanılmış ve bu verilerin tüketici algısını değiştirmiştir. Microsoft ve Amerika Birleşik Devletleri Yüksek Mahkemesi, bu yılın başlarında bulut tabanlı suç faaliyetlerinde fiziksel sınırların nereye uzandığını belirlemek için mahkemeye gitti, bu uzun bir mücadelenin başlangıcı olacak. Bu örnekler, olacaklara sadece bir bakış. İnsanlar daha fazlasını talep ediyor ve biz de taşma noktasına ulaşıyoruz.

Bu talebe yanıt vermek için ilk adımları atan, GDPR'yi kuran AB'dir ve şimdi diğer ülkelerdeki politika yapıcılar, siber geleceğimizi tanımlamak için ülkelerindeki yasalar üzerinde çalışarak davayı takip etmeye başlıyor. Örneğin, Amerika Birleşik Devletleri Senatosu İstihbarat Komitesi Başkan Yardımcısı Mark Warner, kısa bir süre önce, yasaların yakında Amerika Birleşik Devletleri'nde nereye gideceğini gösteren bir özet raporda bazı fikirleri ortaya koydu. Ancak bunun gelecek olduğuna inananlar sadece ilericiler değil; Steve Bannon gibi sağcı kişiler bile düzenlemeye ihtiyacımız olduğunu düşünüyor.

Gördüğümüz, inanılmaz manipülasyona karşı insani bir tepki. Önceki nesillere kıyasla ne kadar evcilleşmiş olursak olalım, insanlar tehdit edildiklerini hissettiklerinde her zaman geri adım atacaklar. Binlerce yıl hayatta kalmamıza izin veren doğal bir tepki. Günümüzde teknoloji, tüketiciye yönelik bir endüstriden daha fazlası haline geldi. Artık aynı zamanda bir ulusal güvenlik meselesi haline geliyor . Ve bu sebeple beğensek de beğenmesek de bir tepki olacaktır. Halının altına süpürmek yerine hazırlanmak için bir strateji ile çıksak daha iyi olacak. Peki, sorduğunuz finansal getiri nedir? Peki, işinizin değeri ne kadar? Bu kadar.

Önerilen okuma : GDPR Geliştirme Şeklinizi Nasıl Değiştirecek?

Tam olarak neyin ve neden ele alınması gerektiğine dair basit bir çerçeve için, dijital sistemlerin yaratılmasında temel olarak birkaç gerçeği tutabiliriz:

  1. Gizlilik, reaktif değil proaktif olmalı ve gizlilik sorunlarını kullanıcıya ulaşmadan önce öngörmelidir.
    Bu sorunlar, bir sorun ortaya çıktıktan sonra ele almak istediğimiz sorunlar değil, mümkünse tamamen önlemek istediğimiz sorunlardır.
  2. Gizlilik varsayılan ayar olmalıdır.
    Gizlilikle ilgili olarak “iş için en iyisi” seçeneği yoktur; bu, tüketici için en iyi olan ve uzun vadede işletme için daha iyi olacak olan bir konudur. Public by Default'un halka açıklandığı Ağustos 2018'de Paypal ve Venmo'nun başına gelenler aracılığıyla, zorlayıcı kusurlar halka ifşa edildiğinde ne olduğunu görebiliriz ve markaya bir miktar kötü baskı getirir. Bir değişiklik yapmadan önce kötü bir şey olmasını bekleyen işletmelere bundan daha fazlası geleceğinden emin olabilirsiniz.
  3. Gizlilik pozitif toplam olmalı ve ikilemlerden kaçınmalıdır.
    Mahremiyetle kurulacak ikili bir ilişki yoktur; sürekli gözetim ve sürekli yineleme gerektiren sonsuza kadar şekillendirilebilir bir konudur. İşimiz şartlar ve hizmet sözleşmesiyle bitmez, sonsuza kadar sürer ve ürününüzün ürünle birlikte gelişen ve tüketicilerin kendilerini korumalarını sağlayan temel bir unsur olarak kabul edilmelidir - anlayış eksikliklerinden yararlanan değil.
  4. Gizlilik standartları görünür, şeffaf, açık, belgelenmiş ve bağımsız olarak doğrulanabilir olmalıdır.
    Gizlilik standartlarınız için bir turnusol testi tanımlamanın harika bir yolu yoktur, ancak iş adamları olarak kendimize sormamız gereken birkaç soru vardır: Birincisi, eğer basın gizlilik sözleşmenizi yayınlarsa, anlaşılır olur mu? İkincisi, eğer anlaşılır olsaydı, tüketiciler okuduklarından zevk alır mıydı? Ve son fakat en az değil, değilse, neyi değiştirmeniz gerekiyor?

Bu ilkeler, ürünler üretilirken ve gelişirken akılda tutulması gereken çok değerli temeller olacaktır. Bunlar, kendinize ve ekibinize sormanız için iyi bir etik temele sahip olmanızı sağlayacak hızlı ve kolay soruları temsil eder, ancak yasal temeller hakkında daha uzun bir yazı için, geçen yıl Smashing'de birkaç ek ilkenin ana hatlarını çizen Heather Burns'den daha fazlasını okuyabilirsiniz. Ayrıca Gizlilik Etkisi Değerlendirmesi (PIA) sırasında incelenecek şeylerin tam listesi için değerlendirmelerin aşağıdakilere göre nasıl yapıldığını da kontrol edebilirsiniz:

  • Birleşik Krallık Bilgi Komisyonu Ofisi (ICO)
  • Kanada Gizlilik Komiseri Ofisi
  • Amerika Birleşik Devletleri İç Güvenlik Bakanlığı

Ancak, ürününüzde değişiklik yapmak için acele etmeden önce, vahşi doğada mevcut bazı kusurlara işaret edelim ve uygun şekilde uygulandıklarında değişikliklerin nasıl görünebileceği hakkında konuşalım.

Nasıl Değişiklik Yapılır?

ABD gizlilik uygulamalarıyla ilgili en büyük sorunlardan biri, mahremiyetin tanımlanmasında önemli bir rol oynayan ancak bunu çok kötü yapma eğiliminde olan hüküm ve hizmet sözleşmelerini (T&S) anlamanın ne kadar zor olduğudur. Şu anda kullanıcılar, neyi kabul ettiklerini anlamayı umuyorlarsa, yasal dil ve teknik jargonla dolu uzun belgeleri okumak zorunda kalıyorlar. Bir çalışma, ortalama bir kişinin karşılaştığı her gizlilik politikasını yıllık bazda okumasının yılda yaklaşık 201 saat (yaklaşık on gün) alacağını göstermiştir. Araştırmacılar, bu kaybedilen zamanın değerinin yılda yaklaşık 781 milyar dolar olacağını tahmin ediyor, bu da tüketicileri koruması gereken kurallar -kolay ve sindirilebilir olduğu söylenen kurallar- düşünüldüğünde kabul edilemezin ötesinde. Bu, tüketicileri, neye bulaştıklarını gerçekten anlamadan tercih etmeye zorlandıkları bir konuma getirir. Ve çoğu durumda, zorlayıcı olan yasal dil bile değil, çeşitli deneyimlerde açıkça kanıtlandığı gibi, genel olarak seçeneklerin sunulma şeklidir:

Bu görüntü, şu anda birçok sitenin, rıza varsayacak şekilde rıza toplamak için ne yaptığını ve tüketicinin tehlikeli bir şekilde anlaşmaya varmasını sağladığını göstermektedir.
Rıza bu şekilde toplandığında varsayılır. (Büyük önizleme)

Yukarıda verilen örnek genel tel çerçevedir, ancak bunu yapmayı seçtim çünkü hepimiz bunun gibi ve bunun gibi daha spesifik veri türlerinin toplanmasıyla ilgili diğer modelleri gördük. Belirli örnekleri sıralayabilirim, ancak liste sonsuza kadar devam eder ve manipülatif modeller sergileyen belirli şirketleri listelemek için hiçbir neden yoktur çünkü bu modeller (ve diğer çok benzer modeller) İnternet'teki hemen hemen her web sitesinde veya uygulamada bulunabilir. Bu şekilde izin istemekle ilgili büyük bir sorun var: Tüketicilerin birkaç ekstra adım, çok fazla okuma ve genellikle çok daha fazlası olmadan şartları ve hizmetleri kabul etmelerine izin verilmez. Bu, ele alınması gereken temel bir kusurdur çünkü onay istemek, hayır deme seçeneğinin olması gerektiği anlamına gelir ve “hayır”ın en iyi seçenek olup olmadığını bilmek için tüketicilerin neye rıza gösterdiklerini anlamaları gerekir. Ancak ürünler bu şekilde üretilmez. Niye ya? İş için en iyisi.

Gerçekten oturup bunun hakkında düşünürsek, görmesi kolay ama farkına varılmamış olan şey, şirketlerin uygulamanın nasıl kullanılacağını açıklamak için açılış sayfaları oluşturmaya, hangi verilerin ve neden toplandığını açıklamaya harcadığımızdan daha fazla zaman harcamasıdır. Niye ya? T&S anlaşmalarının yapılma biçimindeki basit değişiklikler, tüketicileri yalnızca neye imza attıkları konusunda daha bilinçli kılmakla kalmaz, aynı zamanda daha sorumlu tüketiciler olmalarına da olanak tanır . GDPR'nin dünya genelinde sahip olduğu etki nedeniyle bu değişikliklerden bazılarının halihazırda yapıldığını görebiliyoruz. Birçok Avrupa ülkesinde, aşağıdaki gibi yöntemler aracılığıyla rızanın istenmesi alışılmadık bir durum değildir:

Bu resimde, rıza vermenin faydaları kabul edildi, ancak hala iyileştirme için yer var.
Bu resimde, rıza vermenin faydaları tanınmıştır. (Büyük önizleme)

Bu ilk örnek, ileriye doğru atılmış iyi bir adımdır. Tüketiciye verilerinin ne için kullanılacağını söyler, ancak verilerin nereye gideceği konusunda şeffaflıktan yoksundur ve reddetme seçeneği olmadan anlaşmaya öncelik verir. Ayrıca her şeyi tek bir metin gövdesinde sıkıştırarak bilgiyi daha az sindirilebilir hale getirir.

Bunun nasıl tasarlanabileceğine daha iyi bir örnek, şu anda birçok Avrupa sitesinde yaygın olan aşağıdaki modal gibidir:

Bu görüntü, Genel Veri Koruma Yönetmeliği'ne (GDPR) uymak ve tüketicilere daha iyi seçenekler sunmak için Avrupa'daki birçok sitede nasıl onay istendiğini gösterir. Yine de ihtiyaçları olan şey bu değil.
GDPR uyumluluğu bir sorun haline geldikten sonra daha birçok seçenek sunuldu ancak yine de iyileştirmeler yapılabilir. (Büyük önizleme)

Bu, tüketicilere verilerinin ne için kullanılacağına dair kapsamlı bir anlayış sağlar ve bunu sindirilebilir bir şekilde yapar. Bununla birlikte, verilerin onaylandıktan sonra nereye gideceği konusunda hala önemli bir bilgiden yoksundur. Verilerinin nerede paylaşılacağı, kiminle paylaşılacağı ve bu anlaşmalarda ne gibi sınırlamalar olduğu konusunda tek bir ipucu yok. Bu, web'deki seçeneklerin çoğundan çok daha iyi olsa da, hala yapılması gereken iyileştirmeler var.

Üçüncü Taraf Giriş İstemi

Örneğin, platformunuzda oturum açmak için bir üçüncü taraf hizmeti kullanırken tüketiciler aşağıdakilerden haberdar olmalıdır:

  1. Üçüncü taraftan hangi verilerin alınacağı;
  2. Ne için kullanıldığı ve erişiminiz yoksa deneyimlerini nasıl etkileyebileceği;
  3. Başka kimin buna erişimi var veya olabilir.

Bunu tüketiciye kontrol verecek şekilde uygulamak için, bu deneyim aynı zamanda tüketicilerin koleksiyonun tek tek parçalarını seçmelerine izin vermeli, her şeyi ya da hiçbir şeyi kabul etmeye zorlanmamalıdır.

Bu model, bir sitenin kendi sitesinde 3. taraf oturum açma bilgilerini kullanırken nasıl izin isteyebileceğinin genel bir sürümünü gösterir. Bir grup değişkeni listelemenin nasıl iyi olmadığını ve neden her bir nokta için ayrı ayrı onay istememiz gerektiğini gösteriyor.
Tüketicileri her noktada kontrol etmeye zorlayarak sürece sürtünme katıyor, evet, ancak içeriğin sindirilebilir olmasını da sağlıyor. (Büyük önizleme)

Bu, T&S'yi sindirilebilir hale getirecek ve tüketicilerin, şirketin kabul etmelerini istediği şeyi değil, gerçekten kabul ettiklerini seçmelerine izin verecektir. Ve gerçekten etkinleştirildiğinden emin olmak için varsayılan, devre dışı bırak olarak ayarlanmalıdır. Bu, rızanın istenme biçiminde dramatik bir fark yaratacak küçük bir değişiklik olacaktır. Bugün çoğu şirket, gerçekten ilgilendiklerini gizlemek için bu içeriği yasal jargonla örtüyor , ancak bu şekilde izin isteme günleri hızla sona eriyor.

Tüketicilere anlamlı bir hizmet sunuyorsanız ve bunu etik olarak yapıyorsanız, bu değişiklikler sorun olmamalıdır. Hizmetin gerçek bir değeri varsa, tüketiciler isteğinize direnmeyeceklerdir. Sadece kime güvenebileceklerini ve güvenemeyeceklerini bilmek istiyorlar ve bu, işletmenizin güvenilirliğini kanıtlamasına yardımcı olabilecek basit bir adımdır.

Tek ve Çok Noktalı Veri Toplama Talepleri

Ardından, platformunuz için anlaşılır T&S anlaşmaları oluşturmaya gelince, bunun uygulama deneyimi içinde bağlamsal olarak nasıl gerçekleşebileceğini düşünmemiz gerekiyor. Hepsi önceden verilirse, bunun sindirilemez olduğunu unutmayın. Bu nedenle, veri toplama talebi, tüketici hizmetinizin ekstra bir veri katmanının toplanmasını gerektiren kısmını kullanmak üzereyken, bağlamsal olarak gerçekleşmelidir .

Bu sorunun nasıl oluşabileceğini göstermek için, tek ve çok noktalı veri toplama isteğinin nasıl görünebileceğine dair birkaç örnek:

Bu maketler, belirli veri noktalarını kullanmak için izin istendiğinde nasıl görünebileceğini gösterir. Bu, insanlara verilerinin ne için kullanıldığını, bu süreç için neden önemli olduğunu göstermeyi ve şartlar ve hizmette uzun bir yasal jargon listesini okumak zorunda kalmadan her bir noktayı kabul etmelerine veya devre dışı bırakmalarına izin vermeyi içerir. anlaşma.
Tek ve çok noktalı veri talepleri, mevcut hizmet şartları sözleşmelerinin karmaşıklığını azaltmak için tasarlanabilir. (Büyük önizleme)

Kullanıcıdan her şeyi önceden istemek yerine T&S'yi deneyim içinde sindirilebilir etkileşim noktalarına bölmek, neler olup bittiğini ve nedenini daha iyi anlamalarını sağlar. Deneyimi geliştirmek için verilere ihtiyacınız yoksa neden toplanıyor? Ve sadece şirkete fayda sağlayan anlamsız nedenlerle toplanıyorsa, dürüst olun. Bu, ne yazık ki modern dünyada devrim niteliğinde, ilerici müşteri hizmetleri olarak kabul edilen temel dürüstlüktür.

Bu ilk soruların en büyük anahtarı, bunların hiçbirinin varsayılan olarak etkinleştirilmemesi gerektiğidir . Tüm ilk tetikleyiciler, aracı kullanan kişilere isterlerse kaydolma ve isterlerse seçmeden kullanma olanağı vermelidir. Zorunlu katılım (veya daha da kötüsü, zorunlu katılım) günleri aniden durma noktasına geliyor ve öncülük edenler uzun bir süre grubun önünde kalacak.

Veri Kontrol Merkezi

Anlamlı bir şekilde onay istemenin ötesinde, tüketicilere verilerini sonradan kontrol etme yeteneği vermemiz de önemli olacaktır. Tüketicilerin verilerini kontrol etme erişimi, şartlar ve hizmet sözleşmesiyle sona ermemelidir. Hesap kontrollerinde bir yerde, tüketicilerin hizmete zaman harcadıktan sonra verilerini platformda kontrol edebilecekleri bir yer (veya yerler) olmalıdır. Bu alan onlara hangi verilerin toplandığını, kiminle paylaşıldığını, bunları nasıl kaldırabileceklerini ve çok daha fazlasını göstermelidir.

Bu maket, tüketiciye yalnızca hangi verilerin kullanıldığını değil, nereye gittiğini de bildiren veri kontrolleri oluşturmanın yolunu gösterir ve tüketicilerin bu veri akışlarını kendilerini güvende hissedecekleri bir şekilde yakından kontrol etmelerini sağlar.
Artık verilerimizi sık sık indirebilsek de, genellikle üzerinde hiç kontrolümüz yok veya çok az kontrolümüz var. Bunun değişmesi gerekiyor. (Büyük önizleme)

Tam veri kontrolü fikri inanılmaz derecede liberal görünebilir, ancak geleceğin bu olduğuna şüphe yok. Veriyi oluşturan tüketicinin malı olarak da temel bir insan hakkı olarak kabul edilmelidir. Tarihin bu noktasında bunun tartışılması için hiçbir neden yok. Veriler - toplu olarak - hayatımızın hikayesini temsil eder ve bir araya getirildiğinde, özellikle sistemlerin kara kutu olarak kalmasına izin verirsek, onu yaratanlara karşı büyük miktarda güç yaratır. Bu nedenle, önceki bölümlerde tartıştığımız gibi tüketicilere verilerine erişim sağlamanın ötesinde, tüketicilerin kendilerini savunabilmeleri için deneyimi daha anlaşılır hale getirmemiz gerekecek.

Açıklanabilir Yapay Zeka Oluşturun

Daha istediğimizi bile anlamadan istediğimiz şeyleri bize gösteren önerilen bir sonuç almak inanılmaz olsa da, bu aynı zamanda makineleri henüz tek başlarına desteklemeye hazır olmadıkları güçlü bir konuma getirir. Makineler uzman olarak konumlandırıldığında ve bu şekilde geçecek kadar akıllı bir seviyede performans gösterdiğinde, halk genellikle başarısız olana kadar onlara güvenecektir. Ancak makineler, halkın anlayamadığı şekillerde arızalanırsa, insanlık için en büyük tehditlerden biri olan arızalarına rağmen uzman kalacaklardır.

Örneğin, biri yenilebilir bir mantar ile zehirli bir mantar arasındaki farkı belirlemek için görsel bir arama aracı kullanacaksa ve makinenin onlara zehirli bir mantarın güvenli olduğunu söylediğini bilmiyorsa, o kişi ölebilir. Veya bir makine bir davanın sonucunu belirlediğinde ve kararı için bir açıklama yapması gerekmediğinde ne olur? Ya da daha da kötüsü, bu teknolojiler askeri amaçlarla kullanıldığında ve ölümcül güç kullanma hakkı verildiğinde ne olacak? Bu son durum kulağa aşırı gelebilir, ancak şu anda Birleşmiş Milletler içinde tartışılan bir konudur.

Halkın perde arkasında neler olduğunu anlayabilmesini sağlamak için DARPA'nın açıklanabilir yapay zeka (XAI) dediği şeyi yaratmamız gerekiyor - makinelerin nasıl karar verdiğini ve bu görevlerin ne kadar doğru gerçekleştirildiğini açıklayan araçlar. Bu, ticari sırları vermekle ilgili değil, tüketicilerin bu makinelere güvenebileceklerini ve bir hata olması durumunda kendilerini savunabileceklerini hissetmelerini sağlamakla ilgilidir.

Yapay zekaya dayalı olmamasına rağmen, bunun nasıl görünebileceğine iyi bir örnek, insanların kredi puanlarını daha iyi anlamalarını sağlayan CreditKarma'dır - tıpkı günümüzde algoritmalar gibi gizlenen bir sistem. Bu araç, tüketicilerin perde arkasında neler olduğunu daha iyi anlamalarına ve sistemin başarısız olduğuna inanıyorlarsa sonuçlarının meşruluğunu tartışmalarına olanak tanır. Google'ın Haritalar'daki Maç skoru ve şovlardaki Netflix Percent Match gibi sistemlerle benzer araçlar oluşturuluyor, ancak bu sistemler açıklanabilir AI'nın yüzeyini henüz çizmeye başlıyor.

Görüntü, kararlarını açıklayan bir sistem yapmanın nasıl görünebileceğini göstermek için Google Haritalar ve Netflix'ten ekran görüntüleri içeriyor. Her ikisi de iyi ilk adımlardır, ancak yapılacak çok iyileştirme var.
Burada makinenin kararını çok yüzeysel bir düzeyde açıklamaya çalışan sistemler görüyoruz. Bu iyi bir başlangıç ​​ama daha iyisine ihtiyacımız var. (Büyük önizleme)

Bu çabalara rağmen, günümüzde çoğu algoritma, bir şirketin ne istediğimizi düşündüğüne dayanarak deneyimlerimizi belirler. Ancak tüketiciler artık büyük, halka açık şirketler tarafından görünmez bir şekilde kontrol edilmemelidir. Tüketiciler kendi algoritmalarını kontrol etme hakkına sahip olmalıdır . Bu, deneyimin hangi kısımları için hangi değişkenlerin kullanıldığını ve her bir değişkenin ağırlıklarının değiştirilmesinin deneyimlerini nasıl etkileyeceğini bilmelerini sağlamak kadar basit bir şey olabilir, ardından onlara ihtiyaçlarına uyana kadar ince ayar yapma yeteneği vermek - Algoritmayı tamamen kapatırlar, eğer tercih ettikleri buysa. Bunun ücretli bir özellik mi yoksa ücretsiz bir özellik mi olacağı hala tartışılıyor, ancak tartışılmaz olan bu özgürlüğün sunulup sunulmayacağı.

Mockup, kontrolün özel veya halka açık şirketlerin ellerine bırakılması yerine, tüketicilerin kendilerini kullanabilecekleri ve kontrol edebilecekleri şekilde kendini açıklayan yapay zekayı nasıl yapabileceğimizi gösteriyor.
Algoritma kontrolleri işin geleceği olacak. Bu, yalnızca reklamlara güvenmek yerine hizmet geliri elde etmenin bir yolu olabilir mi? Ücretsiz mi olmalı? (Büyük önizleme)

Yukarıdaki örnek genel bir öneri olsa da, deneyimi daha spesifik durumlarda nasıl yapabileceğimizi hayal etmeye başlar. Tüketicilere verilerini, kullanım şeklini ve bunun hayatlarını nasıl etkilediğini anlama yeteneği vererek, tüketicilere kendi özgürlüklerinin kontrolünü veren bir sistem tasarlamış olacağız.

Ancak, bu değişiklikler ne kadar iyi yapılırsa yapılsın, insanlara mahremiyetlerini daha iyi kontrol etmenin, tüketiciler için otomatik olarak daha güvenli bir ortam anlamına gelmediğini de anlamalıyız. Aslında, işleri daha da kötüleştirebilir. Araştırmalar, insanlara verileri üzerinde daha iyi kontrol vermenin, aslında daha hassas bilgiler sağlamalarını daha olası kıldığını göstermiştir . Ve tüketici bu verilerin nasıl kullanılabileceğinin farkında değilse (nerede paylaşıldığını bilseler bile), bu onları tehlikeye sokar. Bu anlamda, tüketicilere verilerini daha iyi kontrol etmelerini sağlamak ve interneti daha güvenli hale getirmesini beklemek, bir Snickers'a beslenme etiketi koymak ve ondan şekerlemeyi daha az şişmanlatmasını beklemek gibidir. Olmayacak ve insanlar hala onu yiyecek.

Tüketicilerin daha iyi gizlilik kontrolleri ve daha fazla şeffaflık konusunda temel bir hakları olduğuna inansam da, veri okuryazarı teknoloji uzmanları olarak yalnızca daha iyi sistemler oluşturmakla kalmayıp aynı zamanda halkın İnternet güvenliğini anlamasına yardımcı olmanın da bizim işimiz olduğuna inanıyorum. Dolayısıyla, bunu bir araya getirmenin son adımı, kontrolün tüm tüketicilerin ihtiyaç duyduğu şey olmadığı gerçeğine farkındalık getirmektir. Ayrıca arka uçta neler olduğunu ve nedenini anlamaları gerekir. Bu, onlara mutlaka kaynak kodu sağlamak veya IP'lerini vermek anlamına gelmez, ancak en azından güvenlik açısından temel düzeyde neler olup bittiğini anlamak için onlara yeterli bilgiyi sağlamak anlamına gelir. Ve bunu başarmak için ekranlarımızın ötesine geçmemiz gerekecek. Çalışmalarımızı topluluklarımıza yaymamız ve bu geleceği yaratmaya yardım etmemiz gerekecek.

Önerilen okumalar : Etik Tasarlamak: Tasarımda Etik Anlayışı Değiştirmek

Değişimi Teşvik Edin

Mahremiyetten vazgeçmek, teknoloji dünyasında var olan tekeller, tüketicilerin bunun neden bu kadar tehlikeli olduğunu yanlış anlamaları ve mali getirilerle ilişkili taktik çözümlerin eksikliği nedeniyle nüfusun içine düştüğü bir şeydir. Ancak bu, çözülmesi gereken bir sorundur. Barack Obama'nın kendi yönetiminin internet mahremiyetiyle ilgili endişelerinin özetinde belirttiği gibi:

“Bir şey açık olmalı: Kişisel bilgileri geçmişe göre daha özgürce paylaştığımız bir dünyada yaşıyor olsak da, mahremiyetin modası geçmiş bir değer olduğu sonucunu reddetmeliyiz. Başlangıcından beri demokrasimizin kalbinde yer aldı ve buna şimdi her zamankinden daha fazla ihtiyacımız var.”

Güvenilir ve güvenli veri paylaşım deneyimleri yaratmak, önümüzdeki on yıllarda dünyamızın karşı karşıya kalacağı en büyük zorluklardan biri olacak.

Bu değişiklikleri yapmanın ne kadar zor olabileceğinin kanıtı olarak gizlilik çabalarına yeniden odaklanacaklarını açıkladıktan sonra Facebook'un hisselerinin bir günde nasıl yüzde 19 düştüğüne bakabiliriz. Bunun nedeni, yakın zamanda kısa vadeli gelir artışına odaklanan yatırımcıların şirketlerin daha iyi stratejiler uygulamaya ne kadar çok ihtiyaç duyduklarını bilmeleri, ancak aynı zamanda halk bir işletmeyi sorgulamaya başlarsa ortaya çıkan maliyetin de farkında olmalarıdır - ve Facebook'un bunu kabul eden kamuya açık açıklaması koyunları şaşırttı. .

Süreç kolay olmayacak (ve çoğu zaman acı verici olsa da), mahremiyetin teknolojinin yumuşak göbeği olduğunu hepimiz biliyoruz ve bunu değiştirmenin zamanı geldi. Bugün alınan kararlar uzun vadede büyük fayda sağlayacaktır; Son on yılda ya da daha fazla büyümede iş dünyasına hakim olan kısa vadeli, üç aylık zihniyetle büyük bir fark. Bu nedenle, bu sorunları tüm paydaşlar için bir öncelik haline getirmenin yaratıcı yollarını keşfetmek, hem işletmeler hem de politika yapıcılar için gerekli kabul edilmelidir; bu, teknoloji uzmanları olarak işimizin yönetim kurulu odasının ötesine geçmesi gerektiği anlamına gelir.

Örneğin, bu makalede bahsedilen sayıları ve sorunları tartışmanın ötesinde bu değişiklikleri teşvik etmenin harika bir yolu, bütçelerinin büyük bir kısmını sistemlerini geliştirmeye ayıran şirketler için vergi indirimleri olabilir. Gizliliği ve güvenliği şirket kültüründe bir öncelik haline getirmeye yardımcı olmak için personeline düzenli eğitim veya atölye çalışmaları sağlamaya karar veren şirketlere molalar verilebilir. Saldırılar gerçekleşmeden önce sistemlerinde boşlukları bulması için profesyonel bilgisayar korsanları kiralayan şirketlere verilebilirler. İş uygulamalarını tüketicilere fayda sağlayacak şekilde yeniden yapılandırmak için büyük miktarda saat ayıranlara verilebilirler. Bu anlamda bu tür teşvikler, çevre dostu uygulamalar yapan işletmelere verilen vergi indirimlerinden çok da farklı olmayacaktır.

Vergi indirimleri fikri bazılarına çok çirkin gelebilir, ancak bunlar gibi teşvikler, işlerin şu anda yürütülme biçiminden daha proaktif bir çözümü temsil eder. “Google, Android antitröst ihlalleri nedeniyle AB tarafından 5 milyar dolarlık rekor bir para cezasına çarptırıldı” şeklinde bir manşet okumak iyi gelse de, bunun gibi cezaların bu tür şirketlerin gelirlerinin yalnızca küçük bir kısmını temsil ettiğini unutmamalıyız. Bunu, çoğu vakanın sonuçlanmasının birkaç yıl veya on yıllar aldığı ve bu yüzdenin yalnızca küçüldüğü gerçeğiyle birleştirin. Bunu göz önünde bulundurarak, vergi indirimleri fikrine farklı bir bakış açısıyla yaklaşılabilir; bu, daha önce ihmal edilen davranışları ödüllendirmekle değil , ilgili herkesin çıkarına en iyi şekilde olacak şekilde kamu güvenliğini artırmakla ilgilidir . Şirketlerin suistimallerini sürdürürken mahkeme davalarına devam etmelerine izin veren mevcut sistemimizi sürdürmek, yasaların olmamasından daha fazla değilse de tehlikelidir.

Bu makaleyi okumaktan zevk aldıysanız ve başkalarının da okuması gerektiğini düşünüyorsanız, lütfen haberi yaymaya yardımcı olun.

Bu makale, mali rakamları etik tasarım kalıplarına yerleştirmek için çalışacağım ve böylece teknoloji uzmanları olarak inşa ettiğimiz işletmeleri değiştirip, İnternete bağlı deneyimlerin gelişimini çevreleyen daha iyi bir kültür.