Alessandro Acquisti – Por Que A Privacidade É Importante

I would like to tell you a story

Gostaria de lhes contar uma história

connecting the notorious privacy incident

conectando o notório incidente de privacidade

involving Adam and Eve,

envolvendo Adão e Eva,

and the remarkable shift in the boundaries

e a notável mudança nas fronteiras

between public and private which has occurred

entre o público e o privado que ocorreu

in the past 10 years.

nos últimos 10 anos.

You know the incident.

Vocês conhecem o incidente.

Adam and Eve one day in the Garden of Eden

Adão e Eva, um dia no Jardim do Éden,

realize they are naked.

percebem que estão nus.

They freak out.

Eles surtam.

And the rest is history.

E o resto é história.

Nowadays, Adam and Eve

Hoje em dia, Adão e Eva

would probably act differently.

provavelmente agiriam de forma diferente.

[@Adam Last nite was a blast! loved dat apple LOL]

[@Adam A noite passada foi demais! Amei aquela maçã KKK]

[@Eve yep.. babe, know what happened to my pants tho?]

[@Eve sim.. amor, sabe o que aconteceu com minhas calças, né?]

We do reveal so much more information

Nós revelamos muito mais informações

about ourselves online than ever before,

sobre nós mesmos online do que nunca,

and so much information about us

e tanta informação sobre nós

is being collected by organizations now.

está sendo coletada por organizações agora.

There is much to gain and benefit

Há muito a ganhar e a beneficiar

from this massive analysis of personal information,

desta análise massiva de informações pessoais,

or big data,

ou big data,

but there are also complex tradeoffs that come

mas também há complexas desvantagens que vêm

from giving away our privacy.

de abrir mão da nossa privacidade.

And my story is about these tradeoffs.

E minha história é sobre essas desvantagens.

We start with an observation which, in my mind,

Começamos com uma observação que, na minha opinião,

has become clearer and clearer in the past few years,

tem se tornado cada vez mais clara nos últimos anos,

that any personal information

de que qualquer informação pessoal

can become sensitive information.

pode se tornar informação sensível.

Back in the year 2000, about 100 billion photos

Em 2000, cerca de 100 bilhões de fotos

were shot worldwide,

foram tiradas em todo o mundo,

but only a minuscule proportion of them

mas apenas uma proporção minúscula delas

were actually uploaded online.

foram realmente carregadas online.

In 2010, only on Facebook, in a single month,

Em 2010, apenas no Facebook, em um único mês,

2.5 billion photos were uploaded,

2,5 bilhões de fotos foram carregadas,

most of them identified.

a maioria delas identificadas.

In the same span of time,

No mesmo período de tempo,

computers' ability to recognize people in photos

a capacidade dos computadores de reconhecer pessoas em fotos

improved by three orders of magnitude.

melhorou em três ordens de magnitude.

What happens when you combine

O que acontece quando você combina

these technologies together:

essas tecnologias juntas:

increasing availability of facial data;

crescente disponibilidade de dados faciais;

improving facial recognizing ability by computers;

melhora da capacidade de reconhecimento facial por computadores;

but also cloud computing,

mas também a computação em nuvem,

which gives anyone in this theater

que dá a qualquer um nesta plateia

the kind of computational power

o tipo de poder computacional

which a few years ago was only the domain

que há alguns anos era apenas o domínio

of three-letter agencies;

de agências secretas;

and ubiquitous computing,

e a computação ubíqua,

which allows my phone, which is not a supercomputer,

que permite que meu telefone, que não é um supercomputador,

to connect to the Internet

se conecte à Internet

and do there hundreds of thousands

e faça centenas de milhares

of face metrics in a few seconds?

de medições faciais em poucos segundos?

Well, we conjecture that the result

Bem, conjecturamos que o resultado

of this combination of technologies

desta combinação de tecnologias

will be a radical change in our very notions

será uma mudança radical em nossas próprias noções

of privacy and anonymity.

de privacidade e anonimato.

To test that, we did an experiment

Para testar isso, fizemos um experimento

on Carnegie Mellon University campus.

no campus da Universidade Carnegie Mellon.

We asked students who were walking by

Pedimos a estudantes que passavam

to participate in a study,

que participassem de um estudo,

and we took a shot with a webcam,

e tiramos uma foto com uma webcam,

and we asked them to fill out a survey on a laptop.

e pedimos que preenchessem um questionário em um laptop.

While they were filling out the survey,

Enquanto eles preenchiam o questionário,

we uploaded their shot to a cloud-computing cluster,

nós carregamos a foto deles para um cluster de computação em nuvem,

and we started using a facial recognizer

e começamos a usar um reconhecedor facial

to match that shot to a database

para comparar aquela foto com um banco de dados

of some hundreds of thousands of images

de algumas centenas de milhares de imagens

which we had downloaded from Facebook profiles.

que havíamos baixado de perfis do Facebook.

By the time the subject reached the last page

No momento em que o participante chegava à última página

on the survey, the page had been dynamically updated

do questionário, a página havia sido atualizada dinamicamente

with the 10 best matching photos

com as 10 fotos mais compatíveis

which the recognizer had found,

que o reconhecedor havia encontrado,

and we asked the subjects to indicate

e pedimos aos participantes que indicassem

whether he or she found themselves in the photo.

se eles se encontravam na foto.

Do you see the subject?

Vocês veem o participante?

Well, the computer did, and in fact did so

Bem, o computador viu, e de fato fez isso

for one out of three subjects.

para um em cada três participantes.

So essentially, we can start from an anonymous face,

Então, essencialmente, podemos partir de um rosto anônimo,

offline or online, and we can use facial recognition

offline ou online, e podemos usar o reconhecimento facial

to give a name to that anonymous face

para dar um nome a esse rosto anônimo

thanks to social media data.

graças aos dados das redes sociais.

But a few years back, we did something else.

Mas, há alguns anos, fizemos outra coisa.

We started from social media data,

Partimos de dados de redes sociais,

we combined it statistically with data

combinamos-os estatisticamente com dados

from U.S. government social security,

do seguro social do governo dos EUA,

and we ended up predicting social security numbers,

e acabamos prevendo números de seguro social,

which in the United States

que nos Estados Unidos

are extremely sensitive information.

são informações extremamente sensíveis.

Do you see where I'm going with this?

Percebem aonde quero chegar com isso?

So if you combine the two studies together,

Então, se vocês combinarem os dois estudos,

then the question becomes,

a questão se torna:

can you start from a face and,

podem partir de um rosto e,

using facial recognition, find a name

usando o reconhecimento facial, encontrar um nome

and publicly available information

e informações publicamente disponíveis

about that name and that person,

sobre esse nome e essa pessoa,

and from that publicly available information

e a partir dessas informações publicamente disponíveis

infer non-publicly available information,

inferir informações não publicamente disponíveis,

much more sensitive ones

muito mais sensíveis,

which you link back to the face?

que vocês ligam de volta ao rosto?

And the answer is, yes, we can, and we did.

E a resposta é: sim, podemos, e fizemos.

Of course, the accuracy keeps getting worse.

Claro, a precisão continua piorando.

[27% of subjects' first 5 SSN digits identified (with 4 attempts)]

[27% dos primeiros 5 dígitos do SSN dos participantes identificados (com 4 tentativas)]

But in fact, we even decided to develop an iPhone app

Mas, na verdade, até decidimos desenvolver um aplicativo para iPhone

which uses the phone's internal camera

que usa a câmera interna do telefone

to take a shot of a subject

para tirar uma foto de um participante

and then upload it to a cloud

e depois carregá-la para uma nuvem

and then do what I just described to you in real time:

e então fazer o que acabei de descrever em tempo real:

looking for a match, finding public information,

procurar uma correspondência, encontrar informações públicas,

trying to infer sensitive information,

tentar inferir informações sensíveis,

and then sending back to the phone

e então enviar de volta para o telefone

so that it is overlaid on the face of the subject,

para que seja sobreposto ao rosto do participante,

an example of augmented reality,

um exemplo de realidade aumentada,

probably a creepy example of augmented reality.

provavelmente um exemplo assustador de realidade aumentada.

In fact, we didn't develop the app to make it available,

Na verdade, não desenvolvemos o aplicativo para torná-lo disponível,

just as a proof of concept.

apenas como uma prova de conceito.

In fact, take these technologies

Na verdade, peguem essas tecnologias

and push them to their logical extreme.

e as levem ao seu extremo lógico.

Imagine a future in which strangers around you

Imaginem um futuro em que estranhos ao seu redor

will look at you through their Google Glasses

olharão para vocês através de seus Google Glasses

or, one day, their contact lenses,

ou, um dia, suas lentes de contato,

and use seven or eight data points about you

e usarão sete ou oito pontos de dados sobre vocês

to infer anything else

para inferir qualquer outra coisa

which may be known about you.

que possa ser conhecida sobre vocês.

What will this future without secrets look like?

Como será este futuro sem segredos?

And should we care?

E devemos nos importar?

We may like to believe

Podemos gostar de acreditar

that the future with so much wealth of data

que o futuro com tanta riqueza de dados

would be a future with no more biases,

seria um futuro sem mais preconceitos,

but in fact, having so much information

mas, na verdade, ter tanta informação

doesn't mean that we will make decisions

não significa que tomaremos decisões

which are more objective.

mais objetivas.

In another experiment, we presented to our subjects

Em outro experimento, apresentamos aos nossos participantes

information about a potential job candidate.

informações sobre um potencial candidato a um emprego.

We included in this information some references

Incluímos nestas informações algumas referências

to some funny, absolutely legal,

a algumas informações engraçadas, absolutamente legais,

but perhaps slightly embarrassing information

mas talvez ligeiramente embaraçosas

that the subject had posted online.

que o participante havia postado online.

Now interestingly, among our subjects,

Curiosamente, entre os nossos participantes,

some had posted comparable information,

alguns haviam postado informações comparáveis,

and some had not.

e alguns não.

Which group do you think

Qual grupo vocês acham

was more likely to judge harshly our subject?

que foi mais propenso a julgar severamente nosso participante?

Paradoxically, it was the group

Paradoxalmente, foi o grupo

who had posted similar information,

que havia postado informações semelhantes,

an example of moral dissonance.

um exemplo de dissonância moral.

Now you may be thinking,

Agora, vocês podem estar pensando,

this does not apply to me,

isso não se aplica a mim,

because I have nothing to hide.

porque não tenho nada a esconder.

But in fact, privacy is not about

Mas, na verdade, privacidade não é sobre

having something negative to hide.

ter algo negativo a esconder.

Imagine that you are the H.R. director

Imaginem que vocês são diretores de RH

of a certain organization, and you receive résumés,

de uma certa organização, e recebem currículos,

and you decide to find more information about the candidates.

e decidem encontrar mais informações sobre os candidatos.

Therefore, you Google their names

Portanto, vocês pesquisam seus nomes no Google

and in a certain universe,

e em um certo universo,

you find this information.

encontram esta informação.

Or in a parallel universe, you find this information.

Ou em um universo paralelo, encontram esta informação.

Do you think that you would be equally likely

Vocês acham que teriam a mesma probabilidade

to call either candidate for an interview?

de chamar qualquer um dos candidatos para uma entrevista?

If you think so, then you are not

Se pensam assim, então vocês não são

like the U.S. employers who are, in fact,

como os empregadores dos EUA que, de fato,

part of our experiment, meaning we did exactly that.

fizeram parte do nosso experimento, ou seja, fizemos exatamente isso.

We created Facebook profiles, manipulating traits,

Criamos perfis no Facebook, manipulando características,

then we started sending out résumés to companies in the U.S.,

então começamos a enviar currículos para empresas nos EUA,

and we detected, we monitored,

e detectamos, monitoramos,

whether they were searching for our candidates,

se eles estavam procurando por nossos candidatos,

and whether they were acting on the information

e se estavam agindo com base nas informações

they found on social media. And they were.

que encontraram nas redes sociais. E eles estavam.

Discrimination was happening through social media

A discriminação estava ocorrendo através das redes sociais

for equally skilled candidates.

para candidatos igualmente qualificados.

Now marketers like us to believe

Agora, os marqueteiros gostam de nos fazer acreditar

that all information about us will always

que todas as informações sobre nós serão sempre

be used in a manner which is in our favor.

usadas de uma maneira que nos favoreça.

But think again. Why should that be always the case?

Mas pensem novamente. Por que isso deveria ser sempre o caso?

In a movie which came out a few years ago,

Em um filme que saiu há alguns anos,

"Minority Report," a famous scene

"Minority Report," uma cena famosa

had Tom Cruise walk in a mall

mostrava Tom Cruise andando em um shopping

and holographic personalized advertising

e anúncios holográficos personalizados

would appear around him.

apareciam ao seu redor.

Now, that movie is set in 2054,

Agora, esse filme se passa em 2054,

about 40 years from now,

cerca de 40 anos a partir de agora,

and as exciting as that technology looks,

e por mais emocionante que essa tecnologia pareça,

it already vastly underestimates

ela já subestima vastamente

the amount of information that organizations

a quantidade de informações que as organizações

can gather about you, and how they can use it

podem coletar sobre vocês, e como podem usá-las

to influence you in a way that you will not even detect.

para influenciá-los de uma forma que vocês nem sequer detectarão.

So as an example, this is another experiment

Então, como exemplo, este é outro experimento

actually we are running, not yet completed.

que estamos realizando, ainda não concluído.

Imagine that an organization has access

Imaginem que uma organização tenha acesso

to your list of Facebook friends,

à sua lista de amigos do Facebook,

and through some kind of algorithm

e através de algum tipo de algoritmo

they can detect the two friends that you like the most.

eles possam detectar os dois amigos de quem vocês mais gostam.

And then they create, in real time,

E então eles criam, em tempo real,

a facial composite of these two friends.

um composto facial desses dois amigos.

Now studies prior to ours have shown that people

Agora, estudos anteriores aos nossos mostraram que as pessoas

don't recognize any longer even themselves

não se reconhecem mais nem a si mesmas

in facial composites, but they react

em compostos faciais, mas reagem

to those composites in a positive manner.

a esses compostos de forma positiva.

So next time you are looking for a certain product,

Então, da próxima vez que vocês estiverem procurando por um certo produto,

and there is an ad suggesting you to buy it,

e houver um anúncio sugerindo que o comprem,

it will not be just a standard spokesperson.

não será apenas um porta-voz padrão.

It will be one of your friends,

Será um de seus amigos,

and you will not even know that this is happening.

e vocês nem saberão que isso está acontecendo.

Now the problem is that

Agora, o problema é que

the current policy mechanisms we have

os mecanismos de política atuais que temos

to protect ourselves from the abuses of personal information

para nos proteger dos abusos de informações pessoais

are like bringing a knife to a gunfight.

são como levar uma faca para um tiroteio.

One of these mechanisms is transparency,

Um desses mecanismos é a transparência,

telling people what you are going to do with their data.

dizer às pessoas o que vocês farão com os dados delas.

And in principle, that's a very good thing.

E, em princípio, isso é uma coisa muito boa.

It's necessary, but it is not sufficient.

É necessário, mas não é suficiente.

Transparency can be misdirected.

A transparência pode ser mal direcionada.

You can tell people what you are going to do,

Vocês podem dizer às pessoas o que vão fazer,

and then you still nudge them to disclose

e depois ainda as induzir a divulgar

arbitrary amounts of personal information.

quantidades arbitrárias de informações pessoais.

So in yet another experiment, this one with students,

Então, em mais um experimento, este com estudantes,

we asked them to provide information

pedimos que fornecessem informações

about their campus behavior,

sobre seu comportamento no campus,

including pretty sensitive questions, such as this one.

incluindo perguntas bastante sensíveis, como esta.

[Have you ever cheated in an exam?]

[Vocês já colaram em uma prova?]

Now to one group of subjects, we told them,

Para um grupo de participantes, dissemos:

"Only other students will see your answers."

"Apenas outros estudantes verão suas respostas."

To another group of subjects, we told them,

Para outro grupo de participantes, dissemos:

"Students and faculty will see your answers."

"Estudantes e professores verão suas respostas."

Transparency. Notification. And sure enough, this worked,

Transparência. Notificação. E, de fato, isso funcionou,

in the sense that the first group of subjects

no sentido de que o primeiro grupo de participantes

were much more likely to disclose than the second.

era muito mais propenso a divulgar do que o segundo.

It makes sense, right?

Faz sentido, certo?

But then we added the misdirection.

Mas então adicionamos a má direção.

We repeated the experiment with the same two groups,

Repetimos o experimento com os mesmos dois grupos,

this time adding a delay

desta vez adicionando um atraso

between the time we told subjects

entre o momento em que dissemos aos participantes

how we would use their data

como usaríamos seus dados

and the time we actually started answering the questions.

e o momento em que realmente começaram a responder às perguntas.

How long a delay do you think we had to add

Quanto tempo de atraso vocês acham que tivemos que adicionar

in order to nullify the inhibitory effect

para anular o efeito inibitório

of knowing that faculty would see your answers?

de saber que os professores veriam suas respostas?

Ten minutes?

Dez minutos?

Five minutes?

Cinco minutos?

One minute?

Um minuto?

How about 15 seconds?

Que tal 15 segundos?

Fifteen seconds were sufficient to have the two groups

Quinze segundos foram suficientes para que os dois grupos

disclose the same amount of information,

divulgassem a mesma quantidade de informações,

as if the second group now no longer cares

como se o segundo grupo agora não se importasse mais

for faculty reading their answers.

com professores lendo suas respostas.

Now I have to admit that this talk so far

Agora, devo admitir que esta palestra até agora

may sound exceedingly gloomy,

pode soar excessivamente sombria,

but that is not my point.

mas não é esse o meu ponto.

In fact, I want to share with you the fact that

Na verdade, quero compartilhar com vocês o fato de que

there are alternatives.

existem alternativas.

The way we are doing things now is not the only way

A forma como estamos fazendo as coisas agora não é a única forma

they can done, and certainly not the best way

como podem ser feitas, e certamente não é a melhor forma

they can be done.

como podem ser feitas.

When someone tells you, "People don't care about privacy,"

Quando alguém lhes disser: "As pessoas não se importam com a privacidade,"

consider whether the game has been designed

considerem se o jogo foi projetado

and rigged so that they cannot care about privacy,

e manipulado para que elas não possam se importar com a privacidade,

and coming to the realization that these manipulations occur

e chegar à percepção de que essas manipulações ocorrem

is already halfway through the process

já é metade do caminho do processo

of being able to protect yourself.

de serem capazes de se protegerem.

When someone tells you that privacy is incompatible

Quando alguém lhes disser que a privacidade é incompatível

with the benefits of big data,

com os benefícios do big data,

consider that in the last 20 years,

considerem que nos últimos 20 anos,

researchers have created technologies

pesquisadores criaram tecnologias

to allow virtually any electronic transactions

para permitir que praticamente qualquer transação eletrônica

to take place in a more privacy-preserving manner.

ocorra de forma mais preservadora da privacidade.

We can browse the Internet anonymously.

Podemos navegar na Internet anonimamente.

We can send emails that can only be read

Podemos enviar e-mails que só podem ser lidos

by the intended recipient, not even the NSA.

pelo destinatário pretendido, nem mesmo pela NSA.

We can have even privacy-preserving data mining.

Podemos até ter mineração de dados com preservação da privacidade.

In other words, we can have the benefits of big data

Em outras palavras, podemos ter os benefícios do big data

while protecting privacy.

enquanto protegemos a privacidade.

Of course, these technologies imply a shifting

Claro, essas tecnologias implicam uma mudança

of cost and revenues

de custos e receitas

between data holders and data subjects,

entre detentores de dados e titulares de dados,

which is why, perhaps, you don't hear more about them.

razão pela qual, talvez, vocês não ouçam mais sobre elas.

Which brings me back to the Garden of Eden.

O que me traz de volta ao Jardim do Éden.

There is a second privacy interpretation

Existe uma segunda interpretação da privacidade

of the story of the Garden of Eden

da história do Jardim do Éden

which doesn't have to do with the issue

que não tem a ver com a questão

of Adam and Eve feeling naked

de Adão e Eva se sentirem nus

and feeling ashamed.

e envergonhados.

You can find echoes of this interpretation

Vocês podem encontrar ecos desta interpretação

in John Milton's "Paradise Lost."

em "Paraíso Perdido" de John Milton.

In the garden, Adam and Eve are materially content.

No jardim, Adão e Eva estão materialmente contentes.

They're happy. They are satisfied.

Eles estão felizes. Estão satisfeitos.

However, they also lack knowledge

No entanto, eles também carecem de conhecimento

and self-awareness.

e autoconsciência.

The moment they eat the aptly named

No momento em que comem o apropriadamente nomeado

fruit of knowledge,

fruto do conhecimento,

that's when they discover themselves.

é quando eles se descobrem.

They become aware. They achieve autonomy.

Eles se tornam conscientes. Alcançam a autonomia.

The price to pay, however, is leaving the garden.

O preço a pagar, no entanto, é deixar o jardim.

So privacy, in a way, is both the means

Então, a privacidade, de certa forma, é tanto o meio

and the price to pay for freedom.

quanto o preço a pagar pela liberdade.

Again, marketers tell us

Novamente, os marqueteiros nos dizem

that big data and social media

que big data e redes sociais

are not just a paradise of profit for them,

não são apenas um paraíso de lucro para eles,

but a Garden of Eden for the rest of us.

mas um Jardim do Éden para o resto de nós.

We get free content.

Recebemos conteúdo gratuito.

We get to play Angry Birds. We get targeted apps.

Podemos jogar Angry Birds. Recebemos aplicativos segmentados.

But in fact, in a few years, organizations

Mas, na verdade, em poucos anos, as organizações

will know so much about us,

saberão tanto sobre nós,

they will be able to infer our desires

serão capazes de inferir nossos desejos

before we even form them, and perhaps

antes mesmo de os formarmos, e talvez

buy products on our behalf

comprem produtos em nosso nome

before we even know we need them.

antes mesmo de sabermos que precisamos deles.

Now there was one English author

Agora, houve um autor inglês

who anticipated this kind of future

que antecipou esse tipo de futuro

where we would trade away

onde trocaríamos

our autonomy and freedom for comfort.

nossa autonomia e liberdade por conforto.

Even more so than George Orwell,

Ainda mais do que George Orwell,

the author is, of course, Aldous Huxley.

o autor é, claro, Aldous Huxley.

In "Brave New World," he imagines a society

Em "Admirável Mundo Novo," ele imagina uma sociedade

where technologies that we created

onde as tecnologias que criamos

originally for freedom

originalmente para a liberdade

end up coercing us.

acabam nos coagindo.

However, in the book, he also offers us a way out

No entanto, no livro, ele também nos oferece uma saída

of that society, similar to the path

dessa sociedade, semelhante ao caminho

that Adam and Eve had to follow to leave the garden.

que Adão e Eva tiveram que seguir para deixar o jardim.

In the words of the Savage,

Nas palavras do Selvagem,

regaining autonomy and freedom is possible,

reconquistar a autonomia e a liberdade é possível,

although the price to pay is steep.

embora o preço a pagar seja alto.

So I do believe that one of the defining fights

Então, eu realmente acredito que uma das lutas definidoras

of our times will be the fight

de nossos tempos será a luta

for the control over personal information,

pelo controle sobre as informações pessoais,

the fight over whether big data will become a force

a luta para saber se o big data se tornará uma força

for freedom,

para a liberdade,

rather than a force which will hiddenly manipulate us.

em vez de uma força que nos manipulará secretamente.

Right now, many of us

Neste momento, muitos de nós

do not even know that the fight is going on,

nem sequer sabemos que a luta está acontecendo,

but it is, whether you like it or not.

mas está, quer vocês queiram ou não.

And at the risk of playing the serpent,

E correndo o risco de fazer o papel da serpente,

I will tell you that the tools for the fight

direi a vocês que as ferramentas para a luta

are here, the awareness of what is going on,

estão aqui, a consciência do que está acontecendo,

and in your hands,

e em suas mãos,

just a few clicks away.

a apenas alguns cliques de distância.

Thank you.

Obrigado.

(Applause)

(Aplausos)