UMA SÉRIE DOCUMENTAL ORIGINAL NETFLIX
Caros americanos,
não sou o presidente Trump.
Sou o Charlie Warzel da BuzzFeed News.
E o futuro, posso garantir, é assustador.
UMA PRODUÇÃO BUZZFEED NEWS
O FUTURO DOS CONTEÚDOS FALSOS
Acho que a tecnologia é uma ferramenta de valor neutro.
É tão boa quanto quisermos que seja...
ESCRITOR DE TECNOLOGIA
...e tão ruim quanto a fizermos ser.
Eu escrevo sobre coisas estranhas que acontecem na Internet.
A GRANDE POLÊMICA DO EMOJI DO COCÔ
IMAGENS DE BESTIALIDADE NO YOUTUBE
Mas também observo o crescimento do assédio virtual,
e o lado mais sombrio da Internet.
Eu vejo essas notícias falsas...
e encaro meio da mesma forma que a mudança climática.
que uma é quantitaviva.
é que uma é quantitaviva.
Você pode rastrear o aquecimento global.
Pode monitorar essas coisas.
Esta tecnologia é tão nova que não podemos medir
sua prevalência nem seu crescimento.
As histórias falsas escritas pelas pessoas se tornam viral, e isso é algo simples.
E se você conseguisse manipular o rosto do presidente...
e criasse um vídeo onde ele declara guerra nuclear contra a Coreia do Norte?
O futuro disso é potencialmente desastroso.
Na nossa era, nossos inimigos podem fazer parecer...
ANÚNCIO DAS NOTÍCIAS FALSAS
...que qualquer um está dizendo qualquer coisa,
mesmo se a pessoa nunca diria algo assim.
Os áudios e vídeos manipulados atualmente na Internet
se tornam virais porque vão de divertidos a absolutamente distópicos.
Por exemplo, poderiam me fazer dizer coisas como:
"O presidente Trump é um idiota total."
Agora... eu nunca diria essas coisas.
Ao menos não publicamente, mas alguém diria.
Alguém... como Jordan Peele.
Vivemos em tempos perigosos.
Acho que no último ano vimos...
mais e mais uma prévia do que está por vir.
Eu tenho muitas perguntas sobre as pessoas que fazem essas coisas.
Onde estamos em termos da manipulação de áudio e vídeo?
E quem está sendo impactado por essa tecnologia?
SEDE DA INDUSTRIAL LIGHT & MAGIC
Gosto de viver em um mundo onde posso diferenciar
a realidade da ficção.
Mas, profissionalmente...
GURU DE EFEITOS ESPECIAIS DE STAR WARS
...trabalho em uma área onde criamos imagens convincentes
que o transportam...
A AMEAÇA FANTASMA
...a diferentes épocas e lugares.
Maldito Jack Sparrow!
PIRATAS DO CARIBE: O BAÚ DA MORTE, 2006
Você é uma lenda dos efeitos especiais.
Algo fascinante é que...
você também está por trás do Photoshop.
Fiquei surpreso com sua difusão
e com ter virado um verbo.
A tecnologia lhe trouxe algum arrependimento?
Eu gostaria que houvesse menos usos antiéticos,
mas acho que cabe à sociedade pressionar as pessoas
a usar a ética adequada com essas ferramentas.
John usou mais do que Photoshop
depois que o ator de Star Wars Peter Cushing morreu em 1994.
Charmoso até o fim.
UMA NOVA ESPERANÇA
Quero falar sobre a recriação digital de Grand Moff Tarkin
e essa ideia de trazer de volta alguém...
que não está mais conosco.
Refizemos um modelo digital bem detalhado do rosto de Tarkin.
Aí passamos por um processo contínuo de comparar nosso modelo
com as imagens de arquivo
até sentirmos que tínhamos uma boa semelhança.
Os planos originais da estação ficam lá, não?
A que velocidade está evoluindo isso?
Não depressa o bastante.
-Não o bastante? -Para o meu gosto.
Não é todo mundo que pode dar vida aos mortos.
NOVA YORK, NY
Mas que tecnologia está disponível ao usuário comum?
Tenho usado este programa grátis.
Ele, basicamente, cria uma cópia digital da sua voz.
Você usa o microfone do computador,
e repete várias frases pré-selecionadas por eles.
"A andorinha e o sabiá dançaram na cerca."
Agora posso digitar na caixa...
o que eu quiser, e ele será lido com a minha voz.
Obviamente, o que quero fazer agora
é usar isto para tentar enganar a minha mãe.
-Oi. -Como vai?
Bem, e você?
MÃE DO CHARLIE
Só tenho um segundo. Estou ocupado.
Só queria ver rapidinho se o jantar de esta noite ainda está em pé.
Sim. 20h15.
Certo, beleza.
-Avise quando chegar. -Certo.
-Beleza? -Sim, Charlie. Obrigada.
-Que bom que você ligou. -Está caindo a linha. Eu te amo.
-Tchau. -Também te amo. Tchau.
Funcionou!
Que coisa bizarra!
Achei que não fosse dar certo.
Achei que ela fosse perguntar: "O que está havendo?"
Estou cheio de adrenalina agora.
Isso prova que não precisa ser ótimo, só bom o suficiente...
para enganar, literalmente, sua mãe e fazê-la pensar que é você
quando é um computador.
Treinar sua voz é uma coisa, mas acreditamos no que vemos.
Como andam as imagens falsas?
A questão é: Como podemos criar...
COFUNDADOR, PINSCREEN
um avatar fotorrealista de você
que além de ser 3D seja dinâmico?
A tecnologia da Pinscreen permitirá que o usuário
crie avatares digitais realistas para a realidade virtual e videogames.
Várias empresas vendem seu programa.
Vou mostrar como funciona rapidamente.
À esquerda temos uma foto neutra de uma pessoa.
Hao usa centenas de milhares de fotos de pessoas reais
para treinar o computador a prever como ficaria uma expressão
em qualquer rosto.
Quando ele erra, dizemos "não"
e vai ficando cada vez melhor.
Agora vamos prever como vai funcionar com você.
Você tirou uma selfie e mandou para nós.
Essa foto do meu rosto é da semana passada.
Certo.
O computador nunca viu ele se mexer.
CIENTISTA PRINCIPAL
-Eu nunca vi. -Você nunca viu meu rosto se mexer.
E baseado em...
-uma base de dados de rostos... -Certo.
-...e movimentos faciais... -Certo.
...ele pôde prever...
-Como você... -...como eu me mexo.
Isso.
Todas suas expressões principais e tudo mais.
E ele gera rugas.
-Meu nariz fica assim mesmo. -Não é?
-Que loucura. -Sim.
No momento, o custo é pesado, não?
Não. O treinamento, na verdade...
O treinamento é quantitativamente caro,
mas o processamento, em teoria, pode ser feito em tempo real.
-O futuro chegou. -Sim, está chegando.
Caraca!
O que me leva de volta ao presidente Trump.
Aqui está o vídeo que você gravou.
Nós pegamos somente uma foto de um discurso qualquer do Trump.
Criamos um modelo em 3D, gerando todos os dentes,
todas as expressões, sabe...
É interessante porque cria movimento real em 3D.
Eu vou tentar então
tentar mexer meu rosto bastante e falar com vocês
sobre nada em especial.
Só bobageira total.
Pelo amor de Deus!
O sistema está pensando: "Como o Trump iria rir?"
Sim, baseado na aparência do rosto.
Baseado na aparência, não é?
Você está entranhado neste mundo.
Você diria que está...
mais preocupado que a pessoa comum com seu possível uso inadequado?
Isso tira seu sono?
A computação gráfica sempre fez isto.
Essa é a indústria dos efeitos visuais.
Ela gera imagens fotorrealistas
para criar uma ilusão para uma narrativa.
Mas o que acontece
se alguém tiver acesso a isso?
Acho que essa é a parte assustadora. Especialmente quando você pensa:
"Só preciso de uma foto. Posso fazer o que eu quiser.
É 3D, é fotorrealista."
Aqui é o John.
Oi, John. É o Charlie.
CHEFE DO CHARLIE
Oi, Charlie!
Acabo de manipular o rosto do Trump usando inteligência artificial,
e foi realmente perturbador.
Francamente, me assustou um pouco.
É feito Admirável Mundo Novo.
Eu diria que "admirável mundo novo" não se aplica aqui.
Sim. Estamos ferrados. Que tal assim?
Obviamente, temos que achar alguém...
um humano de verdade que, potencialmente,
foi afetado por isso.
Sim, concordo.
-Certo. -Ótimo trabalho.
Valeu, cara. Nos falamos.
Era... abril de 2011.
Eu tinha feito 21 anos e comecei a receber...
VÍTIMA DE FOTO ALTERADA COM PHOTOSHOP
...mensagens via Facebook de pessoas dizendo
que havia fotos impróprias de mim na Internet.
Joguei meu nome no Google e a primeira foto que apareceu...
era uma imagem alterada com Photoshop. A cabeça era minha,
o corpo era meu, mas os seios não eram meus.
BONITINHA DE PARAMUS, NOVA JERSEY
Não estava só em um site, estava em vários.
A mesma foto usada em todos os sites.
A única coisa que a polícia me disse pra fazer foi:
"Pare de jogar seu nome no Google, e suas fotos perderão relevância."
Eles não podem fazer nada. Já está na Internet, não podem tirar.
Há uma lei contra pornô da vingança no estado da Katie,
mas nunca foi usada para desafiar imagens feitas no Photoshop.
Você passava muito tempo procurando essas fotos?
Eu ficava acordada até tarde
vendo isso, e ia ao trabalho
ou à escola no dia seguinte exausta.
Parece que isso meio que...
Meio que fez sua vida parar por um instante.
Eu sempre me vesti de forma conservadora.
Gosto de mangas, decotes altos,
mas agora mais do que nunca.
Fale-me sobre como isso afetou a sua família.
Ter que lidar com o choro da minha mãe
foi de partir o coração.
Não há nada que você possa fazer porque, como mãe,
eu não podia imaginar como seria ver minha filha passar por isso.
Lembro de dizer para meu pai: "O pessoal do corpo de bombeiros
vai ficar sabendo, e isso é constrangedor."
Ele disse: "Eu me orgulho de você de todas formas."
Katie acha que sabe quem foi o criminoso.
Alguém que ela conhecia de longe e nunca namorou.
As fotos... ainda estão na Internet.
O uso mais grosseiro desta tecnologia afetou a vida de Katie.
Mas imagine como teria sido pior para Katie
se a imagem se mexesse?
Sou um tecnólogo.
Trabalhei para empresas grandes e pequenas de software a vida toda.
FÃ DE FACESWAPPING
Quando a DeepFace surgiu em dezembro de 2017,
vi que estavam pegando pesquisa de ponta
e colocando em um produto tecnológico
que você podia baixar e experimentar.
DeepFace é um fenômeno de manipulação de vídeo recente
onde rostos de celebridades são colocados perfeitamente
sobre os de atrizes pornô em vídeos pornográficos.
Eu queria ver quais eram suas capacidades e limitações.
Decidi escolher o John Oliver e o Jimmy Fallon para uma troca de rostos.
Com o Oliver e o Fallon...
APRESENTADOR DE TV
...os resultados foram bem convincentes.
Utilizei muitos vídeos de YouTube dos dois.
O que o algoritmo faz é
pegar o vídeo, separá-lo em quadros individuais,
converter cada um desses quadros
e depois juntar tudo de volta em um vídeo. Esse é o resultado.
A qualidade é muito boa porque tenho
muito material de treinamento para o algoritmo.
ORIGINAL TROCADO
É por isso que celebridades, políticos e figuras públicas
são mais suscetíveis.
O mesmo pode ser dito sobre qualquer um
que tenha uma conta pública de Instagram e muitas selfies.
Com o avanço da tecnologia,
a detecção se torna mais difícil, e a distribuição, mais ampla.
As principais plataformas de redes sociais estão preparadas para isso?
Nós entramos em contato com algumas das principais empresas,
Google, Facebook, Reddit,
para nos reunirmos para conversar sobre isso,
sobre os problemas diferentes e as zonas cinzentas,
mas eles não concordaram.
Em vez disso, enviaram declarações bem genéricas.
"A avaliação da veracidade das fotos e vídeos tem suas nuances..." -Facebook
"Continuaremos desenvolvendo nossa política conforme necessário." -Reddit
Quem está levando isso a sério?
Minha fonte, Aviv Ovadya...
PREVIU A CRISE DAS NOTÍCIAS FALSAS
...formou-se na MIT e está soando os alarmes
sobre o uso dessa tecnologia para espalhar a desinformação.
"Duas grandes farsas convencerão o público que nada é real."
Seja você um engenheiro ou pesquisador,
pessoas que estão tentando melhorar o mundo,
é difícil ouvir: "Esse problema interessante que você está solucionando
e que pode beneficiar muitas pessoas,
pode também destruir a ordem mundial."
Se pudesse conversar com Mark Zuckerberg, ou o pessoal do YouTube
ou da Google e pudesse pedir para fazerem uma coisa ano que vem,
qual seria sua prioridade para eles?
Precisamos de uma infraestrutura de responsabilidade...
em todos os setores.
Assim não teremos os diretores, os pesquisadores dizendo:
"Ah, eu não sabia!" Se não são bons nisso,
poderiam recorrer a terceiros para cuidar disso.
Alguém como Facebook precisa ter equipes internas
focadas exclusivamente nisso.
Precisamos ter esses círculos de feedback e acho que não temos no momento.
Em breve, é possível que não se note a diferença
entre vídeos reais e falsos.
Então a questão é:
O que acontece quando não podemos confiar no que vemos e ouvimos?
O potencial dessa tecnologia é extraordinário e alarmante.
Mas não somos impotentes perante o iminente apocalipse da informação.
O que acontece no futuro depende do que fizermos agora.
Legendas: Gisele Garbin Guerra