Por Samantha Cole.
Traduzido por Ananda Pieratti.
Em dezembro, o Motherboard conheceu o “deepfakes”, um usuário do Reddit com um hobby curioso: colocar o rosto de celebridades no corpo de atrizes pornôs. Desde então, ele fez várias sex tapes de celebridades — incluindo a Gal Gadot, a Maisie Williams e a Taylor Swift — usando apenas um algoritmo de aprendizado de máquina, seu computador pessoal, vídeos disponíveis na internet e muito tempo livre.
Desde que escrevemos sobre a prática de criar vídeos pornôs falsos por inteligência artificial ganhou mais adeptos. A cada dia, mais pessoas usam o aprendizado de máquina para criar vídeos pornôs com celebridades, e os resultados estão cada vez mais realistas. Um usuário do Reddit chegou a criar um app que permite que pessoas sem experiência em programação criem seu próprio pornô personalizado. Além de estarem disponíveis gratuitamente, as ferramentas necessárias para fazer um desses vídeos acompanham instruções para os usuários mais inexperientes.
Esses acontecimentos comprovam as previsões feitas por nós e os especialistas que entrevistamos em nossa última matéria sobre o tema. Com um detalhe: tudo aconteceu muito mais rápido do que esperávamos.
Pouco depois da publicação da primeira matéria, o usuário conhecido como deepfakes criou um subreddit nomeado em sua homenagem e dedicado inteiramente à prática. Desde então, o subreddit angariou mais de 15.000 seguidores. Dentro da recém-nascida comunidade, o termo “deepfake” tornou-se sinônimo dos vídeos pornográficos inventados pelo criador de mesmo nome.
Outro usuário chamado “deepfakeapp” criou o FakeApp, um aplicativo que permite que qualquer um fabrique vídeos usando seus próprios conjuntos de dados. Embora o aplicativo seja baseado no algoritmo criado pelo usuário deepfakes, o deepfakeapp afirma tê-lo criado sem ajuda do primeiro. Mandei uma mensagem para o deepfakes, mas ele não respondeu a nenhuma das minhas perguntas sobre a recente popularidade da sua invenção.
O deepfakeapp me disse pelo Reddit que o objetivo do FakeApp é tornar essa tecnologia acessível para aqueles que não têm uma base técnica ou experiência em programação.
“Acredito que a atual versão do aplicativo é um bom começo, mas eu espero aperfeiçoar ele ainda mais no futuro”, disse. “Eventualmente, quero chegar num ponto em que os usuários podem simplesmente selecionar um vídeo em seus computadores, baixar uma rede neural ligada a um rosto específico disponível em um banco de dados público e personalizar o vídeo com o rosto de sua escolha só apertando um botã.o
No começo do mês, pouco depois da publicação da nossa primeira matéria sobre esse tema, liguei para Peter Eckersley, diretor de ciência da computação da Fundação Fronteira Eletrônica, para conversar sobre as implicações sociológicas dessa tecnologia: “Acredito que estamos prestes a assitir à popularização dessa tecnologia”, disse ele, acrescentando que, então, fazer esses vídeos era muito trabalhoso. “Atualmente, podemos criar vídeos falsos usando redes neurais, mas se olharmos eles de perto, é fácil perceber que há algo de errado. Mesmo assim, alguma das técnicas utilizadas são bastante avançadas. Mas isso tudo vai mudar em um ou dois anos.”
Na realidade, esse período de transição mal durou dois meses. Nossos jornalistas encontraram dezenas de usuários dedicados a criar sua própria pornografia com ajuda da inteligência artificial, alguns deles com resultados impressionantes.
O usuário UnobstrusiveBot usou o FakeApp para colocar o rosto da atriz Jessica Alba no corpo da atriz pornô Melanie Rios. “Só um teste rápido – tô tentando retreinar meu modelo. Levei umas 5 horas pra terminar – ficou até bom, pra esse tempo”, escreveu o usuário em um comentário.
O usuário nutynutter6969 usou o FakeApp para colocar o rosto da atriz Daisy Ridley no corpo de outra atriz pornô:
Os vídeos falsos postados no subreddit já foram compartilhados como verdadeiros em outros sites; um deepfake da Emma Watson tomando um banho foi publicado no CelebJihad — um site pornô que posta fotos íntimas de celebridades, muitas delas hackeadas — com a seguinte descrição: “esse vídeo inédito faz parte da minha coleção pessoal, e mostra a Emma Watson totalmente pelada e exibindo seus órgãos sexuais enquanto toma banho com outra garota”.
Outros usuários usaram vídeos publicados nos Instagrams de celebridades para treinar suas redes neurais e inserir seus rostos em vídeos pornôs amadores: “Tive sorte de achar essa amadora que faz dancinhas e caras parecidas com as que a Chloe faz nos stories do instagram dela”, escreveu o usuário responsável pelo deepfake da atriz Chloe Bennet.
A maioria dos posts publicados no r/deepfakes envolve pornografia, mas alguns usuários estão criando vídeos que exploram todo o potencial dessa nova tecnologia. Um usuário chamado Z3ROCOOL22 juntou, num vídeo, os rostos de Adolf Hitler e do presidente da Argentina, Mauricio Macri:
Segundo o deepfakeapp, para criar um desses vídeos é preciso apenas baixar o FakeApp e achar um ou dois vídeos de alta resolução do rosto escolhido. A descrição do subreddit diz que o FakeApp é “um aplicativo para computador desenvolvido pela nossa comunidade que roda o algoritmo do deepfakes sem exigir a instalação do Python, Tensorflow, etc”, e que tudo o que alguém precisa para rodar o aplicativo é “uma boa GPU [em português, uma unidade de processamento gráfico, a parte de uma placa de vídeo necessária para rodar jogos em HD] com suporte para CUDA [ a plataforma de computação paralela e modelo de programação da NVIDIA]”. Caso os usuários não tenham uma GPU adequada, eles podem alugar GPUs não-físicas através de serviços como oGoogle Cloud Plataform. Quando feito corretamente, o processo completo, da extração de dados até a conversão frame-por-frame de um rosto em outro, leva de oito a doze horas. No entanto, algumas pessoas relataram ter gastado muito mais tempo nesse processo, muitas vezes com resultados desastrosos.
“Em homenagem a todos que não conseguiram criar um vídeo que funcionasse – vou postar meu vídeo cagado”, escreveu o usuário MrDrPresidentNotSure sobre sua assustadora tentativa:
“Esse resultado final é sinal de que eu devia ter treinado minha rede neural por mais tempo?”, perguntou o usuário yu78156853 após compartilhar sua tentativa fracassada:
Durante nossas conversas, o deepfakeapp me disse que acha a troca de rosto da Princesa Leia do filme Rogue One, feita pelo usuário deepfake, especialmente bem-feita. Com base nos GIFs de baixa resolução acima, a versão feita no FakeApp e a cena oficial são quase idênticas.
“Espero que nos próximos anos essas ferramentas de aprendizado de máquina se tornem mais difundidas, dando às pessoas que não têm conhecimento de programação a oportunidade de explorar e criar usando uma tecnologia de manipulação digital de ponta que hoje é monopolizada por grandes empresas de efeitos especiais”, me disse deepfakeapp.
“O GIF de cima mostra a cena do filme Rogue One com uma Carrie Fisher esquisita feita digitalmente. Orçamento do filme: US$200 milhões”, escreveu derpfake sobre sua criação. “O GIF de baixo é a versão fake que fiz em vinte minutos usando basicamente as mesmas ferramentas e uma atriz parecida. Meu orçamento: US$0 e algumas músicas do Fletwood Mac”.
Esse aplicativo incrivelmente fácil de usar, que possibilita a criação de vídeos falsos — pornográficos, mas também de cunho político e o que mais se possa imaginar — e que evolui num ritmo impressionante pode mudar a forma como consumimos imagens. A combinação de uma rede neural de código aberto, nossa crescente incapacidade de discernir o falso do real, e a forma como as notícias se espalham nas redes sociais forma um panorama ameaçador.
“Do ponto de vista cultural e sociológico, essa tecnologia é arriscada, mas ela veio para ficar”, me disse Jay Owens, analista de mídias sociais e diretor de pesquisa da plataforma de inteligência de audiência Pulsar, por email. “Vídeos virais e a exposição de celebridades operam em um plano de entretenimento puro — mas essa tecnologia vai deixar esse conteúdo cada vez mais pornográfico, absurdo e cômico”.
Deborah Johnson, professora emérita de Ética Aplicada da faculdade de engenharia da Universidade da Virgínia, nos EUA, me disse que não há dúvidas de que essa tecnologia se tornará tão avançada que, em breve, será impossível diferenciar vídeos produzidos com ela de vídeos reais.
“Poderíamos argumentar que a verdadeira novidade é a qualidade dessas adulterações, ou sua credibilidade. Estamos chegando em um ponto em que não conseguimos mais diferenciar o real do falso — não que a gente soubesse antes”, disse ela. “A verdadeira inovação está no fato de que agora essa tecnologia está disponível para todos, ou que ela estará em breve… Isso é perturbador. Isso mina nossa capacidade de confiar nas informações que consumimos.”
Olko