Por Richard Seymour.
Resenha do documentário O Dilema das Redes (2020).
ue mal as redes sociais podem fazer? Guerra civil! O fim da civilização como conhecemos! Esse é o veredito dos luminares renegados do Vale do Silício, reunidos no novo documentário da Netflix O Dilema das Redes (The Social Dilemma). Como o ex-empregado do Google, Tristan Harris coloca a questão, em um axioma bastante TED Talk, as redes sociais ameaçam dar um “xeque-mate na humanidade”.
Se você acha que isso soa como mais um pânico moral, você não está muito errado. O que indica isso (the dead giveaway) é o intervalo enorme entre o suposto problema e as soluções – taxar a coleta de dados, realinhar incentivos fiscais e não usar nenhum dispositivo antes de dormir. Trata-se de um documentário para pais preocupados e pessoas que usam a #liberal resistants e #NeverTrumpRepublicans.
Todos os vilões do techlash dos liberais estão aqui: fake news, ciberataque russo, ditadores estrangeiros, “atores ruins”, polarização política e adolescentes deprimidos. O Dilema das Redes põe um diretos de plataforma desiludido atrás do outro para entregar a mesma homília familiar, encenada através da história de fundo de uma família suburbana, que vive nos EUA, e vem sendo despedaçada pelo vício em redes sociais.
Clichê do jeito que é, há ainda alguma coisa aí. O pânico moral, geralmente, não é completamente manufaturado. Ele tende a ser baseado em uma realidade que ele distorce. E a indústria que esse documentário descreve em termos tão dilacerantes – vamos chamá-la de indústria social – merece todo o criticismo que recebe.
“Como um choque de Dopamina?”
Já é notícia velha que nós, os usuários da indústria social e seus ratos de laboratórios, somos produtos e que cada clique nosso, passagem de tela e visualização, são meticulosamente monitorados pelos gigantes da tecnologia. Estes dados são coletados, armazenados e, então, segmentados em mercados muito mais precisos do que qualquer outro na história.
O principal propósito comercial em nossos dados é nos vender como mercadoria para os anunciantes e, eficientemente, manipular nossas respostas. Predizer e manipular como nós vamos pensar e agir no futuro, baseado em dados, se tornou um mercado gigantesco em si mesmo: o mercado do “futuro humano”, como a psicóloga social Shoshana Zuboff coloca no documentário.
Talvez, menos compreendida é a dimensão na qual os designers de tecnologia são sistematicamente treinados em persuasão psicológica pelos seus empregadores – com a intenção de usar esse conhecimento para desenhar plataformas que tornem os usuários mais sugeríveis.
Chamath Palihapitiya, um dos primeiros executivos do Facebook e ,agora, um “opositor consciente”, gastava seu tempo constantemente realizando experimentos nos seus usuários, testando táticas minuciosas que funcionariam abaixo do radar da consciência para mantê-los fisgados para pastoreá-los em mais “engajamento”. Configurações padrão, infinitas passagens de tela, “recibos de leitura” e alertas de que outro usuário está digitando, são todos exemplos deste tipo de tática para manter o usuário online o maior tempo possível.
Sean Parker, um ex-chefe do Facebook, argumentas que estas técnicas, de forma consciente e deliberada, exploram uma “vulnerabilidade na psicologia humana”. Usando estas técnicas, eles criaram uma máquina de viciar. O número de usuários e o engajamento aumentaram de forma espetacular. A indústria se tornou a mais lucrativa do mundo.
Eles sabem porque as técnicas funcionam? Eles têm uma teoria. Palihapitiya argumenta que características das redes sociais, como a contagem de “likes” e as notificações em vermelho vivo, foram desenhados para recompensar o engajamento com “choques de dopamina”. A doutora Anna Lembke, acrescentando autoridade científica a este truque do Vale do Silício, argumenta: “as redes sociais são uma droga. Nós temos o imperativo biológico de nos conectar com outras pessoas.”
Dado este imperativo evolutivo, quando nós recebemos notificações de “likes” e outros sinais de aprovação, os “circuitos de recompensa” do nosso cérebro são acesos e nós recebemos nosso choque de dopamina. As recompensas são mais afetivas por serem “intermitentes” do que por serem previsíveis. E quanto mais repetimos a ação e ganhamos a recompensa, mais nós “aprendemos” a sermos viciados.
Isso é um nonsense, baseado em mitos behavioristas, arcaicos e desacreditados. A dopamina não dá um “choque” em ninguém. E as pessoas não “aprendem” a se tornarem viciadas através de recompensas e reforços. A clássica análise de William Brewer sobre os experimentos behavioristas descobriu que a presença ou ausência de estímulo de recompensa ou reforço negativo não fazem a menor diferença se as cobaias aprendem ou não o comportamento que os pesquisadores estavam procurando.
Ainda assim, uma ideologia behaviorista não comprovada, infiltrou-se nas pesquisas sobre vícios, geralmente se fundindo com a mais reducionista psicologia evolutiva – e este documentário tem mais conversa fiada evolutiva duvidosa do que qualquer manual de “como seduzir mulheres” ou coisa do tipo. Os executivos do Vale do Silício adotaram isso como que para explicar como eles são gênios capitalistas por terem tropeçado em um novo jeito de fazer grana. E, deste modo, dizem para nós que eles não tinham ideia do que estavam fazendo.
E quais são os efeitos do vício? Aqui, O Dilema das Redes, se volta para o psicólogo social e centrista repreendido Jonathan Haidt para dar a série de estatísticas preocupantes de sempre. Segundo ele, a depressão e ansiedade aumentaram 62% entre garotas adolescentes mais velhas desde 2011 e as de suicídio 75%. Para garotas pré-adolescentes, as figuras equivalentes são de 189% e 151%. Estas estatísticas valem para os EUA, mas dados similares apareceram em outros lugares.
Tim Kendall, ex-presidente do Pinterest, é enfático quando diz que “estes serviços estão matando pessoas”. Um documentário mais escrupuloso poderia ter examinado todas estas questões mais detidamente. Poderiam haver outras causas para o aumento da depressão, ansiedade, automutilação e suicídio entre mulheres jovens? Por exemplo, teria a vida das pessoas jovens recentemente se tornado pior? Se existem outras causas, como seria possível isolar o papel das redes sociais? Como poderíamos provar que as redes sociais não estão apenas ampliando e depurando tendências sociais existentes?
O Dilema das Redes nota que mulheres jovens supostamente sofrem de algo às vezes chamado de “Snapchat dismorfia”. Sabe-se que algumas procuram fazer cirurgias plásticas para parecem mais com as imagens filtradas de si próprias que elas fazem para circular nas redes. Estas histórias são, em larga medida, baseadas em anedotas compartilhadas entre cirurgiões plásticos.
Intuitivamente, parece plausível que uma economia da atenção baseada no comércio de imagens de auto-perfeição, de “vivendo a sua melhor vida”, iria encorajar jovens mulheres a odiarem mais seus corpos. Ainda assim, o fato de que alguém produza uma imagem de si mesmo no Snapchat, alterando e manipulando para explicar a cirurgia plástica que elas querem, não significa que o Snapchat seja a causa do desejo pela cirurgia. A transformação industrial do corpo feminino a fim de atender um ideal de desejo masculino é mais antigo do que tiozões (boomers) pondo a culpa de tudo nas redes sociais.
“O poder de quem?”
Oque foi distorcido e tirado do lugar n’O Dilema das Redes para produzir esse pânico moral cinematográfico? O Capital. O documentário é bastante lúcido sobre os aspectos da indústria social e como ela funciona. Trata-se, como Harris colocou, de “uma espécie de poder totalmente nova”. A indústria social não apenas nos monitora e nos manipula. Quanto mais nossas vidas sociais são gastas nestas plataformas, mais nossa vida social é programada.
Jaron Lanier, o avô de fala gentil da ciência da computação, fala sobre o modo como as plataformas introduzem uma “sorrateira terceira pessoa” entre cada par de interlocutores, que está pagando para a conversação ser manipulada. Mas alguém poderia ir ainda mais longe, e a autora Cathy O’Neil faz isso quando ela diz que os algoritmos que regulam o modo como nós interagimos são apenas “opiniões embebidas em código”. Opiniões de quem? Na maior parte, destes homens brancos no norte da Califórnia a procura de obter um imenso lucro e reputação. Isso é uma questão política de extrema importância, questão essa que a esquerda tem sido lenta em entender.
O Dilema das Redes está correto em destacar o poder que está em jogo. E quanto ele chama atenção, com horror palpável, para o crescimento exponencial do poder de processamento computacional, ele claramente apreende que poder de processamento é poder político. No entanto, é extraordinário como não ocorre a ninguém pensar este poder como um poder de classe. Pois, aquilo que está sendo mais eficientemente automatizado na ofensiva cibernética contra o trabalho vivo são os imperativos do capital.
A ausência do capital na narrativa do filme resulta em algumas formulações muito estranhas e reveladoras. Nós somos ensinados que as Inteligências Artificiais (IA) governam o mundo. Que, “enquanto humanos, nós quase perdemos o controle sobre estes sistemas”. Que um “xeque-mate na humanidade” está chegando. Que as “máquinas estão dominando a natureza humana” cujos sistemas operacionais e poder de processamento evoluem muito mais vagarosamente. O único sentido em que qualquer coisa disso é verdade é no sentido de que a IA é apenas a expressão programática do capital.
Para O Dilema das Redes, a questão política real que surge desta realidade programada tem a ver com o modo como as plataformas das indústrias sociais promovem polarização e enfraquecem o consenso sobre a realidade. Todo mundo, nós somos informados, está trabalhando com um diferente conjunto de fatos. Guilhaume Chaslot, um ex-engenheiro de software do Google, explica que os algoritmos que ele ajudou a desenhar, como o sistema de recomendação “próximo vídeo” do YouTube, funcionam melhor polarizando as pessoas. Tem algo de fascinantes nos conteúdos “extremos”, suficiente para manter os usuários hipnotizados.
Harris aponta que as “fake news” se espalham seis vezes mais rápido que a verdade “porque a verdade é chata”. Disso se seguem as histórias de horror familiares sobre as redes sociais, sobre teorias da conspiração, propaganda racista, ideologias da Terra Plana e rumores beneficiando ditadores assassinos – tudo isto florescendo nas redes sociais. E, claro, com a Rússia “desestabilizando democracias”.
Há, obviamente, alguma verdade nisso tudo, mas trata-se apenas de um princípio. Pois, o que documentário realmente precisa explicar é: o que há de tão viciante em teorias da conspiração e besteiras do gênero? Se o YouTube e o Facebook tem que parar de circular o conteúdo da extrema direita, talvez isso diga mais sobre as sociedades nas quais as indústrias sociais lucram do que sobre os algoritmos em si. Mark Zuckerberg pode ser amoral o suficiente para lucrar com o negacionismo do Holocausto, mas ninguém está dizendo que ele está realmente tentando promover isso.
Talvez, ainda mais insidiosa é a afirmação de que “polarização” e desacordo acerca dos fatos é um problema político. Há, visivelmente, formas voláteis e exaustivas de polarização cultural que são aceleradas nas redes sociais, mesmo que não sejam exatamente causadas por elas. As guerras culturais online de fato tendem a favorecer a reação. No entanto, não é isso que o documentário está preocupado. O que ele está preocupado é com crianças sofrendo lavagem cerebral em bolhas online e se tornando o tipo de “extremista” que é detido pela polícia.
Para além disso, a preocupação é que, como Harris frisa, que não podemos sequer concordar sobre o que é verdadeiro. Mas é normal para a democracia que haja alguma discordância sobre os fatos. E a polarização pode ser evidência de um engajamento democrático renovado incitada por questões cívicas reais, antes do que jovens sofrendo lavam cerebral pelo TikTok para apoiarem Bernie Sanders. Nada surpreendentemente, os heróis políticos do documentário neste ponto – ambos em seu momento de brilhar, enquanto denunciam o colapso da civilização – são Jeff Flake e Marco Rubio.
“Soluções irrisórias”
Não obstante, se a culpa por todo o caos recente do sistema político norte-americano, de QAnon às milícias armadas, pode ser convenientemente jogada sobre a indústria social, então, faz sentido para Kendall afirmar que a “guerra civil” é um resultado de curto prazo do como as redes sociais funcionam. Lanier vai ainda mais longe, prevendo que se nós não solucionarmos isso logo, a mudança climática não será resolvida, a civilização será destruída e “nós não vamos sobreviver.”
E com esse seu lema quase-farsesco, então, O Dilema das Redes segue para as suas soluções. Ele nos diz que temos que realinhar incentivos fiscais, como, por exemplo, taxar a coleta de dados; insistir em não utilizar dispositivos eletrônicos antes de dormir; e nunca clicar em um “vídeo recomendado”. De todos estas cabeças falantes, prazerosamente tagarelando sobre modelos de negócio, apenas Zuboff se aproxima da escala do problema quando ela diz que o mercado de dados – “futuros humanos” – deveria ser abolido.
O ponto central deste apelo é, talvez, melhor expresso na afirmação de Lanier de que toda vez que as coisas mudaram para melhor é porque alguém disse: “Isso é estúpido, nós podemos fazer melhor”. É difícil engolir a ideia que esta lenda imortal realmente anunciou os grandes momentos emancipatórios da história, da abolição da escravidão ao voto feminino. Não obstante, como Lanier explica, ele não quer machucar o Google, o Facebook, Pinterest, Instagram, TikTok Youtube, Twitter, ou Snapchat. Esse é o seu mundo.
Poucos dentre os convidados realmente querem fazer algo para além de remediar aquilo que eles veem como uma falha no “modelo de negócios”. Mas o que estas companhias podem “fazer melhor”? Elas estão indo excepcionalmente bem. O documentário repete como esta indústria se tornou a mais lucrativa e politicamente importante do mundo. E é uma indústria de evolução rápida, aprendendo novos modos de manipular suas cobaias de laboratório. Por que o “realinhamento de incentivos financeiros” iria realmente detê-los?
O Dilema das Redes é uma história de horror escorregadia com um fim redentor improvável. O documentário não possui o escrúpulo ou a sutileza de perguntar quanto do horror emana da sociedade, antes do que das máquinas. Isto porque a controvérsia está sendo guiada por liberais feridos pela aliança lucrativa entre a indústria social, Trump e a direita – e tudo isso, após Obama e Clinton terem sido tão legais com o Vale do Silício. Isso, realmente, reflete o atraso da esquerda em se engajar neste terreno.
O cyber-marxista Nick Dyer-Witheford, certa vez, notou que todos os programas são programas políticos. A pergunta é: ende está o programa comunista para a indústria social?
Tradução: Adamo da Veiga.
A opinião do/a autor/a não necessariamente representa a opinião de Desacato.info.
