Modo Noturno:

Crítica: O Dilema das Redes

The Social Dilemma, EUA, 2020


Documentário mostra as preocupações dos próprios criadores das redes sociais em relação ao uso delas

★★★★☆


O documentário O Dilema das Redes faz uso das vozes de alguns dos desenvolvedores das principais plataformas sociais (Facebook, Instagram, Google, Twitter, Pinterest, etc.) para levantar preocupações comuns a muitos pais e estudiosos. Líderes de negócio e engenheiros relatam suas experiências pessoais e seus pontos de vista diante de tecnologias que podem alterar todos os aspectos da existência humana, desde o nosso comportamento no dia a dia às formas como nos organizamos em sociedade.

O principal ponto de preocupação levantado é o fato de que as redes sociais foram desenvolvidas com o objetivo de capturar o máximo possível de atenção. Sem se preocupar com eventuais efeitos adversos, essas plataformas estão em uma corrida desenfreada para viciar seus usuários, maximizando o tempo que eles passam online e vendendo esse tempo para anunciantes. Segundo os próprios profissionais, isso é feito por meio de algoritmos que fazem uso de certos aspectos da psicologia humana para maximizar o engajamento.

Alguns deles começaram a se preocupar depois que perceberam que “hackearam” a mente humana com tamanho sucesso que nem eles próprios estavam imunes às técnicas que desenvolveram. Não se trata apenas de uma questão de coleta e uso de dados, como mostrados no documentário Privacidade Hackeada (crítica aqui), mas de um “sequestro” da experiência humana da forma que ela se desenvolveu nos últimos milhares de anos. Não é de se estranhar que vários desses executivos e engenheiros, além de limitar o próprio uso de redes sociais, também proíbam seus filhos de utilizá-las antes de certa idade.

Os pontos levantados por eles são os mesmos levantados em Privacidade Hackeada e em Depois da Verdade: Desinformação e o Custo das Fake News (crítica aqui), com o agravante de que em O Dilema das Redes são os próprios desenvolvedores fazendo as mesmas críticas. Do ponto de vista deles, as ferramentas desenvolvidas não são inerentemente ruins, mas o modelo de negócio que as tornou lucrativas sim. Líderes como Mark Zuckerberg e Jack Dorsey precisam garantir os lucros de seus acionistas e ficam reféns desse tipo de decisão. Se falarem em sacrificar lucros em nome de responsabilidade social, correm o risco de serem demitidos das próprias empresas.

Essas tecnologias também são a base para os problemas discutidos pela jornalista Patricia Campos Mello no livro A Máquina do Ódio (resenha aqui), que relata como a aplicação de fake news tem comprometido as democracias ao redor do mundo. Quando usadas para dividir e radicalizar a população, essas plataformas correm o risco de se tornarem armas de destruição em massa no futuro. Um exemplo disso é como o protagonista de Rede de Ódio (crítica aqui) as utiliza para manipular os dois lados de uma disputa eleitoral.

A coleta de dados e a atenção capturada pelas plataformas sociais também dão origem a um novo paradigma de poder. Conforme escrevi na crítica de Privacidade Hackeada:

Uma ferramenta como essa dá a seu portador algo que nenhum governo (ou outros grupos de interesse) jamais teve: poder direto sobre os pontos de vista de milhões ou bilhões de pessoas. Isso, essencialmente, quebra a roda da democracia. Se a vontade do povo se torna passível de manipulação sistemática por um pequeno grupo de pessoas, o sistema político está condenado a voltar para modelos autocráticos ou, no mínimo, oligárquicos.

Os profissionais entrevistados em O Dilema das Redes chegam em conclusões semelhantes. Nunca na História da humanidade um poder de influência tão grande foi acumulado por tão poucos. Uma coisa é um líder poderoso e respeitado ter suas ordens seguidas pela população; algo completamente diferente é ele ser capaz de alterar as vontades e os pensamentos das pessoas sem elas perceberem, como o Facebook fez nesse experimento de 2014 (resultados publicados aqui). Hoje, movimentos que parecem orgânicos e espontâneos podem ter sido “plantados” no corpo social com a ajuda de anúncios microdirecionados baseados nas características psicológicas e sociais de cada pessoa para os quais são mostrados.

O documentário também faz uso de uma dramatização para exemplificar os problemas citados pelos entrevistados. Nela, a família do jovem Ben (Skyler Gisondo) se vê cada vez mais afetada pelo vício dos seus membros em mídias sociais, com consequências alarmantes. Mas o aspecto mais cativante dessa história é como os realizadores “dramatizaram” o funcionamento dos algoritmos que estão sempre em busca da atenção dos usuários, colocando três personagens (interpretados por Vincent Kartheiser) tomando e explicando as decisões de bastidores. Não é nada que esclareça os detalhes técnicos da implementação dos algoritmos, mas o recurso exemplifica muito bem os tipos de decisões que eles tomam a cada segundo para bilhões de usuários.

Junto com as outras obras citadas, O Dilema das Redes é mais um trabalho que aborda uma das maiores preocupações sociais da atualidade e ajuda a compor uma visão global de um problema inédito na humanidade. O foco aqui está nas ferramentas que ajudaram a criar esse cenário ao realçar alguns dos piores aspectos da psicologia humana e das nossas sociedades. O documentário também traz algumas sugestões do que podemos fazer para começar a controlar o problema, mas ainda estamos apenas no início da tempestade.