Max Fisher e Amanda Taub

Publicado originalmente no The New York Times

NITERÓI — Quando Matheus Dominguez tinha 16 anos, o YouTube recomendou um vídeo que mudou sua vida.

Ele fazia parte de uma banda em Niterói, cidade brasileira cercada de praias, e praticava guitarra assistindo a tutoriais na internet.

Havia pouco tempo, o YouTube instalara um novo e poderoso sistema de inteligência artificial, que aprendia com o comportamento do usuário e encadeava o que era assistido e recomendações para outros vídeos. Um dia, isso direcionou Matheus a um professor de guitarra amador chamado Nando Moura, que ganhara uma legião de seguidores postando vídeos sobre heavy metal, video games e, principalmente, política.

Em inflamados discursos de extrema direita floreados e paranoicos, Moura acusava feministas, professores e políticos do mainstream de tramarem enormes conspirações. Matheus Dominguez viciou-se nos vídeos.

À medida que passava mais tempo no YouTube, o site recomendou mais vídeos de outras figuras da extrema direita. Um deles era um legislador chamado Jair Bolsonaro, então uma figura marginal na política do país — mas uma estrela na comunidade de extrema direita do YouTube no Brasil, onde a plataforma se tornou mais acessada do que todos os canais de TV, salvo um.

No ano passado, Bolsonaro tornou-se presidente.

“O YouTube se tornou a plataforma de rede social da direita brasileira”, diz Matheus, agora um adolescente esguio de 17 anos que, diz, também planeja seguir carreira política.

Membros da nova direita brasileira — dos organizadores de base aos deputados federais — afirmam que seu movimento não teria ascendido tanto, nem tão rápido, sem o mecanismo de recomendações do YouTube.

Pesquisas recentes concluem que isso pode ser verdade. O sistema de busca e recomendação do YouTube parece ter sistematicamente desviado os usuários a canais de extrema direita e de conspiracionistas no Brasil.

Uma reportagem do New York Times no Brasil descobriu que, reiteradamente, vídeos promovidos pelo site atingiram aspectos centrais da vida cotidiana.

Professores descrevem salas de aula cuja indisciplina é suscitada por estudantes que citam trechos de vídeos conspiratórios do YouTube ou que, encorajados por estrelas da extrema direita do YouTube, secretamente gravam seus professores.

Alguns pais e mães buscam orientações médicas no “Dr. YouTube”, mas, em vez disso, acessam informações perigosamente equivocadas, dificultando os esforços do país em combater doenças como Zika. Vídeos virais incitaram ameaças de morte a defensores da saúde pública.

Na política, uma onda de estrelas direitistas do YouTube se candidataram nas eleições, assim como Bolsonaro, e alguns foram eleitos com índices históricos. A maioria ainda usa a plataforma, governando a quarta maior democracia do mundo por meio de provocações e ofensas (ou “trollagens”) inflamadas pela internet.

O sistema de recomendações do YouTube é elaborado para maximizar o tempo gasto na plataforma, entre outros fatores, mas não para favorecer qualquer ideologia política, afirma a empresa. O sistema sugere o que ver a seguir, muitas vezes iniciando o próximo vídeo automaticamente, com o objetivo interminável de nos manter grudados às nossas telas.

Mas as emoções que absorvem as pessoas — como medo, desconfiança e raiva — frequentemente são fatores centrais de teorias da conspiração e, em particular, dizem especialistas, da extrema direita.

À medida que o sistema sugere mais vídeos provocativos para os usuários continuarem assistindo, eles podem ser direcionados a um conteúdo extremista com o qual talvez nunca se deparariam de outra forma. E isso é projetado para levar os usuários a novos tópicos que incitem novos interesses — uma benção para canais como o de Matheus, que usa cultura pop como uma porta de entrada para ideias de extrema direita.

O sistema é responsável por 70% do tempo total de uso da plataforma, segundo a empresa. Enquanto as visualizações crescem rapidamente em todo o mundo, o YouTube fatura mais de 1 bilhão por mês, acreditam alguns especialistas.

Zeynep Tufekci, acadêmico pesquisador de mídias sociais, chamou de “um dos instrumentos de radicalização mais poderosos do século XXI”.

Representantes da empresa questionaram a metodologia dos estudos e disseram que o sistema da plataforma não privilegia nenhum ponto de vista nem direciona usuários para o extremismo. Contudo, representantes da empresa reconheceram que algumas das conclusões podem ser verdadeiras e prometeram fazer mudanças.

Farshad Shadloo, porta-voz, disse que o YouTube “investiu em peso em políticas, recursos e produtos” para reduzir a disseminação de desinformação prejudicial. Acrescenta: “nós já vimos que conteúdos autoritários estão prosperando no Brasil e correspondem a alguns dos conteúdos mais recomendados no site”.

Danah Boyd, fundadora do think tank Data & Society, atribuiu a perturbação no Brasil ao empurrão incansável do YouTube para engajar espectadores e o lucro que isso gera.

Apesar de escândalos de corrupção e uma profunda recessão terem devastado a situação política do Brasil e deixado muitos brasileiros dispostos a uma pausa no status quo, Boyd chamou o impacto do YouTube de uma indicação preocupante do impacto crescente da plataforma em democracias pelo mundo.

“Isso está acontecendo por toda parte”, disse ela.

Mr. Bolsonaro was a star in YouTube’s far-right community in Brazil, where the platform has become more
widely watched than all but one TV channel. Adriano Machado/Reuters

O partido do YouTube

Maurício Martins, o vice-presidente local do partido de Bolsonaro em Niterói, creditou “a maioria” do recrutamento do partido ao YouTube — incluindo ele próprio.

Um dia, estava passando o tempo no site, relembra ele, quando a plataforma lhe mostrou um vídeo de um blogueiro de extrema direita. Ele assistiu por curiosidade. Outro vídeo apareceu, depois outro.

“Antes disso, eu não tinha um histórico de ideologia política” disse Martins. As recomendações do YouTube em reprodução automática, declarou, foram “minha educação política”.

“Foi assim com todo mundo”, ele disse.

Cada vez mais, sente-se a influência política da plataforma em escolas brasileiras.

“Às vezes, estou assistindo a vídeos sobre um jogo e, de repente, é um vídeo sobre Bolsonaro”, disse Inzaghi D., estudante de Niterói de 17 anos de idade.

Cada vez mais, seus colegas fazem afirmações extremistas, frequentemente citando como fonte de evidências estrelas do YouTube como Moura, o guitarrista tornado ”conspiracionista”.

“É a fonte principal de crianças para conseguir informação”, disse.

Poucos ilustram a influência do YouTube melhor do que Carlos Jordy.

Musculoso e bastante tatuado — sua mão esquerda leva uma caveira em chamas com olhos de diamante —, ele passou a integrar a câmara municipal em 2017, com pouca perspectiva de seguir pela política tradicional. Então, Jordy se inspirou em blogueiros como Moura e seu mentor político, Bolsonaro, voltando-se para o YouTube.

Ele postou vídeos acusando professores locais de conspirar para doutrinar estudantes para o comunismo. Os vídeos lhe renderam “audiência nacional”, disse ele, e impulsionou sua impressionante ascensão, apenas dois anos depois, para o senado federal.

“Se mídias sociais não existissem, eu não estaria aqui”, disse ele. “Jair Bolsonaro não seria presidente.”

Mr. Dominguez with the equipment he used to produce YouTube content: his phones and camera.
Dado Galdieri for The New York Times

Descendo pela toca do coelho

A algumas centenas de quilômetros de Niterói, uma equipe de pesquisadores coordenados por Virgilio Almeida na Universidade Federal de Minas Gerais se debruçaram sobre computadores para tentar compreender como o YouTube molda a realidade dos usuários.

A equipe analisou transcrições de milhares de vídeos, assim como dos comentários abaixo deles. Canais de extrema direita no Brasil, segundo descobriram, tiveram uma expansão de público muito mais rápida do que outros, e parecia estar inclinando o conteúdo político geral do site.

Nos meses que sucederam a mudança de algoritmo do YouTube, menções positivas sobre Bolsonaro inflaram. O mesmo ocorreu com menções a teorias da conspiração sugeridas por ele. Isso começou quando as pesquisas de opinião ainda o mostravam como profundamente impopular, sugerindo que a plataforma estivesse fazendo mais do que apenas refletir tendências políticas.

Uma equipe do Berkman Klein Center, de Harvard, partiu para testar se a ascensão meteórica da extrema direita brasileira na plataforma havia sido impulsionada pelo mecanismo de recomendações do YouTube.

Jonas Kaiser e Yasodara Córdova com Adrian Rauchfleisch, da Universidade Nacional de Taiwan, programaram um servidor baseado no Brasil para acessar um canal ou um termo de busca popular, depois abrir as recomendações principais do YouTube e, então, seguir as recomendações de cada um, e assim por diante.

Repetindo o processo milhares de vezes, os pesquisadores traçaram como a plataforma direciona usuários de um vídeo a outro. Descobriram que, depois de usuários assistirem a um vídeo sobre política ou mesmo de entretenimento, as recomendações do YouTube frequentemente favoreciam conteúdo de extrema direita, canais cheios de ideias conspiratórias como o de Moura.

Crucialmente, usuários que assistiam a um canal de extrema direita seriam frequentemente apresentados a muitos mais.

O algoritmo unira canais antes marginais — e, em seguida, consolidou um público para eles, concluíram os pesquisadores.

Um desses canais pertencia a Bolsonaro, que há muito usava a plataforma para postar boatos e ideias conspiratórias. Apesar de ser um usuário antigo do YouTube, seus seguidores online haviam feito pouco para expandir sua base política, que mal existia a nível nacional.

Então, o sistema político do Brasil colapsou, enquanto disparava a popularidade do YouTube. As visões de Bolsonaro não mudaram. Mas a extrema direita do YouTube, da qual ele era uma das grandes figuras, viu sua audiência explodir, ajudando a coletar enormes números de brasileiros para a sua mensagem no momento em que o país estava apto para uma mudança política

O YouTube questionou a metodologia dos pesquisadores e disse que os dados internos contradizem as conclusões do estudo. A empresa, porém, negou o pedido do Times para ter acesso aos dados, assim como pedidos para certas estatísticas que revelariam se os resultados encontrados pelos pesquisadores eram precisos ou não.

Gisleangela Oliveira dos Santos leaving her home with her daughter, who suffers from microcephaly. Ms.
Oliveira dos Santos watched YouTube videos attributing Zika to vaccines and international conspiracies.
Dado Galdieri for The New York Times

‘Dr. YouTube’

As teorias da conspiração não se limitam à política. Muitos brasileiros que buscam no YouTube informações de saúde encontraram vídeos que os aterrorizaram: alguns diziam que vacinas estavam espalhando o Zika vírus, ou também inseticidas destinados a conter a proliferação da doença, transmitida por um mosquitos, que devastou o Nordeste do Brasil.

Os vídeos parecem ter ascendido na plataforma de maneira muito similar à do conteúdo político extremista: fazendo afirmações alarmistas e prometendo verdades secretas que mantinham os usuários grudados às telas.

Doutores, assistentes sociais e ex-agentes de Estado disseram que os vídeos criaram a base de uma crise de saúde pública à medida que pacientes assustados recusavam vacinas e mesmo inseticidas anti-Zika.

As consequências foram maiores em comunidades mais pobres, como Maceió, cidade do Nordeste brasileiro que esteve entre as mais atingidas pelo Zika.

“Fake news é uma guerra virtual” disse Flávio Santana, neurologista-pediátrico residente em Maceió. “Nós somos atingidos por todos os lados.”

Quando o Zika começou a se espalhar, em 2015, profissionais de saúde distribuíram larvicidas que matavam os mosquitos que disseminam a doença.

Não muito tempo depois de o YouTube instalar seu novo mecanismo de recomendações, os pacientes de Dr. Santana começaram a lhe relatar terem visto vídeos culpando vacinas pelo Zika vírus — e, mais tarde, larvicidas. Muitos recusavam ambos.

Dra. Auriene Oliviera, especialista em doenças infecciosas no mesmo hospital, disse que pacientes cada vez mais questionavam suas orientações, incluindo as relativas a procedimentos cruciais para a sobrevivência de seus filhos.

“Eles dizem ‘Não, eu pesquisei isso no Google, eu vi isso no YouTube‘”.

Profissionais da medicina, disse ela, estavam competindo “todos os dias” contra “Dr. Google e Dr. YouTube” — e estavam perdendo.

Mardjane Nunes, uma especialista em Zika que recentemente deixou um posto sênior no Ministério da Saúde, disse que profissionais da saúde por todo o Brasil vêm reportando experiências similares. Quanto mais comunidades recusam o larvicida anti-Zika, acrescenta ela, a doença tem um pequeno ressurgimento.

“As mídias sociais estão ganhando”, disse ela.

A comunidade médica do Brasil teve razão para se sentir derrotada. Os pesquisadores de Harvard descobriram que usuários que buscavam informações sobre Zika, ou mesmo aqueles que assistiam a um vídeo confiável sobre problemas de saúde, frequentemente eram redirecionados para canais de conspiração pelo sistema do YouTube.

Um porta-voz do YouTube confirmou as conclusões do Times, dizendo que não são intencionais, e disse que a empresa mudaria a maneira como sua ferramenta de busca apresentava vídeos relacionados ao Zika.

Debora Diniz, a women’s rights activist, was forced to flee Brazil after online attacks by right-wing trolls who
threatened her life. Jaron Berman for The New York Times

Um ‘ecossistema de ódio’

Enquanto a extrema direita ascendeu, muitas de suas vozes principais aprenderam a usar como armas os vídeos conspiratórios, oferecendo um alvo ao seu vasto público: pessoas para culpar. Eventualmente, os conspiradores de YouTube lançaram holofotes sobre Debora Diniz, uma ativista pelos direitos das mulheres cuja defesa da descriminalização do aborto já a havia transformado em alvo para a extrema direita.

Bernardo Küster, estrela do YouTube cujos discursos inflamados em vídeos caseiros lhe renderam 750,000 assinantes e um endosso de Bolsonaro, acusou Debora de envolvimento na suposta armação do Zika.

As mesmas pessoas que trabalham para ajudar famílias afetadas pelo Zika, segundo seus vídeos, estavam por trás da doença. Apoiado por estrangeiros escusos, o objetivo seria abolir a proibição do aborto no Brasil — ou mesmo tornar abortos obrigatórios.

À medida que canais da extrema direita e conspiratórios começaram a citar um ao outro, o sistema de recomendação do YouTube aprendeu a reunir e encadear seus vídeos. Por menos plausíveis que rumores por si sós possam ser, criam a impressão, quando unidos, de fontes diversas revelando a mesma verdade aterrorizante.

“Parece que a conexão é feita por quem assiste, mas a conexão é feita pelo sistema” disse Diniz.

Ameaças de estupro e tortura encheram o email e o telefone de Debora Diniz. Alguns citavam sua rotina diária. Muitos ecoavam afirmações dos vídeos de Küster.

Küster mencionou as ameaças com satisfação, apesar de não endossá-las explicitamente. Isso o manteve nos limites das regras do YouTube.

Quando a Universidade onde Debora Diniz lecionava recebeu um aviso de que um homem armado atiraria nela e em seus estudantes e a polícia disse não mais poder garantir a sua segurança, ela saiu do país.

“O sistema do YouTube de recomendação do próximo vídeo e o próximo vídeo”, disse, “criou um ecossistema de ódio”.

“‘Eu ouvi aqui que ela é uma inimiga do Brasil. Escuto no próximo que as feministas estão mudando os valores familiares. E no próximo eu ouço que ela recebe dinheiro do exterior‘”, disse. “Esse ciclo é o que leva alguém a dizer ‘eu vou fazer o que precisa ser feito’”.

“Nós precisamos que as empresas encarem seu papel”, acrescenta Diniz. “Eticamente, elas são responsáveis.”

À medida que conspirações se espalharam pelo YouTube, criadores desse tipo de vídeo miraram grupos de ajuda cujo trabalho tangencia questões controversas, como o aborto. Mesmo algumas famílias que, por muito tempo, dependeram desses grupos começaram a se perguntar se os vídeos poderiam conter verdades e passaram a evitar essas pessoas.

No Brasil, essa é uma prática online crescente, conhecida como linchamento. Bolsonaro foi um pioneiro, espalhando vídeos em 2012 que acusavam falsamente acadêmicos de esquerda de tramarem para forçar escolas a distribuir ditos “kits gays” para converter crianças à homossexualidade.

Jordy, seu pupilo tatuado de Niterói, não se abalou ao saber que sua própria campanha de YouTube, acusando professores de comunismo, havia deixado suas vidas de cabeça para baixo.

Uma dentre esses professores, Valeria Borges, disse que ela e seus colegas receberam mensagens de ódio, criando um clima de medo.

Jordy, longe de negar isso, disse que esse era seu objetivo. “Eu queria que ela sentisse medo”, disse ele.

“Estamos lutando em uma guerra cultural”, explicou. “Isso é o que fui eleito para fazer.”

Right-wing activists at the São Paulo headquarters of Movimento Brasil Livre, where they create YouTube
videos. The Weekly/The New York Times/FX/Hulu

‘A ditadura do like’

Um marco zero para a política no YouTube pode ser a sede do Movimento Brasil Livre, em São Paulo, que estimulou o impeachment da presidenta de esquerda Dilma Rousseff. Seus membros são jovens, classe média, de direita e extremamente presentes online.

Renan Santos, coordenador nacional do grupo, apontou para uma porta sinalizada como “a divisão do YouTube” e disse: “Este é o coração das coisas”.

Ali dentro, oito rapazes em softwares de edição. Um estava modificando uma imagem de Benito Mussolini para um vídeo argumentando que a direita havia sido equivocadamente culpada pelo fascismo.

Porém mesmo aqui algumas pessoas temem o impacto da plataforma na democracia. Santos, por exemplo, chamou a mídia social de “arma”, adicionando que algumas pessoas em volta de Bolsonaro “querem usar essa arma para pressionar instituições de uma forma que não vejo como responsável”.

O co-fundador do grupo, Pedro D’Eyrot, ex-guitarrista de rock que usa um coque, disse que “nós temos aqui algo que se denomina ditadura do like”.

Enquanto ele falava, um vídeo de YouTube de duas horas estava cativando a nação. Intitulado “1964” em referência ao ano do golpe militar no Brasil, o vídeo argumentava que esse golpe havia sido necessário para salvar o país do comunismo.

Matheus Dominguez, o adolescente que aprendia guitarra, disse que o vídeo o persuadiu de que seus professores inventaram os horrores da ditadura militar.

Borges, professora de história aviltada no YouTube, disse que isso trouxe de volta memórias de toques de recolher militares, ativistas desaparecidos e espancamentos policiais.

“Não acho que sofri meu último espancamento”, disse ela.

The Interpreter é uma coluna de Max Fisher e Amanda Taub que explora ideias e contextos por trás de grandes acontecimentos mundiais.

Mariana Simões contribuiu como correspondente em Niterói e Maceió, Brasil. Kate Steiker-Ginzberg contribuiu de Niterói, Maceió e São Paulo, Brasil. Renata Matarazzo contribuu com a pesquisa.