Entre TikTok, Roblox e Discord: infância e adolescência na Era Digital

No início do ano, foi sancionada a lei que restringe o uso de celulares nas escolas do país, mobilizando um debate sobre a relação entre Estado, educação, juventude e tecnologias digitais. A mediação entre crianças e adolescentes e o uso de redes sociais é cada vez mais crítica, sendo tema de diversos documentários e matérias jornalísticas, além do estudo de casos emblemáticos que remontam episódios extremos de violência e abuso, tendo os jovens não apenas enquanto vítimas, mas também como perpetradores de crimes digitais — ou de crimes que são ao menos mobilizados desde as redes.

 Na recente série da Netflix, Adolescência, encontramos a ficcionalização deste tipo de tragédia contemporânea: um jovem de 13 anos é acusado de ter assassinado sua colega de escola. A questão parece atravessar os modos de subjetivação contemporâneos, através das redes sociais e mídias digitais, que são especialmente danosos quando dirigidos para crianças e jovens, em uma fase de formação onde as mudanças são tão frenéticas e radicais quanto é desesperadora a busca por sentido de si e horizonte de identidade, processos que vão formar o sujeito sem que possa se dar conta de suas amplitudes.

A formação de crianças e adolescentes na era digital coloca questões fundamentais que atravessam ética, política, pedagogia e psicologia, trazendo problemas centrais para a educação das novas gerações. Os fóruns digitais, assim como as redes sociais, colocaram a questão da anonimidade em pauta desde seus primórdios. No dia 7 de abril completam-se 14 anos do massacre de Realengo, considerado um dos primeiros casos de tiroteio em escolas no Brasil, motivado pelo discurso masculinista, misógino e feminicida que circula em fóruns anônimos digitais (os chamados ‘chans’). 

Essa dinâmica na ‘cultura digital’ se anuncia com fóruns anônimos e hoje se atualiza em plataformas como o Discord. Titular da Vara da Infância e Adolescência no Rio de Janeiro, a juíza Vanessa Cavalieri alerta sobre os novos tipos de crime que cresceram com o processo de digitalização: se antes eram comuns as infrações por tráfico, roubo ou furto por adolescentes das classes marginalizadas, ao menos nos últimos dez anos – sendo recente mesmo o levantamento de tais dados – disparam crimes como “pornografia infantil e de vingança, pedofilia clássica, agressões ameaças e violência de gênero, crimes de ódio e contra a honra, racismo, misoginia, supremacismo branco” e ideologias (neo)nazistas por jovens de classe média e alta, vindos das escolas mais caras do Rio de Janeiro. Cavalieri afirma que plataformas de jogos como o Roblox ou de comunicação como o Discord são os principais espaços digitais a serem observados e controlados hoje em dia. 

Um dos maiores problemas, talvez o maior, ainda seja a possibilidade de total anonimidade e inexistência de registro das atividades no Discord. Como afirma a juíza, não existe moderação alguma: “eles mandaram um manual para juízes agora informando que não pedem informação do usuário e nenhum conteúdo fica gravado.” Os pais e responsáveis em geral parecem não compreender o caráter público dos espaços digitais. 

Comparando-os com uma praça escura, onde não se deixaria uma criança sozinha, Cavalieri enfatiza a gama de riscos possíveis em tais espaços: desde uma menina de 16 anos que reponde por incentivo ao suicídio de outras no Discord, plataforma que conheceu por curadoria do TikTok, onde costumava ver vídeos de dança desde os 12 anos; ao de um menino em outro servidor, voltado à misoginia e supremacia branca, indicado também pela curadoria — o for you, ou ‘para você’, aba de sugestões — do TikTok. Além disso, espaços como o Roblox (algo maior que um jogo; uma plataforma de jogos) tornam-se propensos ao aliciamento de menores:

“Tem o joguinho de fazer o cupcake, mas tem o joguinho que é uma sala de sexo grupal, outro é um massacre na escola e um de tortura de animais. E as famílias precisam restringir isso nas configurações. Mas o problema maior é que ele, assim como o Fortnite, tem chat e é povoado de pedófilos. O joguinho inocente é o que com certeza vai ter pedófilo infiltrado se fazendo passar por uma criança para conseguir aliciar”, adverte.

Acontece que, para além desse caráter público, os espaços digitais são organizados por empresas privadas, entidades que cada vez mais procuram formas de se eximir da responsabilidade por tais espaços, tanto pela moderação ser custosa, mas principalmente pela falta de moderação ser interessante (talvez até fundamental), não só do ponto de vista dos lucros, mas também pela peculiar ideologia da “liberdade” fomentada por Big Techs. 

Sendo fundamentalmente político-econômico, o valor e poder de tais empresas é frequentemente considerado de modo separado – suas cifras, ações e especulação por um lado; seu poder, efeito e influência política por outro. Entretanto, a capacidade de influenciar e formar a juventude – e com ela a subjetividade de uma geração – é um ótimo aspecto para compreendermos como ambos estão emaranhados, sendo dois lados de uma mesma moeda. Além da dimensão de espaços não moderados, onde é possível explorar a anonimidade, também é conhecido o envolvimento de gigantes digitais como a Cambridge Analytica, desde a influência no resultado eleitoral pela manipulação das camadas mais jovens até a “guerra comunicacional” para impedir que adolescentes se interessem pela Al Qaeda. 

Chama atenção também a percepção de certa influência retroativa entre “interação online” e “comportamento offline” – promovendo desde “personalidades anti-sociais” até a normalização de uma distância contraditória e radical entre comportamento (e até mesmo identidade) – na dimensão “pública” ou “privada”. Essa interação pode ser com “pessoas reais”, mas também com estruturas abstratas como a curadoria de conteúdos automatizada por algoritmos, inteligências artificiais e a análise massiva de dados. 

Momento de transição da infância para a vida adulta, estudos indicam a adolescência como período crítico onde a esfera digital tem efeitos “modeladores sobre a nova geração, não apenas na forma como influencia a perspectiva cultural, o comportamento e a privacidade, mas também na personalidade”, como afirma Nora McDonald. Em suas pesquisas, considera que os adolescentes fazem um “pacto” com as mídias sociais, trocando seus dados e privacidade por um “espelho algorítmico”, e acham um bom negócio: pensam que são imunes à influência em suas identidades. 

Seus estudos, porém, indicam o contrário: são vulneráveis à “distorção da autoimagem e problemas de saúde mental com base em algoritmos de mídia social explicitamente projetados para criar e recompensar hipersensibilidades, fixações e dismorfias.” Mas por que os algoritmos “fazem” isso? Obviamente, devemos compreender que “algoritmo” aqui se refere aos tipos de demanda que emergem para a formação da identidade – existe, obviamente, alguma relação entre essas demandas e o “modelo de negócios” inscrito na lógica dessas mídias digitais, desde sua interface. 

Levando tudo isso em consideração, deveríamos nos atentar para o potencial de determinação social, e sua especificidade geracional crescente, desde as mídias digitais: a mediação social promovida por tais plataformas esconde, por vezes com a própria noção de “rede”, seu caráter não horizontal, seu relevo próprio. A realidade digital contemporânea traz consigo essa distorção do espaço, suas dimensões virtualmente anônimas, “imapeáveis”, que precisam ser investigadas.

(*) Cian Barbosa é bacharel em sociologia (UFF), doutorando em filosofia (UNIFESP) e psicologia (UFRJ), pesquisa teoria do sujeito, crítica da cultura, violência, tecnologia, ideologia e digitalização; também é integrante da revista Zero à Esquerda, tradutor e ensaísta, além de professor e coordenador no Centro de Formação, onde oferece cursos livres junto a outros professores.