O Desafio da Moderação no UpScrolled: Crescimento Atraí Problemas

Nos últimos tempos, a plataforma de redes sociais UpScrolled tem atraído usuários como um ímã, especialmente após a mudança de propriedade do TikTok nos Estados Unidos. Em janeiro, o aplicativo já contava com mais de 2,5 milhões de usuários. Mas, apesar desse crescimento impressionante, a UpScrolled está enfrentando sérios problemas na moderação de contento, particularmente em relação a mensagens de ódio e discurso racista.

Um Crescimento Rápido, Uma Responsabilidade Enorme

Após o veredito de que o TikTok poderia ser explorado como uma rede social, muitos migraram para a UpScrolled, ansiosos por encontrar um novo espaço para compartilhar suas opiniões e conteúdos. Mas esse rápido crescimento trouxe à tona desafios significativos, particularmente no que diz respeito à segurança e à saúde da comunidade online.

Em sua essência, as redes sociais são locais para compartilhar experiências e conectar-se com outras pessoas. Entretanto, quando a moderação falha, esses espaços podem rapidamente se transformar em terrenos férteis para práticas prejudiciais e discursos nocivos.

Problemas de Moderação e Conteúdo Ofensivo

A TechCrunch, quando investigou a UpScrolled, confirmou o que muitos usuários estavam denunciando: a plataforma não está lidando adequadamente com a criação de nomes de usuários e hashtags que contenham palavras ofensivas e insultos raciais. É alarmante saber que algumas contas apresentam nomes abertamente racistas, como combinações de insultos ou até mesmo referências a figuras históricas que glorificam o ódio, como Hitler.

Uma vez que esses nomes foram reportados ao canal de suporte da UpScrolled, a resposta que se recebeu foi uma promessa de que a empresa estava "revendo ativamente e removendo conteúdo inadequado". No entanto, a realidade é que essas contas permaneceram ativas, evidenciando uma falha crítica no processo de moderação.

O Perigo do Discurso de Ódio

O que levanta questões ainda mais sérias é a presença contínua de conteúdo prejudicial em outras partes da plataforma. Além dos nomes de usuários, a TechCrunch encontrou postagens com discursos de ódio e homenagens a regimes e figuras extremistas. Isso não apenas enfraquece o ambiente de amizade e respeito que muitos usuários buscam, mas também coloca em risco as comunidades mais vulneráveis.

A Liga Anti-Difamação (ADL) também chamou atenção para o problema, destacando que a plataforma estaria se tornando um abrigo para conteúdos antissemitas e de grupos extremistas. É alarmante pensar que uma rede construída para ser inclusiva pode acabar abrigando o oposto.

A Promessa da UpScrolled e Suas Regras

O UpScrolled, fundado em 2025, anunciou em seu site que a intenção da plataforma é dar a “todos os vozes o mesmo poder”. Desde seu lançamento, a plataforma já foi baixada mais de 4 milhões de vezes, número que cresce a cada dia. Contudo, por trás dessa jornada ascendente, a empresa enfrenta um desafio monumental: como manter um ambiente seguro e amigável para todos?

Apesar de suas promessas, a UpScrolled ainda luta para aplicar suas regras que visam restringir conteúdo ilegal, discurso de ódio, assédio e outras formas de comportamento prejudicial. O fato de que os problemas de moderação estão se espalhando é um sinal claro de que, neste momento, essas regras não estão sendo efetivamente implementadas.

O Ciclo Vicioso das Redes Sociais

Esse cenário não é novo e é um problema enfrentado não apenas pela UpScrolled, mas por diversas redes sociais que veem um aumento repentino de usuários. Um exemplo disso foi o Bluesky, que teve problemas semelhantes com o uso de palavras de ódio em nomes de contas. A questão que se levanta é: como as plataformas podem gerenciar esse influxo de usuários sem comprometer a moderação de conteúdos?

Esperanças para o Futuro

Após a inicialização da TechCrunch, a comunicação com a equipe de imprensa da UpScrolled revelou que a empresa está ciente da gravidade da situação. O fundador, Issam Hijazi, fez um pronunciamento onde confirmou que, de fato, usuários têm carregado conteúdo prejudicial, desafiando as diretrizes da plataforma. Ele enfatizou a importância de criar um ambiente digital saudável e expressou a intenção de aumentar a equipe de moderação enquanto também investia na infraestrutura tecnológica para lidar mais eficazmente com conteúdos indevidos.

A Necessidade de Conexão e Diálogo

A moderação de conteúdo em uma rede social é um tema complexo e repleto de nuances. O desafio vai além de simplesmente remover conteúdo impróprio; envolve um diálogo contínuo com a comunidade e uma escuta ativa das preocupações dos usuários. As redes sociais não são apenas plataformas; são comunidades onde as pessoas devem se sentir seguras e valorizadas.

Um Chamado à Ação

Para que a UpScrolled e outras plataformas possam superar esses desafios, é essencial que se estabeleçam sistemas robustos de feedback e suporte. Os usuários devem sentir que suas preocupações estão sendo ouvidas e levadas em consideração na moderação do conteúdo. A implementação de tecnologias de inteligência artificial é uma opção, mas a supervisão humana continuará sendo fundamental.

Conclusão

A UpScrolled tem potencial para ser uma plataforma inclusiva e onde os usuários podem expressar suas opiniões de maneira livre e respeitosa. No entanto, para que isso se torne realidade, é crucial que a empresa foque em aprimorar sua moderação e se comprometa a criar um ambiente onde o discurso de ódio não seja tolerado.

A luta contra a desinformação e o discurso de ódio nas redes sociais é um desafio contínuo que demanda atenção e ação. Esperamos que a UpScrolled não apenas reconheça essas questões, mas também aja para ser um espaço seguro e acolhedor para todos. Afinal, uma rede social deve ser um reflexo de nossa humanidade e um lugar onde todos podem se sentir parte de uma comunidade.