Meta Enfrenta Desafio de AI com Processo Contra Aplicativo Crush AI

A gigante da tecnologia Meta processou a desenvolvedora do polêmico aplicativo Crush AI, que utiliza inteligência artificial para criar imagens nuas de pessoas sem consentimento. A empresa também anunciou novas medidas para combater aplicativos semelhantes em suas plataformas.

Em um processo judicial apresentado em Hong Kong, a Meta acusou a Joy Timeline HK, responsável pelo Crush AI, de tentar contornar sua rigorosa política de revisão publicitária para divulgar anúncios de serviços de nudificação por inteligência artificial. Em um comunicado, a Meta afirmou que repetidamente removeu anúncios do aplicativo por violar suas normas, mas a Joy Timeline HK continuou a publicar novas propagandas.

O Crush AI, que utiliza tecnologia de geração de imagens para criar conteúdos sexualmente explícitos, supostamente veiculou mais de 8.000 anúncios para seus serviços de “desnudamento AI” nas plataformas da Meta nas primeiras duas semanas de 2025. Segundo Alexios Mantzarlis, autor da newsletter Faked Up, a maioria do tráfego para os sites do Crush AI, cerca de 90%, veio do Facebook e Instagram, e ele marcou vários destes sites para a Meta.

De acordo com Mantzarlis, o Crush AI conseguiu driblar as políticas de revisão de anúncios da Meta criando diversas contas de anunciantes e mudando frequentemente os nomes de domínio. Muitas das contas estavam nomeadas de forma a sugerir um propósito enganoso, como “Eraser Anyone’s Clothes” seguido de números sequenciais. Em um momento, o Crush AI até criou uma página no Facebook para promover seus serviços.

As dificuldades enfrentadas pela Meta em moderar conteúdos nocivos não são exclusivas a suas plataformas. Outras redes sociais, como a X (anteriormente Twitter), também estão lutando para lidar com as consequências da adoção de tecnologias de inteligência artificial, especialmente quando se trata da segurança de seus usuários, em particular crianças e adolescentes.

Estudos recentes revelaram que links para aplicativos de nudificação artificial aumentaram significativamente em 2024 em plataformas como X e Reddit, enquanto no YouTube, milhões de usuários foram expostos a anúncios promovendo esses aplicativos. Em resposta a essa questão crescente, tanto a Meta quanto o TikTok baniram pesquisas por palavras-chave relacionadas a aplicativos de nudificação, embora a remoção total desses serviços de suas plataformas tenha se mostrado complexa.

Para enfrentar o problema, a Meta anunciou que desenvolveu novas tecnologias para identificar anúncios de serviços de nudificação, mesmo quando não incluem nudez explícita. Em seu blog, a empresa destacou que está utilizando tecnologia de correspondência para identificar e remover cópias de anúncios mais rapidamente, além de expandir sua lista de termos, frases e emojis que são sinalizados por seus sistemas automatizados.

Além disso, a Meta afirmou que está aplicando táticas tradicionais que utilizava para desmantelar redes de comportamentos maliciosos a essas novas redes que promovem serviços de nudificação. Desde o início de 2025, a Meta relatou ter desmantelado quatro redes distintas que promoviam tais anúncios.

Fora de suas plataformas principais, a Meta também começou a compartilhar informações sobre aplicativos de nudificação por meio do programa Lantern da Tech Coalition, uma iniciativa colaborativa entre Google, Meta, Snap e outras empresas para combater a exploração sexual infantil na internet. Desde março, a Meta forneceu mais de 3.800 URLs únicos para essa rede.

No que diz respeito à legislação, a Meta reiterou seu compromisso em “continuar a apoiar legislações que permitam aos pais supervisionar e aprovar os downloads de aplicativos pelos seus filhos adolescentes.” A empresa já havia manifestado apoio ao Take It Down Act nos Estados Unidos e informou que está colaborando com legisladores para sua implementação.

Com a crescente adoção de inteligência artificial nas redes sociais e o aprimoramento constante de estratégias de moderação, o caso do Crush AI ilustra os complexos desafios que empresas como a Meta estão enfrentando na proteção de seus usuários. Enquanto a batalha contra aplicativos prejudiciais se intensifica, continua sendo crucial que plataformas, legisladores e a sociedade em geral colaborem para criar um ambiente digital mais seguro.