Meta em Guerra Contra Apps de Nudez por IA como o Crush AI

O Alerta da IA Generativa e o Caso Crush AI

A inteligência artificial generativa, apesar de suas promessas, tornou-se uma ferramenta de dois gumes, com apps como o Crush AI explorando-a para criar imagens íntimas falsas sem consentimento. Este cenário acendeu um alerta máximo na Meta, que agora parte para uma ofensiva judicial e tecnológica contra esses apps de IA para nudez.

A Ofensiva da Meta e a Persistência do Crush AI

Conforme divulgado pelo TechCrunch, a Meta processou em Hong Kong a Joy Timeline HK, por trás do Crush AI. A acusação: o app veiculou milhares de anúncios enganosos em plataformas da Meta, como Facebook e Instagram, burlando revisões para promover serviços de 'desnudamento por IA'. A Meta afirma que, mesmo após remoções, a Crush AI persistiu. Investigações, como a de Alexios Mantzarlis, apontam que o Crush AI obteve até 90% de seu tráfego do Facebook ou Instagram no início de 2025, com mais de 8.000 anúncios, usando táticas como múltiplas contas e alteração de domínios para evadir a moderação de conteúdo IA.

Riscos Ampliados e as Contramedidas da Meta

O problema dos 'AI nudifiers' não se restringe à Meta; X, Reddit e YouTube enfrentam desafios com a proliferação desses serviços, evidenciando os riscos da IA generativa e o perigo para a segurança online de menores. A corrida para integrar IA em redes sociais abriu novas vulnerabilidades.

Em resposta, a Meta anunciou contramedidas: nova tecnologia para identificar anúncios de 'nudify' (mesmo sem nudez explícita), remoção rápida de cópias e expansão de termos proibidos. Quatro redes promotoras desses apps foram desmanteladas pela Meta desde o início de 2025. A empresa também colabora externamente, partilhando URLs via programa Lantern da Tech Coalition, e apoia legislação para controle parental sobre downloads de apps por adolescentes.

Desafios Contínuos e a Busca por Segurança

A ação da Meta contra o Crush AI é um passo crucial, mas ilustra uma batalha complexa. A facilidade com que esses aplicativos surgem exige vigilância, cooperação e uma discussão ética sobre IA. A proteção dos usuários vulneráveis é prioritária.

Fonte: TechCrunch