Apps de Deepfakes Sexuais: Uma Preocupação Crescente nas Lojas Digitais
Recentemente, o grupo de pesquisa Tech Transparency Project (TTP) lançou um alerta alarmante sobre a disponibilidade de aplicativos que utilizam inteligência artificial para criar deepfakes sexuais. Em uma análise das lojas da Apple e do Google, o TTP descobriu que esses aplicativos estão posicionados de maneira que podem ser facilmente acessados, com algumas até mesmo classificadas como adequadas para todas as idades.
O Que São Deepfakes Sexuais?
Deepfakes são conteúdos digitais que usam tecnologia para alterar ou gerar imagens de maneira realista. No contexto sexual, isso significa que pessoas podem ser transformadas em imagens nuas ou sexualmente sugestivas sem o seu consentimento, algo que é particularmente preocupante quando se trata de adolescentes.
Resultados Alarmantes
O TTP identificou 18 aplicativos na App Store e 20 na Google Play que promovem esse tipo de conteúdo. Dos dez aplicativos mais baixados encontrados, aproximadamente 40% têm a capacidade de criar imagens pornográficas. Dentre todos os 38 aplicativos analisados, 31 são classificados como adequados para menores, levantando questões sérias sobre a proteção de jovens usuários diante de conteúdos potencialmente prejudiciais.
Implicações e Estatísticas
A análise revelou que esses aplicativos foram baixados coletivamente 483 milhões de vezes, resultando em uma receita estimada de US$ 122 milhões. É importante notar que o TTP destaca o aumento de casos de deepfakes sexuais em escolas, o que tem gerado preocupações sociais e legais.
Respostas das Gigantes de Tecnologia
Em resposta às revelações, a Apple afirmou ter removido 15 aplicativos identificados como inadequados, enquanto o Google declarou ter suspendido vários outros. Ambas as empresas têm políticas em vigor para banir material sexual e pornográfico, mas as ocorrências apontam para falhas na aplicação dessas diretrizes.
Busca por Soluções
O TTP realiza essa análise pela segunda vez em um ano, indicando que a situação não está melhorando. As buscas por termos como "nudify" e "undress" nas lojas geralmente resultam em recomendações de aplicativos que promovem a nudez não consensual.
Conclusão
É evidente que uma abordagem mais assertiva é necessária para lidar com a questão dos aplicativos de deepfakes sexuais. A proteção dos usuários, especialmente dos mais jovens, deve ser uma prioridade, e a responsabilidade das plataformas digitais em regular e monitorar seu conteúdo é mais importante do que nunca. A sociedade precisa permanecer atenta e buscar soluções que garantam um ambiente digital mais seguro.