Conforme a tecnologia de inteligência artificial (IA) continua se desenvolvendo, plataformas de mídia social como o TikTok se aventuram na criação de novos recursos para seus usuários. Entretanto, essas inovações podem vir acompanhadas de riscos, como a recente polêmica acerca dos avatares gerados por IA no TikTok, que levanta questões sérias sobre a possibilidade de gerar conteúdo inapropriado.
Conhecida por ser líder em tendências digitais, a ByteDance, empresa por trás do TikTok, está desenvolvendo os Avatares Sinfônicos, figuras digitais criadas com base em IA que pretendem simular com alta precisão pessoas reais. A novidade, que ainda está em período de testes com um público limitado, já enfrenta obstáculos ao lidar com a temática de falsidade e desinformação na internet.
Problemas surgiram quando o repórter Jon Sarlin, da CNN, relatou que utilizando a ferramenta em sua conta conseguiu fazer os avatares recitarem textos extremamente polêmicos, como excertos do livro “Mein Kampf” de Adolf Hitler e a “Carta à América” de Osama bin Laden. Além disso, constatou-se que os vídeos gerados não continham marca d’água, um mecanismo fortemente recomendado para identificar conteúdos desenvolvidos por IA e evitar o engano dos espectadores.
O TikTok garante que as falhas identificadas não apresentam um risco iminente visto que o recurso não está disponível ao grande público e assegura que um erro técnico foi o responsável pela acessibilidade indevida por usuários comuns. Em resposta à problemática, a plataforma garante que o conteúdo em questionamento seria barrado pelas políticas internas caso tentasse ser postado e afirma que o erro já foi corrigido, restringindo o acesso à ferramenta.
Agora, o TikTok concentra-se em mitigar os riscos dantes expostos e assegurar que quando os Avatares Sinfônicos se tornarem públicos, sejam uma ferramenta segura para criar conteúdo. No entanto, o incidente joga luz sobre o cuidado necessário ao se integrar IA em redes sociais, enfatizando que medidas de segurança devem acompanhar a inovação tecnológica para evitar conteúdos nocivos ou enganosos.
Continue acompanhando as últimas notícias do universo digital e da tecnologia em TecMania.
