Grandes empresas de inteligência artificial se comprometeram a tomar medidas para combater o uso indevido de suas tecnologias em casos de abuso sexual baseado em imagens, incluindo deepfakes pornográficos. O anúncio foi feito pela Casa Branca na quinta-feira (12), como parte de uma campanha para conter a disseminação de imagens íntimas não consensuais e materiais de abuso sexual infantil.
Entre as empresas que firmaram o acordo estão gigantes da tecnologia como OpenAI, Microsoft, Adobe e Cohere, além da plataforma de rastreamento de dados Common Crawl. O compromisso inclui a remoção de imagens de nudez dos conjuntos de dados usados para o treinamento de IA, sempre que apropriado, conforme declarado pela OpenAI, criadora do ChatGPT. A empresa Anthropic, responsável pelo Claude, também assumiu essa promessa.
O governo dos EUA destacou que a disseminação de conteúdos de abuso sexual, especialmente envolvendo deepfakes, tem causado consequências graves para mulheres, crianças e pessoas LGBTQI+. A iniciativa faz parte de um esforço mais amplo da administração Biden para combater o aumento dessas práticas.
Ações Adicionais de Grandes Empresas
Além do compromisso das empresas de IA, outras grandes plataformas tecnológicas também estão implementando medidas para mitigar o uso de deepfakes e imagens íntimas não consensuais. O GitHub, por exemplo, proibiu a hospedagem de ferramentas que promovam ou incentivem a criação de conteúdos abusivos. A Meta, controladora do Instagram e Facebook, removeu milhares de contas envolvidas em golpes de sextorsão e bloqueou a promoção de aplicativos que criam deepfakes.
A Snap, proprietária do Snapchat, anunciou que vai disponibilizar novos recursos para ajudar vítimas de deepfakes pornográficos a denunciarem conteúdos indevidos. O Google, por sua vez, está atualizando seu sistema de buscas para reduzir a exibição de imagens falsas explícitas nos resultados e prometeu facilitar a remoção de tais conteúdos quando solicitado pelas vítimas.
Essas iniciativas são vistas como um passo importante para conter o abuso sexual por meio de tecnologias de IA, ao mesmo tempo em que aumentam a pressão sobre empresas de tecnologia para adotarem medidas mais rígidas na proteção de seus usuários.
