O projeto visa facilitar a identificação, denúncia e investigação de conteúdos prejudiciais gerados por inteligência artificial.
A OpenAI revelou, na quarta-feira (8), uma estratégia destinada a aumentar a proteção das crianças nas plataformas digitais em face do crescimento da inteligência artificial generativa. O foco é enfrentar a exploração sexual infantil associada aos avanços da tecnologia.
De acordo com a empresa, a iniciativa foi criada em colaboração com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) e órgãos governamentais dos Estados Unidos, incorporando recomendações de especialistas em segurança infantil e organizações pertinentes. A proposta visa aprimorar a detecção e investigação de casos de abuso.
Nossos vídeos em destaque
Plano de Segurança Infantil da OpenAI
Este plano aborda três aspectos centrais, conforme esclarecido pela desenvolvedora do ChatGPT. Um dos pontos enfatizados é a atualização das leis para lidar com material de abuso sexual infantil gerado ou alterado por soluções de IA.
- Melhorar os sistemas de denúncia para as autoridades competentes é outra mudança crucial para proporcionar investigações mais eficazes;
- O plano também inclui a integração de novas medidas de segurança nos modelos de IA, para prevenir e detectar o uso inadequado da tecnologia;
- Além disso, a estrutura oferece abordagens legais, operacionais e técnicas com o intuito de aprimorar a identificação de riscos, acelerar respostas e apoiar a responsabilização;
- O projeto busca identificar ameaças de maneira proativa, garantindo que as informações estejam acessíveis para os investigadores.
“Como copresidentes da Força-Tarefa de IA da Aliança dos Procuradores-Gerais, consideramos este plano um avanço crucial para alinhar as práticas de segurança infantil do setor tecnológico às realidades da fiscalização que enfrentamos diariamente”, comentaram os procuradores gerais Jeff Jackson e Derek Brown.
Vazamento do Claude Code resulta em versão modificada com vírus
Este novo projeto de segurança infantil da OpenAI baseia-se em iniciativas anteriores. Recentemente, a empresa atualizou suas diretrizes para interações com menores de 18 anos e proibiu a criação de conteúdos que incentivem a automutilação.
Aumento de casos
No ano passado, foram registradas mais de 8 mil denúncias de materiais de abuso sexual infantil gerados por IA apenas no primeiro semestre, conforme a Internet Watch Foundation (IWF). Esse número representa um aumento de 14% em relação ao primeiro semestre de 2024.
Os materiais denunciados incluem imagens explícitas fraudulentas de crianças, criadas com ferramentas inteligentes. Elas são frequentemente utilizadas para extorsão financeira e aliciamento de menores, de acordo com a instituição britânica.
“Continuamos comprometidos em colaborar com parceiros da indústria, do governo e da comunidade de proteção à infância para desenvolver soluções que minimizem os danos e garantam a segurança das crianças”, afirmou a CEO do NCMEC, Michelle DeLaune.
Hackers norte-coreanos comprometeram Axios e NPM ao atacar uma única pessoa
A OpenAI também lançou materiais para reforçar a segurança de adolescentes na internet. Confira mais detalhes nesta matéria.
