Em uma carta, mais de 600 empregados recordam à gigante da tecnologia que a IA deve ser desenvolvida para “beneficiar a humanidade” e não colocá-la em risco.
Funcionários do Google enviaram uma comunicação ao CEO da empresa, Sundar Pichai, solicitando que não disponibilize as tecnologias de IA da empresa para o Pentágono em operações confidenciais. Informações sobre o documento foram publicadas pelo jornal The Washington Post na última segunda-feira (27).
Esse pedido é respaldado por uma reportagem do início do mês, do site The Information, que indicava que a empresa de Mountain View estava em negociações com o Departamento de Defesa dos EUA para fornecer inteligência artificial para atividades militares, em um contrato similar ao que foi firmado com a OpenAI.
“Queremos ver a IA beneficiar a humanidade”
Na carta, que coletou mais de 600 assinaturas, incluindo de pesquisadores do laboratório de IA DeepMind, os funcionários expressam suas preocupações quanto à parceria, argumentando que ela permitirá que o órgão utilize a tecnologia de qualquer forma que desejar. Isso poderia incluir ações secretas, dificultando avaliações externas sobre suas operações.
- Os signatários ressaltaram que a tecnologia foi desenvolvida para ser utilizada para fins benéficos, e por isso não desejam que a IA contribua para ações “desumanas ou extremamente prejudiciais”;
- Os trabalhadores levantaram questionamentos sobre o uso de tecnologias em armas autônomas letais e vigilância em massa;
- “Vidas humanas já estão sendo perdidas e liberdades civis estão em risco, tanto nacional quanto internacionalmente, devido ao uso indevido da tecnologia que ajudamos a construir”, declarou o grupo;
- Eles também mencionaram que a única forma de garantir que a marca não se associe a tais eventos é rejeitando qualquer acordo que envolva operações confidenciais.
“Se não, tais usos podem ocorrer sem nosso conhecimento ou poder para impedi-los”, destaca a carta, que surge dois meses após disputas entre a concorrente, Anthropic, e o Pentágono, por motivos semelhantes.
Udemy sofre vazamento e expõe 1,4 milhão de usuários
Na ocasião, a desenvolvedora do bot Claude também solicitou ao governo dos EUA que não usasse sua tecnologia em trabalhos militares secretos. Em resposta, o Departamento de Defesa optou por dispensar os serviços da startup e aplicou sanções a ela.
Protesto em 2018 provocou mudanças
O uso militar da IA tem gerado debates internos no Google por anos. Em 2018, queixas semelhantes de funcionários resultaram no abandono pelo Google do Projeto Maven, que envolvia o desenvolvimento de sistemas de reconhecimento de objetos em imagens capturadas por drones.
A partir da petição, a empresa comprometeu-se a não usar IA em armamentos e sistemas de vigilância, mas as restrições foram posteriormente removidas para um novo acordo com o Pentágono.
Até o momento, Pichai não se manifestou sobre a carta enviada pelos funcionários. O Google também não apresentou comentários até agora.
Após ataque à NPM, criminosos distribuem versão maliciosa do Bitwarden para roubar dados e credenciais
Siga no TecMania e descubra mais sobre o Projeto Maven, que passou por atualizações significativas e tem apoiado os EUA na guerra moderna.