O acesso antecipado aos modelos do Google, Microsoft e xAI permitirá verificar potenciais riscos à segurança nacional.
O governo dos Estados Unidos terá acesso antecipado a novos modelos de inteligência artificial generativa avançados criados por Google, Microsoft e xAI. Essa informação foi divulgada pelo Centro de Padrões e Inovação em IA (CAISI), nesta terça-feira (5).
De acordo com o órgão vinculado ao Instituto Nacional de Padrões e Tecnologia (NIST) do Departamento de Comércio americano, os acordos com as gigantes da tecnologia permitirão verificar potenciais riscos à segurança nacional nesses sistemas antes de sua liberação ao público. As parcerias atendem a um compromisso assumido pela Casa Branca.
Investigando comportamentos inesperados
As avaliações antecipadas realizadas pelas autoridades são ainda mais relevantes após as capacidades avançadas da IA Mythos, da Anthropic, terem acionado sinais de alerta no governo Trump, como relatado pela Reuters. Por isso, as autoridades buscam analisar novos sistemas em busca de potenciais perigos.
- O objetivo é saber se os modelos em desenvolvimento podem representar ameaças como a intensificação de ciberataques e uso militar inadequado;
- O CAISI será o ponto de contato direto com as empresas de tecnologia, representando o governo nessa iniciativa;
- A instituição participará de testes, pesquisas colaborativas e do desenvolvimento de novas práticas associadas a sistemas comerciais de IA;
- “A ciência de medição independente e rigorosa é crucial para entender a IA de ponta e suas implicações para a segurança nacional”, afirmou Chris Fall, diretor da agência, em comunicado.
Especialistas da Microsoft vão colaborar diretamente com representantes do governo nas avaliações, buscando “comportamentos inesperados”, conforme destacado pela empresa em nota. Ela também possui um acordo semelhante com o Instituto de Segurança de IA do Reino Unido.
Empresa brasileira teria sido utilizada em ataques DDoS contra provedores nacionais, segundo informações.
O Google optou por não comentar a iniciativa, enquanto a empresa de IA de Elon Musk ainda não se manifestou sobre a parceria, que poderá incluir a participação de outros avaliadores governamentais.
Expandindo testes
O órgão já realizou mais de 40 avaliações de sistemas de IA, incluindo modelos de ponta que ainda não estão disponíveis para o público. Vale ressaltar que o governo de Joe Biden havia firmado acordos semelhantes, desde 2024.
“Essas colaborações ampliadas com a indústria nos ajudam a aumentar nosso trabalho a favor do interesse público em um momento crucial”, completou Fall. Os testes são conduzidos utilizando versões de modelos com salvaguardas de segurança diminuídas ou removidas, permitindo identificar riscos potenciais.
Aproveitou o conteúdo? Siga o TecMania e descubra os motivos que levaram especialistas e o governo a classificar a IA Mythos como uma ameaça à humanidade.