Plataforma da Anthropic ‘perigosa demais’ para ser lançada ao público ajuda a detectar vulnerabilidades em sistemas.
A Microsoft anunciou nesta quarta-feira (22) que será uma das primeiras empresas a se unir à Anthropic para utilizar seu novo modelo de linguagem voltado para segurança. A inteligência artificial (IA) Claude Mythos será integrada em sistemas internos da companhia responsável pelo Windows.
De acordo com o comunicado oficial, o Mythos será implementado na estrutura de programação da Microsoft, onde a empresa busca “aprimorar suas capacidades de cibersegurança”. Além deste, outros modelos avançados de IA também serão utilizados.
Esses modelos participarão do Security Development Lifecycle (SDL), um conjunto de processos e requisitos de segurança fundamentais para os softwares e serviços da companhia, incluindo pacotes de proteção destinados aos clientes.
Concretamente, as IAs auxiliarão em atividades como “identificar e mitigar vulnerabilidades de forma antecipada, além de coordenar respostas defensivas“.
Vercel confirma invasão após hacker colocar dados à venda por US$ 2 milhões
Segundo informações compartilhadas pela Microsoft, o Mythos passou por testes de código-aberto que abordam a detecção de tarefas de engenharia em tempo real, resultando em “melhorias significativas em comparação com modelos anteriores“, embora não tenham divulgado os critérios específicos utilizados nas avaliações.
A IA “perigosa demais” para o mundo
Em um post no blog oficial da Microsoft, foi reconhecido que modelos de linguagem contemporâneos podem ser aplicados para otimizar cibersegurança em várias frentes, como realizar simulações, implementar mudanças em larga escala e executar ações urgentes com menos supervisão humana.
- O Claude Mythos se encaixa nesse perfil, com resultados internos indicados pela Anthropic que foram considerados tão promissores que levantaram preocupações sobre seu uso em brechas de segurança;
- Por ser restrito ao público geral, o modelo de linguagem será licenciado de maneira controlada e apenas para uso comercial por empresas parceiras. Essas parcerias fazem parte de uma iniciativa chamada Project Glasswing;
- Além da Microsoft e outras organizações já confirmadas, o governo dos Estados Unidos também está em negociações para ter acesso ao Mythos, mesmo diante da relação conturbada entre Donald Trump e a Anthropic após o término de contratos com a IA;
- Porém, o serviço já vivenciou seu primeiro incidente de segurança: o Mythos foi acessado por pessoas não autorizadas, que não teriam utilizado o modelo no contexto de cibersegurança;
- Além disso, Sam Altman, cofundador e CEO da rival OpenAI, criticou a maneira como o Mythos foi divulgado, chamando a estratégia de “marketing baseado em medo” e destacando que isso gera um controle limitado da tecnologia.
Deseja se manter atualizado sobre as principais novidades no campo da IA? Visite a seção especial do site da TecMania!