A Anthropic revelou o Claude Mythos Preview, um novo modelo de IA que, segundo a empresa, é tão avançado que não pode ser disponibilizado ao público por enquanto. Este modelo alcançou um nível de raciocínio e codificação capaz de superar a maioria dos humanos na detecção e análise de vulnerabilidades em softwares, o que poderia representar uma ameaça se a tecnologia cair nas mãos erradas.
Para limitar seu acesso, a Anthropic optou por disponibilizar o Mythos a um seleto grupo de organizações focadas em segurança digital e infraestrutura crítica através do Projeto Glasswing. Este consórcio inclui gigantes como Apple, Microsoft, Google, AWS, NVIDIA, Cisco, CrowdStrike, Palo Alto Networks, JPMorgan Chase, Broadcom e Linux Foundation, além de representantes do governo dos Estados Unidos, que irão avaliar os riscos e impactos das capacidades do modelo.
O Mythos já demonstrou sua efetividade ao identificar milhares de vulnerabilidades críticas autonomamente, incluindo uma falha de 27 anos no OpenBSD e uma de 16 anos no FFmpeg, que passou por cerca de 5 milhões de testes automatizados sem ser notada. Além disso, descobriu falhas no kernel do Linux que poderiam dar controle total a invasores.
A Anthropic também anunciou um investimento de US$ 100 milhões em créditos para uso do modelo e a destinação de US$ 4 milhões em doações para organizações voltadas à segurança em código aberto. A transparência continua a ser uma prioridade, com a promessa de um relatório após 90 dias sobre os resultados e correções.
Em uma postagem no X, Dario Amodei, CEO da Anthropic, destacou que os riscos associados a uma IA desse nível são evidentes, mas também enfatizou a oportunidade de usá-la para tornar a internet mais segura. Se utilizada de forma adequada, essa tecnologia pode ajudar a corrigir falhas críticas antes que sejam exploradas, aumentando a segurança de sistemas amplamente utilizados.
O que é o Projeto Glasswing e como funcionará?
O Projeto Glasswing é uma iniciativa de segurança cibernética da Anthropic, destinada a utilizar o Claude Mythos Preview como uma ferramenta defensiva para proteger softwares vitais. Ele funciona como um consórcio que une empresas de tecnologia, pesquisadores, provedores de infraestrutura e organizações envolvidas em projetos essenciais da internet, com o objetivo de analisar sistemas e identificar falhas antes que sejam aproveitadas por hackers.
O Mythos Preview será empregado no mapeamento de superfícies vulneráveis e na identificação de fragilidades em sistemas operacionais, navegadores, bibliotecas e infraestruturas amplamente adotadas.
A Anthropic só considerará um lançamento público quando medidas de segurança adequadas tiverem sido implementadas para minimizar o risco de uso indevido, com essas proteções surgindo primeiro em uma versão futura do Claude Opus.