A empresa discutiu mudanças com a equipe de IA de Elon Musk e aceitou a submissão após ajustes no aplicativo; o chatbot ainda permite a criação de montagens sexualizadas.
A Apple desempenhou um papel significativo no caso envolvendo a IA Grok, desenvolvida pelas empresas de Elon Musk e presente na plataforma X. Em determinado momento, a Apple até ameaçou retirar o aplicativo do chatbot da loja de aplicativos para iPhone.
Informações sobre o envolvimento da Apple vieram à tona através de uma carta enviada a senadores dos Estados Unidos e obtida pela NBC. No documento, a empresa detalha que se comunicou diretamente com a equipe do Grok e da plataforma X, buscando forçar ajustes no funcionamento da criação de imagens da IA até que estivessem satisfeitos com os resultados.
- O caso teve início no final de 2025, quando surgiram denúncias de que o Grok permitia a geração de montagens do tipo deepfake sexualizadas, especialmente de mulheres, sem qualquer tipo de consentimento;
- Pesquisas realizadas em janeiro revelaram que o Grok criou cerca de 3 milhões de imagens desse tipo, incluindo de menores de idade em situações de conotação sexual;
- No início de janeiro, o Grok começou a limitar parcialmente a geração dessas montagens, permitindo primeiramente apenas que assinantes do X realizassem as imagens e, mais tarde, bloqueando essa função na rede social;
- Diversos países ameaçaram restringir o uso da rede social e da IA como represália, incluindo Malásia e Indonésia, enquanto o Brasil chegou a registrar um pedido de suspensão;
- A empresa de Musk foi processada pela mãe de um dos filhos de Musk e por três pessoas que se identificam como vítimas do recurso nos EUA;
- Essa polêmica acelerou o processo movido pela polícia francesa contra a x.AI, resultando em buscas no escritório da plataforma naquele país.
O envolvimento da Apple
De acordo com a carta da Apple, a empresa tomou a iniciativa de contatar a x.AI após receber denúncias de usuários sobre o comportamento da IA, que infringia os termos de uso da App Store.
A Apple confirmou que o serviço estava operando de maneira irregular e “ameaçou de modo privado retirar” o Grok da plataforma. Subsequentemente, manteve diálogo com as equipes do X e do Grok para assegurar que os desenvolvedores elaborassem “um plano para aprimorar a moderação de conteúdo“.
O X chegou a fazer uma atualização do Grok, que foi rejeitada pela Apple, que considerou as mudanças insuficientes. Versões revisadas foram, então, enviadas e uma delas foi aceita pela empresa, que não informou quais medidas resultaram na aprovação.
Atualmente, segundo a NBC, ainda é possível gerar imagens sexualizadas de pessoas no Grok sem o devido consentimento, embora isso esteja mais restrito do que no passado. Até o momento, a Apple não se pronunciou sobre a reportagem.
Como criminosos estão utilizando dados reais para aplicar golpes? Descubra mais nesta matéria!