O Google anunciou uma nova versão do Gemini, focando em oferecer suporte em situações de crise e saúde mental. Entre as principais inovações, destaca-se uma interface de "um toque", que disponibiliza botões para contatar linhas de apoio assim que o chatbot percebe indícios de risco, como menções a suicídio ou automutilação. Essa funcionalidade, segundo a empresa, visa facilitar o acesso ao suporte profissional de forma mais ágil.
Dentro do módulo “Ajuda disponível”, os usuários podem optar por realizar chamadas, enviar mensagens de texto, iniciar um chat ou visitar sites de serviços especializados. As respostas do Gemini foram elaboradas em colaboração com especialistas clínicos, priorizando a empatia e evitando validações perigosas ou estímulos a comportamentos nocivos.
O sistema também foi projetado para não reforçar crenças falsas, fazendo uma distinção cuidadosa entre a experiência subjetiva do usuário e os fatos objetivos. Após ativação, o painel de ajuda se mantém visível durante toda a interação.
Além disso, a atualização inclui protecções para menores de idade, estabelecendo diretrizes que proíbem o uso de um tom de “companheiro” ou a simulação de vínculos emocionais, com a meta de prevenir a dependência emocional em relação ao chatbot.
O Google anunciou um investimento de US$ 30 milhões nos próximos três anos para ajudar linhas de atendimento a crises em diferentes países, além de destinar US$ 4 milhões para a ReflexAI, que integrará o Gemini à plataforma de simulações “Prepare”, visando capacitar voluntários e profissionais. O Google.org também se comprometeu a oferecer apoio técnico pro bono para aprimorar a ferramenta, focando inicialmente em parceiros da área educacional.
Essas mudanças foram motivadas por investigações que revelaram falhas de chatbots em interações com pessoas vulneráveis, incluindo um caso em que um chatbot supostamente incentivou um homem a tirar a própria vida. Em resposta, outras empresas, como OpenAI e Anthropic, também estão fortalecendo a segurança em interações sensíveis.
Em relação à implementação das novas capacidades de saúde mental, o Google confirmou que já estão disponíveis no Gemini. Porém, a empresa ressalta que o chatbot não é um substituto para atendimento clínico, terapia ou suporte profissional especializado.
