Novo recurso chamado Scam Alert utiliza um modelo de aprendizado de máquina no próprio dispositivo para identificar conversas suspeitas sem enviar o conteúdo das mensagens para os servidores da Meta.
O WhatsApp começou a testar um novo recurso de segurança baseado em inteligência artificial para ajudar usuários a identificar possíveis golpes recebidos pelo aplicativo.
Batizado de Scam Alert, o recurso utiliza um modelo de aprendizado de máquina que funciona diretamente no celular para analisar mensagens de possíveis remetentes desconhecidos e identificar padrões associados a tentativas de fraude. A novidade está sendo disponibilizada inicialmente em uma versão beta limitada.
IA funciona diretamente no dispositivo
Um dos principais pontos do novo sistema é a forma como a análise é realizada.
Em vez de enviar o conteúdo das conversas para os servidores da Meta, o WhatsApp baixa um modelo de aprendizado de máquina para o próprio dispositivo. A análise das mensagens acontece localmente, utilizando sinais linguísticos e características da estrutura das conversas para identificar possíveis golpes.
Segundo a Meta, o modelo foi desenvolvido para reconhecer padrões observados em conversas de golpes que já foram denunciadas pelos usuários.
Isso permite que o sistema procure características comuns em determinadas abordagens utilizadas por fraudadores sem precisar acessar o conteúdo da conversa remotamente.
Usuário recebe um alerta antes de continuar a conversa
Quando o sistema identifica uma conversa como potencialmente fraudulenta, um aviso aparece dentro do chat.
O alerta é visível somente para o destinatário e não aparece para a pessoa que enviou a mensagem.
A partir daí, o usuário pode decidir como deseja prosseguir. Entre as opções estão bloquear o contato, denunciar a conversa ou continuar falando com o remetente. Caso o alerta seja considerado incorreto, também é possível marcar a conversa como confiável.
O objetivo, portanto, não é bloquear automaticamente uma conversa, mas criar uma camada adicional de proteção para que o usuário possa avaliar melhor uma situação suspeita antes de tomar alguma decisão.
Criptografia de ponta a ponta é mantida
A utilização de inteligência artificial em mensagens privadas poderia levantar preocupações relacionadas à privacidade.
Por isso, a Meta destaca que o Scam Alert foi projetado para funcionar junto à criptografia de ponta a ponta do WhatsApp.
De acordo com a empresa, o conteúdo analisado pelo modelo não deixa o dispositivo durante a classificação. Além disso, o sistema não envia automaticamente para a Meta informações sobre uma possível fraude detectada.
O compartilhamento de conteúdo pode ocorrer somente quando o próprio usuário decide realizar uma denúncia.
Recurso é opcional
Outro ponto destacado pela Meta é que o Scam Alert não será uma função obrigatória.
O usuário poderá ativar ou desativar o recurso. Quando ativado, o aplicativo baixa o modelo de aprendizado de máquina necessário para realizar a análise diretamente no aparelho.
A tecnologia foi desenvolvida para ser suficientemente pequena e simples para funcionar no próprio hardware dos dispositivos, evitando a necessidade de um sistema de análise baseado exclusivamente em servidores.
Por que o recurso é importante?
Golpes realizados por aplicativos de mensagens costumam utilizar técnicas de engenharia social para convencer a vítima a fornecer informações, realizar pagamentos ou continuar uma conversa com um criminoso.
Entre os métodos utilizados estão falsas oportunidades de trabalho, pedidos de dinheiro, links maliciosos, tentativas de personificação e diferentes formas de fraude financeira.
Nesse contexto, uma ferramenta capaz de identificar padrões suspeitos antes que o usuário avance na conversa pode funcionar como uma camada adicional de proteção.
O sistema não substitui a atenção do usuário, mas pode servir como um aviso para situações que apresentem características semelhantes às de golpes já conhecidos.
WhatsApp ainda está testando a tecnologia
O Scam Alert ainda não está disponível de forma ampla para todos os usuários.
A Meta iniciou um lançamento beta limitado e informou que pretende utilizar esse período para testar o funcionamento do sistema e receber avaliações da comunidade de pesquisadores de segurança antes de uma possível expansão.
Isso significa que a disponibilidade do recurso pode variar conforme o usuário e a versão do aplicativo.
IA começa a ganhar espaço também na segurança digital
O novo recurso mostra uma tendência importante no desenvolvimento de ferramentas de segurança: utilizar modelos de inteligência artificial diretamente nos dispositivos para identificar ameaças sem necessariamente transferir informações privadas para servidores.
No caso do WhatsApp, a proposta combina três elementos: análise local, criptografia de ponta a ponta e controle do usuário.
Se os testes apresentarem bons resultados, tecnologias desse tipo podem se tornar cada vez mais comuns em aplicativos de comunicação e outros serviços digitais.
Por enquanto, o Scam Alert continua em fase de testes, e ainda não há uma data anunciada para sua disponibilização geral.
Fontes
- Meta Engineering — anúncio técnico oficial do Scam Alert e detalhes sobre o funcionamento do sistema.
- The Verge — cobertura sobre o novo sistema de detecção de golpes do WhatsApp.
