Let’s Go Phishing com IA: quando a tecnologia acelera a resposta
Analisar um email reportado como phishing exige atenção. É necessário verificar o remetente, os links, os anexos e outros sinais que possam indicar uma ameaça. Na Knowledge Inside, esta triagem era feita manualmente. Cada mensagem precisava de ser analisada individualmente, tornando o processo repetitivo e mais difícil de gerir em períodos com um maior volume de pedidos.
Para tornar esta resposta mais rápida e consistente, a Knowledge Inside desenvolveu uma nova automação para o Let’s Go Phishing, que utiliza Inteligência Artificial para realizar a primeira análise dos emails reportados pelos clientes.
Como funciona?
O processo começa quando um email é enviado para a caixa de correio dedicada do serviço.
A mensagem é analisada automaticamente por duas componentes:
- Inteligência Artificial;
- VirusTotal.
Os resultados são depois comparados para definir o passo seguinte.
Quando a IA e o VirusTotal concordam que o email é malicioso, a resposta ao cliente pode ser enviada automaticamente. Nos restantes casos, é criado um card no Microsoft Teams, onde a equipa consegue consultar os resultados das duas análises, confirmar a classificação sugerida ou alterá-la.
Caso um analista altere a classificação sem acrescentar um comentário, o sistema pede uma justificação. Desta forma, todas as decisões ficam registadas e devidamente contextualizadas.
Malicioso, suspeito ou seguro?
A solução pode atribuir três classificações diferentes.
- Malicioso
Quando a IA e o VirusTotal concordam que a mensagem é maliciosa, o processo é automático e não necessita de revisão humana. Caso os resultados sejam diferentes, a equipa realiza a análise final. Por motivos de segurança, o email original não é devolvido ao cliente.
- Suspeito
Os emails suspeitos são sempre analisados por um elemento da equipa. Como existem sinais que levantam dúvidas, não há uma resposta totalmente automática. Depois da validação, o email é reanexado à resposta enviada ao cliente e o caso é encerrado.
- Seguro
Mesmo quando a IA e o VirusTotal consideram que o email é seguro, existe sempre uma revisão humana. Esta validação adicional ajuda a evitar que uma mensagem perigosa seja considerada legítima apenas com base numa análise automática. Depois da confirmação, o email original é enviado novamente ao cliente.
A tecnologia por detrás da solução
A automação reúne várias tecnologias do ecossistema Microsoft. O Power Automate gere os diferentes fluxos, enquanto as Azure Functions realizam a análise com IA e VirusTotal e apoiam o envio das respostas. A solução integra ainda o Microsoft Graph, o Teams, o SharePoint e o Blob Storage, onde é guardado apenas o ficheiro .eml da mensagem analisada.
IA com supervisão humana
Antes da entrada em produção, os resultados da automação foram comparados com as análises manuais realizadas pela equipa. Estes testes permitiram validar o funcionamento da solução, acompanhar a qualidade das classificações e tornar os cards apresentados no Teams mais simples e intuitivos.
O objetivo não é substituir a análise humana, mas utilizá-la onde realmente acrescenta valor. A IA trata da primeira triagem e automatiza os casos mais evidentes. A equipa intervém quando existe uma dúvida, uma divergência ou um maior risco associado à decisão.
Com esta evolução do Let’s Go Phishing, a Knowledge Inside consegue responder mais rapidamente, reduzir tarefas repetitivas e manter um registo consistente de todas as decisões.
