Chatbot usa IA para dar a golpistas uma dose do próprio veneno

Um grupo de especialistas em cibersegurança  da Austrália está desenvolvendo um método inovador que tem o objetivo de combater golpistas telefônicos.

Os pesquisadores da Universidade Macquarie, em Sydney, criaram um sistema de chatbot capaz de imitar um ser humano e enganar os fraudadores durante chamadas telefônicas, desperdiçando o tempo dos golpistas.

Conheça o Apate

O chatbot, chamado Apate em referência à deusa grega do engano, funciona como uma “armadilha” que atrai os golpistas para conversas longas e infrutíferas, com duração média de 40 minutos.

A ideia é que, ao manter os golpistas ocupados, o número de golpes bem-sucedidos seja reduzido, dificultando para que eles ganhem dinheiro ilicitamente.

O projeto foi iniciado após o professor Dali Kaafar, da Universidade Macquarie, receber uma chamada de spam e manter o golpista na linha por 40 minutos, enquanto entretinha seus filhos durante o almoço.

Esse incidente levou à reflexão sobre como automatizar todo o processo e desenvolver um chatbot que pudesse realizar conversas convincentes usando uma linguagem natural para que os golpistas não percebessem.

Para treinar o Apate, a equipe de pesquisa utilizou transcrições reais de conversas de golpes, incluindo chamadas telefônicas, e-mails e mensagens de mídias sociais. Com base nesses dados, ele é capaz de gerar respostas semelhantes às de um ser humano durante as chamadas fraudulentas.

Testes

O Apate tem sido testado em chamadas reais de golpistas por meio de um protótipo, e os resultados até agora são promissores. Embora a média atual de duração das conversas seja de apenas cinco minutos, o objetivo é aumentar esse tempo, o que tornaria o chatbot ainda mais eficaz na tarefa de frustrar os golpistas.

O desenvolvimento do modelo também é uma resposta ao fato de que os golpistas já estão explorando tecnologias de inteligência artificial, como clonagem de voz e deepfakes, para aprimorar suas próprias fraudes.

Ou seja, a equipe de pesquisa está explorando se as mesmas tecnologias podem ser usadas para combater esses golpes, criando um cenário em que pessoas mal-intencionadas seriam confrontadas por provedores de telecomunicações.

Atualmente, a equipe está em negociações com diversos provedores para implementar o Apate como uma ferramenta de defesa contra esse tipo de fraude.

Com o aprimoramento contínuo do chatbot e sua capacidade de adaptação às situações apresentadas pelos golpistas, espera-se que ele se torne uma solução eficaz para reduzir a ocorrência desses golpes e proteger as pessoas.