Na segunda-feira (17), foi divulgado no MDPI (Publisher of Open Access Journals), um artigo sobre a criação de um método para a detecção de deepfakes e prevenção de golpes que tentam burlar sistemas de reconhecimento facial. A nova forma de combate a esse tipo de fraude foi desenvolvida por meio de uma parceria entre o Instituto de Ciência e Tecnologia Itaú (ICTi) e o Massachusetts Institute of Technology Computer Science and AI Lab (MIT CSAIL).
A nova tecnologia traz uma combinação de vários modelos voltados à detecção de fraudes, com foco principal em aplicações financeiras, transações bancárias e verificação facial para acesso a contas.
Leia mais:
- Bank of America afirma que IA tem gerado maior produtividade e receita para banqueiros
- Banco Central alerta: criminosos dominam a dinâmica do sistema financeiro nacional
- Bets e ‘contas laranja’: veja as novas regras da Febraban contra fraudes
A tecnologia de IA vem sendo usada para vários golpes
(Imagem: Who is Danny/Shutterstock)
O novo método se vê necessário devido à crescente utilização da tecnologia de IA por parte dos criminosos, pois eles estão conseguindo burlar sistemas computacionais, inclusive os de bancos para aplicar golpes.
Para isso, os golpistas utilizam fotos e até mesmo vídeos gerados por IA com o objetivo de fraudar a abertura de contas e outros tipos de operações financeiras. Muitas vezes, eles conseguem até usar os deepfakes para se passarem por clientes reais.
De acordo com os pesquisadores do ICTi e o MIT CSAIL, o novo modelo se mostra eficaz para ser utilizado como um meio de defesa contra a utilização de IA na tentativa de enganar os sistemas bancários.
Funcionamento do método
(Imagem: NicoElNino/Shutterstock)
O novo método tecnológico conta com quatro detectores que conseguem identificar diversos tipos de deepfake, como os que são criados por meio da utilização de IA. Dessa forma, ele trabalha como um comitê de especialistas, no qual cada um identifica uma forma de falsificação.
No final, os resultados são cruzados e a ferramenta chega a uma conclusão sobre se o item analisado é deepfake. Por meio desse método, o banco ganha camadas extras de verificação contra golpes.
Conforme os testes realizados pelos pesquisadores, o método se mostra eficaz. Além disso, ele tem capacidade para se adaptar a novos tipos de ataques que forem surgindo.
O post Itaú e MIT apresentam tecnologia para detectar deepfakes e ajudar a prevenir golpes apareceu primeiro em Olhar Digital.
