Matérias
Ciência e Tecnologia

Boom de golpes com deepfakes impulsionado por avanços em IA

Fraudes usando deepfakes crescem 31 vezes em 2023, aponta estudo da Onfido; mecanismos de IA gerativa são os principais responsáveis

Escrito por
Thiago Freire
November 21, 2023
Leia em
X
min
Compartilhe essa matéria

Um relatório recente produzido pela empresa de verificação de identidade Onfido revelou um expressivo aumento na popularidade de golpes envolvendo deepfakes ao longo do ano de 2023. Segundo o estudo, esse boom está diretamente ligado à disseminação e aprimoramento de mecanismos de inteligência artificial (IA).

O documento destaca um aumento de 31 vezes, equivalente a 3.000%, nas fraudes que envolvem a manipulação de rostos, principalmente na técnica de "colagem" da aparência de uma pessoa sobre outra. Embora a maioria desses golpes seja considerada "pouco sofisticada" e facilmente identificável pelas vítimas, a qualidade dessas enganações está prevista para aumentar significativamente nos próximos anos.

A crescente sofisticação é atribuída ao avanço de softwares de IA generativa, responsáveis por realizar "colagens" de rostos e trocar a face de indivíduos. Essas ferramentas estão se tornando mais populares e aprimoradas, podendo produzir resultados praticamente indistinguíveis do conteúdo original.

O gráfico apresentado pela Onfido, focado em tentativas de burlar sistemas de segurança em seus próprios produtos, indica que o aumento desses golpes coincide com o lançamento do ChatGPT em novembro de 2022 e a distribuição de outras ferramentas de IA generativa nos anos seguintes.

Além de manipular identidades por meio de deepfakes, cibercriminosos estão explorando ferramentas de IA para falsificar documentos, sequestrar transmissões de câmeras de segurança e burlar mecanismos de proteção com biometria.

O estudo destaca que muitas das fraudes, desde as mais simples até as mais sofisticadas, envolvem o roubo de identidade e a tentativa de verificar contas por meio de montagens. A Onfido ressalta a importância de utilizar a própria IA como aliada na defesa contra deepfakes, enfatizando a necessidade de sistemas avançados de detecção facial baseados em algoritmos para identificar essas fraudes em larga escala de forma quase automática. Isso sugere que a própria IA pode ser uma ferramenta crucial na prevenção desses golpes, melhorando continuamente com o tempo por meio de mecanismos de aprendizagem de máquina.

No items found.
Matérias relacionadas
Matérias relacionadas