5 estatísticas de Deepfake que precisa de saber para 2024

Numa era em que a inteligência artificial está a avançar rapidamente, o aparecimento de deepfakes - imagens e vídeos gerados por IA que imitam a realidade - representa um avanço tecnológico significativo com implicações complexas.

Com a ascensão do IA generativa e várias ferramentas e plataformas que facilitam a criação de meios de comunicação gerados por IA, é importante compreender as implicações que esses meios de comunicação estão a ter.

Aqui estão cinco estatísticas que precisa de saber sobre deepfakes e Imagens e vídeos gerados por IA para 2024:

1. As tentativas de deepfake aumentaram 31 vezes em 2023, registando um crescimento de 3000% em relação ao ano anterior.

Em 2023, o mundo da segurança financeira enfrentou um desafio sem precedentes com um aumento de 31 vezes nas tentativas de deepfake em comparação com o ano anterior, um crescimento impressionante de 3000%. Este aumento, destacado no relatório Relatório de Fraude de Identidade da Onfido 2024O relatório da Comissão Europeia sobre a segurança dos dados, de acordo com o qual as ameaças relacionadas com as falsificações profundas estão a tornar-se uma preocupação significativa nos processos de verificação biométrica e de identidade. O aumento é amplamente atribuído à maior acessibilidade de IA generativa e aplicativos de troca de rosto, o que tornou as falsificações profundas mais sofisticadas e fáceis de produzir. Esta tendência alarmante sublinha a necessidade de as instituições financeiras e as bolsas de criptomoedas, tradicionalmente dependentes de verificações KYC padrão, adaptarem as suas medidas de segurança ao cenário em evolução do engano digital.

2. Um quarto das pessoas não consegue identificar o áudio deepfake.

A estudo publicado na PLOS One envolvendo 529 indivíduos, revelou que aproximadamente um quarto dos participantes não conseguiu diferenciar o áudio deepfake de gravações de áudio reais. Esta estatística é alarmante, tendo em conta as potenciais aplicações do áudio deepfake na perpetração de fraudes e na divulgação de informações falsas.

Esta descoberta sugere que uma parte significativa da população é suscetível de cair em esquemas de áudio deepfake, o que realça a necessidade de aumentar a educação do público e o desenvolvimento de ferramentas de deteção sofisticadas.

3. 71% dos inquiridos a nível mundial admitiram não saber o que é um deepfake.

iProov's Inquérito de 2022 lança luz sobre o conhecimento global, ou a falta dele, de deepfakes. As suas conclusões revelam que 71% dos inquiridos a nível mundial admitiram não saber o que é um deepfake. Isto indica uma lacuna significativa no conhecimento e compreensão do público sobre as deepfakes e as suas potenciais implicações.

O conhecimento das deepfakes varia consideravelmente entre países. No México, 40% dos inquiridos afirmaram saber o que é um deepfake, seguido do Reino Unido com 32%. Em contraste, países como a Espanha e a Alemanha mostraram um conhecimento muito menor, com 75% dos inquiridos em ambos os países a reconhecerem a sua falta de conhecimento sobre o assunto. Estas disparidades realçam a necessidade de campanhas educativas e de sensibilização direccionadas para as diferentes regiões.

4. Algumas ferramentas de deepfake fáceis de utilizar atraem cerca de 10 milhões de pesquisas mensais.

A evolução da tecnologia de deepfake foi significativamente impulsionada pelo desenvolvimento de redes adversariais generativas (GAN). Estas arquitecturas avançadas de redes neurais aumentaram a sofisticação e o realismo das deepfakes. Além disso, nos últimos anos assistiu-se a uma proliferação de ferramentas de deepfake fáceis de utilizar que tornaram esta tecnologia acessível a um público mais vasto.

A acessibilidade destas ferramentas, algumas das quais chegam a atrair 10 milhões de pesquisas mensais, aponta para um interesse e uma participação crescentes na criação de deepfake. Esta disponibilidade generalizada suscita preocupações quanto ao potencial de utilização indevida, especialmente na ausência de quadros regulamentares adequados e de uma compreensão pública da tecnologia.

5. Os incidentes globais de deepfake aumentaram 10 vezes de 2022 a 2023, com diferenças regionais notáveis

O ano de 2023 marcou uma escalada substancial na prevalência global de deepfakes, com um aumento de dez vezes no número detectado em vários setores em comparação com 2022. Esse aumento dramático mostra variações regionais significativas: A América do Norte experimentou um aumento de 1740% em incidentes de deepfake, a APAC viu um aumento de 1530%, a Europa (incluindo o Reino Unido) enfrentou um aumento de 780%, enquanto o MEA e a América Latina testemunharam aumentos de 450% e 410%, respetivamente. Este impacto regional diversificado reflecte a crescente sofisticação e alcance da tecnologia deepfake, salientando a necessidade crítica de medidas de segurança reforçadas e de sensibilização em todo o mundo.

Navegar nas complexidades das imagens geradas por IA e das falsificações profundas

As estatísticas apresentadas revelam um cenário multifacetado de imagens geradas por IA e deepfakes. O rápido aumento das fraudes relacionadas com as deepfakes, as diferenças globais e a capacidade variável do público para reconhecer estas falsificações destacam áreas urgentes de atenção. Embora os avanços tecnológicos democratizem as capacidades da IA, também amplificam a necessidade de directrizes éticas e de sensibilização. À medida que avançamos, equilibrar o potencial inovador das deepfakes com os seus impactos sociais exige esforços concertados na educação, regulamentação e desenvolvimento tecnológico. Este domínio em evolução exige a vigilância e o empenhamento responsável de todas as partes interessadas no mundo digital.