Como detetar imagens geradas por IA ou vídeos "deepfake

À medida que a inteligência artificial evolui, o mesmo acontece com a sua capacidade de criar imagens, vídeos e sons incrivelmente realistas. Graças a plataformas como Meio da viagem, Laboratórios Pikae OnzeLabsNa Europa, os efeitos visuais e sonoros gerados por IA estão por todo o lado, esbatendo as fronteiras entre a realidade e a criação digital. Embora mostrem os notáveis avanços da tecnologia, também levantam questões importantes sobre como podemos distinguir o que é "real" ou "falso".

Este blogue oferece um guia prático para o reconhecimento de imagens geradas por IA, vídeos deepfake e vozes sintéticas. Quer seja um observador casual, um entusiasta da tecnologia ou apenas um curioso sobre o mundo digital, compreender como detetar estas criações está a tornar-se cada vez mais importante.

Como identificar imagens geradas por IA

O percurso da IA na criação de imagens é uma história de notável evolução tecnológica. Começou com o simples reconhecimento de padrões e evoluiu para os sofisticados algoritmos actuais, capazes de gerar imagens incrivelmente realistas. Esta evolução foi impulsionada por saltos na aprendizagem automática e nas redes neuronais, em particular com o advento das técnicas de aprendizagem profunda. As redes adversariais generativas (GAN), um avanço neste domínio, têm sido fundamentais. Funcionam através de uma dinâmica em que uma parte do sistema de IA gera imagens, enquanto outra parte as avalia, criando um processo rápido e iterativo que refina as imagens até um realismo quase perfeito.

O impacto destes avanços estende-se a vários domínios. Nas indústrias criativas, por exemplo, os artistas e designers estão a utilizar a IA para ultrapassar os limites da expressão visual. No comércio eletrónico, as imagens geradas por IA oferecem soluções escaláveis para a visualização de produtos. E no domínio do entretenimento, esta tecnologia está a revolucionar a forma como o conteúdo visual é produzido, conduzindo a experiências mais imersivas e envolventes.

No nosso mundo cada vez mais digital, a capacidade de distinguir entre imagens geradas por IA e imagens autênticas tornou-se uma competência fundamental. Este discernimento é vital não só para os profissionais de áreas que interagem diretamente com os meios de comunicação visuais, mas também para qualquer pessoa que navegue no vasto mar de conteúdos digitais. A razão transcende a mera curiosidade ou o interesse técnico; toca na própria essência da literacia mediática e na capacidade de compreender e analisar criticamente o conteúdo que consumimos.

As imagens geradas por IA, embora sejam um testemunho do engenho humano, também apresentam desafios em termos de autenticidade e fiabilidade. Podem ser utilizadas para criar deepfakes hiper-realistas ou conteúdos enganadores, colocando riscos em domínios como o jornalismo, a política e as redes sociais. Como tal, ser capaz de identificar imagens criadas por IA torna-se uma componente crucial do consumo responsável de conteúdos e da literacia digital.

Para os profissionais de vários sectores, compreender as imagens com IA é também manter-se à frente num cenário em rápida evolução. Trata-se de conhecer as possibilidades e limitações da IA na criação de imagens, que pode ser uma ferramenta poderosa em áreas como o marketing, a marca e a narração visual. Para os consumidores e cidadãos digitais, trata-se de ser capaz de navegar no mundo digital com um olhar perspicaz, diferenciando o facto da ficção e a realidade das ilusões criadas pela IA.

4 maneiras de detetar uma imagem gerada por IA

Eis algumas formas de identificar imagens geradas por IA:

1. Origens e pegadas digitais: A identificação das origens de uma imagem pode muitas vezes revelar se esta foi criada por IA. Os metadados - a pegada digital associada às imagens - são uma mina de ouro de informação. Normalmente, incluem detalhes como o modelo da câmara, a data, a hora e, por vezes, até o local onde a fotografia foi tirada. No entanto, as imagens geradas por IA carecem frequentemente desta profundidade de metadados. Podem apresentar incoerências ou informações genéricas que não correspondem à realidade. Esta linhagem digital de imagens, ou a falta dela, torna-se uma ferramenta crítica para discernir as criações de IA das fotografias genuínas.
   
   2. Sinais visuais indicadores: As imagens geradas por IA podem por vezes ser traídas por certas anomalias visuais que o olho humano consegue detetar. Um dos sinais é a geometria não natural - formas e linhas que não estão em conformidade com o mundo natural. Do mesmo modo, a iluminação e as sombras nas imagens geradas por IA podem parecer desadequadas, não reflectindo com precisão a forma como a luz interage com os objectos na realidade. Além disso, a IA tem dificuldade em reproduzir a aleatoriedade e a complexidade que ocorrem naturalmente no nosso ambiente. Isto pode manifestar-se em padrões estranhamente repetitivos ou texturas que parecem demasiado perfeitas.
   
   3. Sinais cromáticos e texturais: A cor e a textura fornecem pistas essenciais para distinguir imagens geradas por IA. A IA tem muitas vezes a tendência para dar demasiada ênfase ou subestimar as cores, o que leva a imagens demasiado vivas ou anormalmente suaves. As texturas nestas imagens também podem ser uma pista. Na vida real, as texturas têm uma certa irregularidade e variação - algo que a IA tem dificuldade em reproduzir de forma convincente. Como resultado, as imagens geradas por IA podem apresentar superfícies demasiado lisas ou com detalhes invulgares, sem as imperfeições subtis características dos objectos do mundo real.
   
   4. O Vale da Estranheza: Um dos aspectos mais fascinantes das imagens geradas por IA, especialmente no contexto de rostos ou figuras humanas, é o fenómeno do uncanny valley. Este termo descreve a sensação estranha evocada por imagens quase reais, mas com anomalias subtis e perturbadoras. Estas podem assumir a forma de traços faciais ligeiramente distorcidos, expressões incómodas ou um olhar pouco natural. Paradoxalmente, estes ligeiros desvios da realidade podem ser mais desconcertantes do que as distorções óbvias, fazendo com que os rostos gerados por IA sejam particularmente visíveis neste reino misterioso.

Como detetar um vídeo Deepfake

A tecnologia deepfake constitui um marco significativo no domínio da IA e da manipulação de vídeo. Na sua essência, os deepfakes envolvem a utilização de algoritmos de aprendizagem automática, especificamente de aprendizagem profunda, para sobrepor vídeos e imagens existentes a imagens ou vídeos de origem. Esta tecnologia utiliza técnicas semelhantes às utilizadas nas imagens geradas por IA, mas aplica-as ao vídeo, tornando possível criar filmagens convincentes em que os indivíduos parecem dizer ou fazer coisas que nunca fizeram.

A crescente prevalência das falsificações profundas deve-se em grande parte à acessibilidade das ferramentas de aprendizagem profunda e à abundância de material de origem disponível em linha. Isto levou a uma proliferação de deepfakes em vários sectores, suscitando preocupações sobre a desinformação e o seu potencial impacto. A utilização de deepfakes para criar narrativas falsas ou notícias falsas pode ter consequências de grande alcance na política, nos meios de comunicação social e até na privacidade pessoal. O reconhecimento de deepfakes não é, portanto, apenas um desafio técnico, mas também um aspeto crucial da manutenção da integridade da informação no atual panorama digital.

Vê só este Deepfake da Taylor Swift promovendo os utensílios de cozinha Le Creuset para ver como a tecnologia está a avançar:

https://x.com/McAfee/status/1745226438641602866?s=20

3 Técnicas de deteção de falsificações profundas

Eis algumas técnicas para detetar deepfakes:

1. Incongruências faciais e expressivas Um dos principais indicadores de um deepfake é a inconsistência nas características ou expressões faciais. Os rostos gerados por IA podem parecer realistas à primeira vista, mas após uma inspeção mais atenta, apresentam frequentemente anomalias. Estas podem ser pestanejos não naturais, ligeiras distorções nas características faciais ou expressões faciais que não estão em sintonia com o tom emocional do discurso. A IA ainda tem dificuldade em captar perfeitamente as subtilezas e complexidades das expressões humanas, o que faz com que esta seja uma área de foco útil na identificação de deepfakes.

2. Questões de movimento e sincronização: Os deepfakes também podem ser traídos por anomalias no movimento e na sincronização. Em vídeos autênticos, o movimento dos lábios de uma pessoa está perfeitamente sincronizado com as palavras faladas. Os deepfakes, no entanto, podem apresentar ligeiras discrepâncias entre os movimentos dos lábios e a fala, ou movimentos não naturais da cabeça e do corpo. Estas discrepâncias, embora subtis, são muitas vezes perceptíveis após uma observação atenta. Os vídeos gerados por IA podem também não ter o movimento fluido e natural que caracteriza os movimentos humanos genuínos, dando origem a uma aparência ligeiramente artificial.

3. Discrepâncias auditivas O aspeto auditivo dos deepfakes é outra área onde podem surgir discrepâncias. Embora a componente visual possa ser convincente, a voz pode não corresponder aos padrões de discurso, tom ou cadência típicos da pessoa. Discrepâncias nos sons de fundo, ou uma voz que não soe natural, também podem ser indicadores de um deepfake. Estas discrepâncias auditivas, embora por vezes subtis, podem fornecer pistas sobre a autenticidade do vídeo.

Navegar na miragem digital

À medida que nos aventuramos numa era em que as imagens geradas por IA e os vídeos deepfake se tornam mais prevalecentes, a capacidade de discernir os conteúdos reais dos criados artificialmente é uma competência importante e valiosa. A evolução destas tecnologias coloca desafios e oportunidades significativos em vários sectores, desde os meios de comunicação social e o jornalismo até à segurança pessoal e à privacidade. Desenvolver um olhar crítico em relação a estes avanços não tem apenas a ver com a compreensão técnica, mas também com a promoção da literacia mediática e de uma cultura de consumo ponderado no nosso mundo digital. Se nos mantivermos informados e vigilantes, podemos navegar melhor nesta miragem digital, apreciando as maravilhas da IA e protegendo-nos contra a sua potencial utilização indevida.