Como detetar imagens geradas por IA ou vídeos "deepfake

À medida que a inteligência artificial evolui, o mesmo acontece com a sua capacidade de criar imagens, vídeos e sons incrivelmente realistas. Graças a plataformas como Meio da viagem, Laboratórios Pikae OnzeLabs, these AI-generated visuals and audio are everywhere, blurring the lines between reality and digital creation. While they showcase the remarkable advancements in technology, they also raise important questions about how we can tell what is "real" or "fake."

Este blogue oferece um guia prático para o reconhecimento de imagens geradas por IA, vídeos deepfake e vozes sintéticas. Quer seja um observador casual, um entusiasta da tecnologia ou apenas um curioso sobre o mundo digital, compreender como detetar estas criações está a tornar-se cada vez mais importante.

Como identificar imagens geradas por IA

    
O percurso da IA na criação de imagens é uma história de notável evolução tecnológica. Começou com o simples reconhecimento de padrões e evoluiu para os sofisticados algoritmos actuais, capazes de gerar imagens incrivelmente realistas. Esta evolução foi impulsionada por saltos na aprendizagem automática e nas redes neuronais, em particular com o advento das técnicas de aprendizagem profunda. As redes adversariais generativas (GAN), um avanço neste domínio, têm sido fundamentais. Funcionam através de uma dinâmica em que uma parte do sistema de IA gera imagens, enquanto outra parte as avalia, criando um processo rápido e iterativo que refina as imagens até um realismo quase perfeito.

O impacto destes avanços estende-se a vários domínios. Nas indústrias criativas, por exemplo, os artistas e designers estão a utilizar a IA para ultrapassar os limites da expressão visual. No comércio eletrónico, as imagens geradas por IA oferecem soluções escaláveis para a visualização de produtos. E no domínio do entretenimento, esta tecnologia está a revolucionar a forma como o conteúdo visual é produzido, conduzindo a experiências mais imersivas e envolventes.

No nosso mundo cada vez mais digital, a capacidade de distinguir entre imagens geradas por IA e imagens autênticas tornou-se uma competência fundamental. Este discernimento é vital não só para os profissionais de áreas que interagem diretamente com os meios de comunicação visuais, mas também para qualquer pessoa que navegue no vasto mar de conteúdos digitais. A razão transcende a mera curiosidade ou o interesse técnico; toca na própria essência da literacia mediática e na capacidade de compreender e analisar criticamente o conteúdo que consumimos.

As imagens geradas por IA, embora sejam um testemunho do engenho humano, também apresentam desafios em termos de autenticidade e fiabilidade. Podem ser utilizadas para criar deepfakes hiper-realistas ou conteúdos enganadores, colocando riscos em domínios como o jornalismo, a política e as redes sociais. Como tal, ser capaz de identificar imagens criadas por IA torna-se uma componente crucial do consumo responsável de conteúdos e da literacia digital.

Para os profissionais de vários sectores, compreender as imagens com IA é também manter-se à frente num cenário em rápida evolução. Trata-se de conhecer as possibilidades e limitações da IA na criação de imagens, que pode ser uma ferramenta poderosa em áreas como o marketing, a marca e a narração visual. Para os consumidores e cidadãos digitais, trata-se de ser capaz de navegar no mundo digital com um olhar perspicaz, diferenciando o facto da ficção e a realidade das ilusões criadas pela IA.

        
4 maneiras de detetar uma imagem gerada por IA
     
    
Eis algumas formas de identificar imagens geradas por IA:

1. Origens e pegadas digitais: Tracing the origins of an image can often unravel whether it's AI-created. Metadata - the digital footprint attached to images - is a goldmine of information. It typically includes details like the camera model, date, time, and sometimes even the location where the photo was taken. AI-generated images, however, often lack this depth of metadata. They might display inconsistencies or generic information that doesn't quite add up. This digital lineage of images, or lack thereof, becomes a critical tool in discerning AI creations from genuine photographs.
   2. Telltale Visual Signposts: AI-generated visuals can sometimes be betrayed by certain visual anomalies that the human eye can catch. One of the giveaways is unnatural geometry - shapes and lines that don't conform to the natural world. Similarly, lighting and shadows in AI-generated images may appear off, failing to accurately reflect how light interacts with objects in reality. Additionally, AI has a hard time replicating the randomness and complexity that naturally occurs in our environment. This might manifest in oddly repetitive patterns or textures that seem a bit too perfect.
   3. Chromatic and Textural Signals: Color and texture provide critical clues in distinguishing AI-generated images. AI often has a tendency to either overemphasize or understate colors, leading to images that are either too vivid or unnaturally muted. The textures in these images can also be a giveaway. In real-life, textures have a certain irregularity and variance - something AI struggles to replicate convincingly. As a result, AI-generated images might exhibit surfaces that are either overly smooth or unusually detailed, lacking the subtle imperfections characteristic of real-world objects.
   4. The Uncanny Valley: One of the most fascinating aspects of AI-generated imagery, especially in the context of human faces or figures, is the uncanny valley phenomenon. This term describes the eerie feeling evoked by images that are almost lifelike but have subtle, unsettling abnormalities. These could be in the form of slightly distorted facial features, awkward expressions, or an unnatural gaze. Paradoxically, these slight deviations from reality can be more disconcerting than obvious distortions, making AI-generated faces particularly noticeable in this uncanny realm.

Como detetar um vídeo Deepfake

A tecnologia deepfake constitui um marco significativo no domínio da IA e da manipulação de vídeo. Na sua essência, os deepfakes envolvem a utilização de algoritmos de aprendizagem automática, especificamente de aprendizagem profunda, para sobrepor vídeos e imagens existentes a imagens ou vídeos de origem. Esta tecnologia utiliza técnicas semelhantes às utilizadas nas imagens geradas por IA, mas aplica-as ao vídeo, tornando possível criar filmagens convincentes em que os indivíduos parecem dizer ou fazer coisas que nunca fizeram.
A crescente prevalência das falsificações profundas deve-se em grande parte à acessibilidade das ferramentas de aprendizagem profunda e à abundância de material de origem disponível em linha. Isto levou a uma proliferação de deepfakes em vários sectores, suscitando preocupações sobre a desinformação e o seu potencial impacto. A utilização de deepfakes para criar narrativas falsas ou notícias falsas pode ter consequências de grande alcance na política, nos meios de comunicação social e até na privacidade pessoal. O reconhecimento de deepfakes não é, portanto, apenas um desafio técnico, mas também um aspeto crucial da manutenção da integridade da informação no atual panorama digital.

Vê só este Deepfake da Taylor Swift promovendo os utensílios de cozinha Le Creuset para ver como a tecnologia está a avançar:

https://x.com/McAfee/status/1745226438641602866?s=20

3 Técnicas de deteção de falsificações profundas

Eis algumas técnicas para detetar deepfakes:

1. Facial and Expressive Incongruities One of the key indicators of a deepfake is inconsistency in facial features or expressions. AI-generated faces may appear realistic at a glance, but upon closer inspection, they often exhibit anomalies. These could be unnatural blinking, slight distortions in facial features, or facial expressions that don't quite sync with the emotional tone of the speech. AI still struggles to perfectly capture the subtleties and complexities of human expressions, making this a useful area of focus when identifying deepfakes.
2. Questões de movimento e sincronização: Deepfakes can also be betrayed by anomalies in motion and synchronization. In authentic videos, the movement of a person's lips is perfectly synced with the spoken words. Deepfakes, however, may display slight mismatches between lip movements and speech, or unnatural head and body movements. These discrepancies, although subtle, are often noticeable upon careful observation. AI-generated videos may also lack the fluid, natural motion that characterizes genuine human movements, leading to a slightly stilted or artificial appearance.
3. Auditory Discrepancies The auditory aspect of deepfakes is another area where discrepancies can emerge. While the visual component might be convincing, the voice might not match the person's typical speech patterns, tone, or cadence. Discrepancies in background sounds, or an unnatural sounding voice, can also be indicators of a deepfake. These auditory mismatches, although sometimes subtle, can provide clues about the authenticity of the video.

Navegar na miragem digital

À medida que nos aventuramos numa era em que as imagens geradas por IA e os vídeos deepfake se tornam mais prevalecentes, a capacidade de discernir os conteúdos reais dos criados artificialmente é uma competência importante e valiosa. A evolução destas tecnologias coloca desafios e oportunidades significativos em vários sectores, desde os meios de comunicação social e o jornalismo até à segurança pessoal e à privacidade. Desenvolver um olhar crítico em relação a estes avanços não tem apenas a ver com a compreensão técnica, mas também com a promoção da literacia mediática e de uma cultura de consumo ponderado no nosso mundo digital. Se nos mantivermos informados e vigilantes, podemos navegar melhor nesta miragem digital, apreciando as maravilhas da IA e protegendo-nos contra a sua potencial utilização indevida.