A IA engana a maioria, mas 5 minutos de treino podem ajudar a identificar falsificações.

Os geradores de imagens por IA evoluíram a um ritmo impressionante, e hoje conseguem criar rostos tão convincentes que, por vezes, parecem até mais realistas do que fotografias de pessoas reais.

Ainda assim, um novo estudo indica um caminho prático para reforçar a deteção de rostos por IA - e sugere que uma combinação entre talento humano e treino rápido pode fazer diferença.

Super-reconhecedores na deteção de rostos gerados por IA

Investigadores do Reino Unido avaliaram a capacidade de análise facial de 664 voluntários, divididos entre super-reconhecedores (pessoas que, em estudos anteriores, demonstraram um nível excecional a comparar e reconhecer rostos reais) e participantes com capacidades típicas de reconhecimento facial.

Em geral, ambos os grupos tiveram dificuldade em identificar rostos artificiais. Ainda assim, como seria expectável, os super-reconhecedores obtiveram melhores resultados do que os participantes com capacidades típicas.

Um ponto particularmente relevante é que os super-reconhecedores que fizeram uma breve sessão de treino de 5 minutos antes do teste conseguiram distinguir melhor rostos reais de rostos gerados por IA.

“A criação de imagens por IA é cada vez mais fácil, e a sua deteção é cada vez mais difícil”, afirma a investigadora em Psicologia Eilidh Noyes, da Universidade de Leeds.

“Estas imagens podem ser usadas para fins maliciosos; por isso, do ponto de vista da segurança, é crucial testar métodos capazes de detetar imagens artificiais.”

Como o estudo foi conduzido: duas tarefas, com e sem treino

O trabalho incluiu duas tarefas distintas, realizadas com treino e sem treino:

1. Tarefa 1: era mostrado um único rosto e o voluntário tinha de decidir se tinha sido criado por IA.
2. Tarefa 2: eram apresentados lado a lado um rosto real e um rosto gerado por IA, e o voluntário tinha de identificar qual era o falso.

Cada uma das experiências contou com um grupo diferente de participantes.

Resultados sem treino: quase ao nível do acaso

No grupo que não recebeu treino, os super-reconhecedores identificaram corretamente os rostos gerados por IA em 41% dos casos. Já os participantes com reconhecimento facial típico apenas acertaram 31% das vezes.

Como exatamente metade das imagens apresentadas era gerada por IA, cada participante tinha uma probabilidade de 50% de acertar apenas por palpites. Este resultado reforça a ideia de que, para os nossos olhos, muitos retratos artificiais podem parecer “mais reais do que a realidade”.

Resultados com treino: melhoria marcada nos super-reconhecedores

No grupo que recebeu treino, os participantes com capacidades típicas de reconhecimento facial atingiram 51% de acerto - praticamente ao nível do acaso.

Já os super-reconhecedores viram a sua precisão aumentar para 64%, identificando corretamente rostos de IA bem acima de metade das vezes.

O treino ensinou os participantes a procurar sinais frequentes de geração artificial, incluindo dentes em falta e desfoques estranhos nas margens do cabelo e da pele.

“O nosso estudo mostra que o uso de super-reconhecedores - pessoas com capacidade muito elevada de reconhecimento facial - combinado com treino pode ajudar na deteção de rostos gerados por IA”, explica Noyes.

Como a IA cria rostos: rede generativa adversarial (GAN)

Muitos sistemas de IA produzem rostos através de uma rede generativa adversarial (GAN). Trata-se de um mecanismo com dois conjuntos de algoritmos a trabalhar em conjunto: um cria imagens faciais, enquanto o outro avalia o quão realistas essas imagens parecem quando comparadas com rostos humanos reais. Este ciclo de feedback vai refinando o resultado até atingir um aspeto muito convincente.

Impacto no mundo real: de perfis falsos a fraude de identidade

Hoje, as imagens geradas por IA podem ser criadas de forma rápida e acessível, e são cada vez mais usadas em múltiplos contextos - desde perfis falsos em aplicações de encontros até esquemas de roubo de identidade. Um treino simples pode ajudar mais pessoas a não serem enganadas.

“O nosso procedimento de treino é curto e fácil de implementar”, afirma Katie Gray, investigadora em Psicologia na Universidade de Reading.

“Os resultados sugerem que combinar este treino com as capacidades naturais dos super-reconhecedores pode ajudar a enfrentar problemas do mundo real, como a verificação de identidades online.”

O que este tipo de treino pode mudar - e onde deve ser aplicado

Além do uso em equipas de segurança, este tipo de treino pode ser integrado em processos operacionais onde a verificação visual ainda é decisiva, como moderação de conteúdos, validações manuais em plataformas digitais e apoio a investigações internas em organizações. Em ambientes com grande volume de casos, a estratégia pode passar por encaminhar situações “duvidosas” para super-reconhecedores treinados, reduzindo o risco de decisões baseadas apenas em intuição.

Ao mesmo tempo, é importante reconhecer que existe uma corrida contínua entre geração e deteção: à medida que os geradores de imagens por IA melhoram, alguns “sinais” usados no treino podem tornar-se menos fiáveis. Por isso, a abordagem mais robusta tende a ser híbrida - combinar treino humano, ferramentas automáticas de deteção e procedimentos de verificação adicionais (por exemplo, confirmação por múltiplos fatores), especialmente quando estão em causa identidade, acesso e confiança.

A investigação foi publicada na revista Ciência Aberta da Sociedade Real.