Esta tecnologia pode identificar vídeos feitos por IA; veja como ela é usada

Nos últimos anos, a tecnologia de deepfake tem ganhado destaque por sua capacidade de criar vídeos altamente realistas que podem enganar até mesmo os olhos mais treinados. Esta tecnologia, que utiliza inteligência artificial para manipular imagens e sons, tem sido usada tanto para fins inofensivos quanto para atividades potencialmente prejudiciais.

Os deepfakes podem ser usados de maneira criativa e divertida, como em vídeos de celebridades cantando músicas de diferentes gêneros ou em montagens humorísticas. No entanto, o potencial para uso malicioso é significativo, incluindo a criação de vídeos falsos de figuras públicas, que podem ser usados para espalhar desinformação ou para fins de extorsão. 

Como funcionam os deepfakes

A tecnologia de deepfake utiliza redes neurais, um tipo de inteligência artificial, para aprender e replicar padrões de voz e imagem. Isso permite que a IA crie vídeos onde uma pessoa parece dizer ou fazer algo que nunca aconteceu.

A técnica envolve a análise de uma grande quantidade de dados visuais e auditivos para gerar uma representação digital convincente.

Os vídeos deepfake são criados a partir de um processo que envolve a coleta de imagens e sons de uma pessoa-alvo. Em seguida, algoritmos de aprendizado de máquina processam esses dados para criar um modelo digital que pode ser manipulado para produzir novos conteúdos. Essa capacidade de manipulação levanta preocupações sobre a autenticidade da mídia digital na era da informação.

Como detectar deepfakes

Com o avanço dos deepfakes, pesquisadores têm trabalhado arduamente para desenvolver ferramentas que possam identificar essas falsificações. Recentemente, uma equipe da Drexel University College of Engineering desenvolveu uma tecnologia que promete detectar deepfakes com uma precisão de 98,3%.

Este avanço foi apresentado na Conferência de Visão Computacional e Reconhecimento de Padrões do IEEE, destacando-se como uma das soluções mais promissoras até o momento.

O método desenvolvido utiliza uma rede neural restrita que analisa padrões sutis nos vídeos, como variações de pixels e a compactação dos arquivos. Ao identificar essas características, a ferramenta pode distinguir entre vídeos autênticos e aqueles gerados por IA.