Os deepfakes são assim designados por se basearem numa tecnologia deep learning. O deep learning é um ramo o machine learning que aplica simulações com redes neurais a grandes bancos de dados. Como resultado, esse algoritmo fica capaz de produzir conteúdo falso com base nas instruções do seu criador.
No caso dos vídeos deepfakes, as redes neurais são treinadas recorrendo a largos conjuntos de dados reais, tanto de vídeo como de áudio. No fim, o algoritmo treinado é capaz de aplicar esse conhecimento para modificar a cara e voz de um ator. Em suma, trata-se uma máscara digital da face e da voz que origina conteúdo muito difícil de distinguir da realidade.
A continua evolução desta tecnologias permite obter conteúdo muito próximo de gravações reais mas que, na verdade, são totalmente falsas e criadas em computador. Apesar de ser uma tecnologia extremamente útil para a indústria cinematográfica, a sua popularização como vídeo originais pode ser extremamente perigosa. Por exemplo, é possível criar vídeos de personalidades populares prestando certas declarações ou tomando certas ações, sem qualquer interação por parte do próprio. A quantidade de gravações disponíveis na internet para várias personalidades famosas, torna o processo de treino da rede neural muito mais simples.
Eis uma coletânea de alguns deepfakes disponíveis na internet:
Fonte: CreativeBloq e Wikipedia