O Facebook proibiu a publicação de imagens alteradas de forma fraudulenta para distorcer a realidade e confundir pessoas, conhecidas também pelo termo em inglês deepfakes. Vídeos que forem enquadrados nessa categoria e cumprirem determinados critérios serão removidos da plataforma.

Este tipo de conteúdo é uma intensificação de conteúdos falsos, também chamada de fake news. Contudo, diferentemente de textos enganosos ou montagem de imagens, os vídeos deepfakes podem trazer uma pessoa com um discurso fabricado, dando uma maior sensação equivocada de veracidade para o conteúdo.

A nova política do Facebook prevê a remoção de vídeos em casos em que foram editados ou alterados de forma que não fique claro para um usuário, e possam enganar quem assiste, levando-o a acreditar que um personagem do vídeo disse algo que na verdade não falou.

Também serão vetados vídeos que sejam produtos de sistemas de inteligência artificial ou de aprendizado de máquina que mesclam, substituem ou sobrepõem conteúdo em um vídeo, fazendo parecer que as imagens mostradas são autênticas.

Ficam excluídos das publicações que poderão ser derrubadas aquelas que se configurem como paródia ou sátira, bem como edições voltadas a corrigir aspectos técnicos (como cor ou brilho) ou para mudar a ordem de palavras.

Além disso, seguem suscetíveis de retirada pela administração da plataforma os posts que violem as suas normas internas, os chamados "Padrões da Comunidade”. Eles abordam diversos aspectos e proíbem mensagens em diversas categorias, como exibição de violência extrema, discurso de ódio, apologia ao terrorismo e comportamento não autêntico.

Os vídeos que não forem enquadrados nos critérios definidos não serão automaticamente removidos, mas podem ser objeto das medidas destinadas à desinformação. O Facebook não retira esse tipo de publicação, mas elas podem ser verificadas por agências de checagem e identificadas enquanto tal aos usuários por meio de um alerta, além de ter a distribuição reduzida no feed de notícias.

"Se nós simplesmente removêssemos vídeos marcados por checadores de fatos como falsos, os vídeos iriam ainda estar disponíveis em outros lugares na internet ou nas redes sociais. Ao identificá-los como falsos, estamos provendo às pessoas informação e contexto importantes”, justificou a vice-presidente de Políticas Globais do Facebook, Monica Bickert.