Facebook promete repressão sobre notícias fakes antes da eleição presidencial dos EUA

O Facebook prometeu reprimir os deepfakes enganosos antes das eleições presidenciais dos EUA no final deste ano.

A manipulação dos eleitores é uma preocupação para qualquer democracia em funcionamento e os deepfakes oferecem um novo desafio para as plataformas de mídia social.

Um vídeo falso de Nancy Pelosi, presidente da Câmara dos Deputados dos Estados Unidos, se tornou viral no ano passado, depois de supostamente mostrá-la falando suas palavras como se estivesse intoxicada. O clipe mostra como até mesmo um vídeo relativamente pouco sofisticado (não era um deepfake real) poderia ser usado para causar danos à reputação e balançar os votos.

O Facebook se recusou a remover o vídeo de Nancy Pelosi e, em vez disso, disse que exibia um artigo de um site de verificação de fatos de terceiros, destacando que ele foi editado e tomou medidas para limitar seu alcance. A abordagem, é claro, foi fortemente criticada.

As novas regras do Facebook alegam que os vídeos deepfake projetados para serem enganosos serão banidos. O problema com as regras é que eles não cobrem vídeos alterados para paródia ou os editados “apenas para omitir ou alterar a ordem das palavras”, o que não parecerá encorajador para aqueles que desejam uma posição firme contra a manipulação.

Na era das “notícias falsas”, muitas pessoas se conscientizam de não necessariamente acreditar no que lêem. Da mesma forma, um número crescente de pessoas também sabe com que facilidade as imagens são manipuladas. Os vídeos do Deepfake representam uma preocupação porque o público em geral ainda não está ciente da existência deles ou de como identificá-los.

Um relatório do Centro Stern de Negócios e Direitos Humanos da NYU em setembro passado, coberto pela publicação irmã MarketingTech, destacou as várias maneiras pelas quais a desinformação poderia ser usada antes das eleições presidenciais deste ano.

Uma das oito previsões é que os vídeos do deepfake serão usados ​​”para retratar candidatos dizendo e fazendo coisas que nunca disseram ou fizeram”. Outra previsão é que o Irã e a China possam se juntar à Rússia como fontes de desinformação, sendo que o primeiro talvez agora seja ainda mais provável devido às recentes escaladas entre os EUA e o Irã e o desejo de retaliação não militar.

Está sendo introduzida legislação para criminalizar a produção de deepfakes sem revelar que eles foram modificados, mas a melhor abordagem é impedir que sejam amplamente compartilhados em primeiro lugar.

“Uma abordagem melhor, e que evite o risco de exagerar a censura do governo, seria que as plataformas de mídia social melhorassem sua tecnologia de rastreamento de IA, aprimorassem a revisão humana e removessem os deepfakes antes que eles causassem muitos danos”, sugere o relatório.

No mês seguinte ao Facebook se recusar a remover o vídeo editado de Pelosi, um ataque profundo criado pela startup israelense Canny AI tinha como objetivo aumentar a conscientização sobre o problema, fazendo com que ele parecesse como o CEO do Facebook, Mark Zuckerberg, disse: “Imagine isso por um segundo: um homem, com controle total de bilhões de dados roubados de pessoas, todos os seus segredos, vidas, futuro. ”

O deepfake da Canny AI foi projetado para ser claramente falso, mas mostra como é fácil manipular as visualizações das pessoas. Em um mundo tenso, não é difícil imaginar que devastação poderia ser causada simplesmente pela libertação de um líder político declarando guerra ou planejando lançar um míssil.



DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here