Fagaspress

O combate às fake news pelo TSE e sua mais nova ameaça: os deepfakes

Fagaspress: A FAGALI na imprensa e na academia.

Artigo originalmente publicado pelo Migalhas em 03.04.2018

Bruno Fagali e Lucas Pedroso

 

TSE finalmente começa a combater as fake news que, por sua vez, passam a contar com os fake videos

 

Já há alguns anos muito tem sido dito sobre a influência das fake news (notícias falsas que se propagam como pólvora nas redes sociais) no processo eleitoral ao redor do mundo (notadamente durante a eleição de Trump, nos Estados Unidos).

Entretanto, ao menos agora, em ano de eleição presidencial aqui no Brasil, o TSE também tem começado a se debruçar sobre o assunto, discutindo e coordenando especialistas com o objetivo de criar formas e ferramentas capazes de ao menos mitigar os impactos que elas podem causar no processo eleitoral.

Porém, mal ele teve tempo de começar o aprofundamento de tal debate e eis que surge uma nova ameaça capaz de tornar as fake news ainda mais poderosas: os deepfakes.

Mas vamos lá, uma coisa de cada vez.

 

O TSE no combate às fake news

 

Segundo revelou uma reportagem publicada no dia 09.03.2018 (aqui!), ao menos desde 2010 temos em nossas eleições a influência das fake news. Outro recente estudo, inclusive, concluiu que, só nas eleições presidenciais de 2014, foram utilizados pelos três candidatos mais bem votados, mais de 1.200 boots (perfis automatizados), tendo eles, dentre suas funções, a de criar e propagar notícias falsas e demais formas de conteúdo manipulatório.

Não que a criação e divulgação de informações falsas e/ou manipuladas não seja ainda mais velha do que a própria ideia de eleição. Mas, ao menos há 8 anos, essa tem sido uma prática remunerada e incomparavelmente muito mais divulgada, já que, agora, mediante a utilização de redes sociais (de pessoas reais e fictícias) e de sites criados apenas para essa tarefa.

Na tentativa de refletir sobre métodos de controle sobre essa questão já para as eleições desse ano, o TSE instituiu, em dezembro do ano passado, o Conselho Consultivo sobre Internet e Eleições, cuja incumbência pode ser resumida em três principais atribuições: (i) desenvolver pesquisas e estudos sobre as regras eleitorais e a influência da internet nas eleições (notadamente sobre o risco das fake news e o uso de robôs na disseminação de informações falsas); (ii) opinar sobre as matérias que lhe sejam submetidas pela Presidência do TSE; e (iii) propor ações e metas voltadas ao aperfeiçoamento das normas. Sua composição foi – ainda mais – recentemente alterada (em 06.03.2018), possuindo representantes de 14 órgãos e entidadesi.

O próprio Min. Luiz Fux (atual presidente do TSE), em reportagem do Migalhas (aqui!), fez questão de ressaltar a necessidade de a Justiça Eleitoral “coibir comportamentos deletérios, ilegítimos, de players que se valem da ambiência da internet e de suas plataformas de acesso e de conteúdo para violentar a legitimidade das eleições e a higidez do prélio eleitoral, mediante a utilização de fake news“, bem como aproveitou para afirmar que o foco do TSE será a atuação preventiva, por meio de medidas cautelares possíveis. Em outra oportunidade (aqui!), o Min. Fux ainda solicitou o auxílio dos “veículos de imprensa confiáveis“, registrando contar com o apoio deles no combate às fake newsii.

No dia 05.03.2018, o Conselho Consultivo sobre Internet e Eleições recebeu comitiva de representante do FBI, liderada por Howard Marshall (Diretor da Divisão de Crimes Cibernéticos da entidade), tendo esta compartilhado um pouco da experiência (erros e acertos) vivida nas últimas eleições em seu país de origem, bem como os desafios, ferramentas e recomendações sobre seu controle da fake news pelos brasileirosiii.

Outrossim, no dia 21.03.2018, em uma sessão de debates específica sobre o tema (requerida pelo Sen. Telmário Mota), o Min. Tarcisio Vieira de Carvalho (do TSE) elencou a propagação de notícias falsas como um dos três principais desafios a serem enfrentados nas eleições desse ano (juntamente com o financiamento eleitoral e a impressão do voto). No mesmo evento, Paulo Tonet Cargo (presidente da ABERT iv) defendeu que a solução para tanto deve ser a efetiva punição dos veículos e das pessoas que divulgam esse tipo de notícia falaciosa.

Ainda, também segundo matéria do Migalhas (aqui!), o Min. Fux, em 27.03.2018, afirmou que irá encaminhar representação ao MPE para que este instaure um PPE, para que seja apurado quais os tipos de materiais e ferramentas do gênero que existem à disposição das campanhas eleitorais cuja utilização possui força suficientemente capaz de distorcer a liberdade de informação e influir artificialmente na tomada de decisão dos eleitores brasileiros.

E essa não tem sido uma preocupação apenas em relação à eleição presidencial. Segundo reportagem, em 14.03.2018 a Polícia Federal realizou a primeira operação de combate à notícias falsas relacionadas às eleições desse ano no Brasil (batizada de “Voto Livre”): buscas e apreensões na Secretaria de Esporte do Estado do Espírito Santo e na casa de um agente público comissionado que nela trabalha, sob a suspeita de criação e propagação de duas pesquisas eleitorais falsas (que nunca foram realizadas), disseminada pelo site Capixabão, supostamente em benefício do atual governador daquele Estado (Paulo Hartung/MDB)v. O título do texto publicado – e veiculado durante 50 dias – era: “Paulo Hartung tem a preferência do eleitor na Grande Vitória”.

 

Deepfakes: a mais nova ameaça

 

Se já não bastasse isso, agora há um novo foco de preocupação que pode tornar as fake news ainda mais poderosas e influentes: os chamados deepfakes! Ou, em outras palavras, os fake videos.

Isso mesmo! Foi criado um programa de fácil utilização capaz de colocar o rosto de uma pessoa (celebridade, político, desafeto ou qualquer outra) em um vídeo do qual ela não fez parte, como se efetivamente fosse ela quem fora filmada. Batizado de FakeApp.

Claro que há muito existem programas complexos e profissionais capacitados e especializados na produção de fake vídeosvi. A grande (e perigosa) diferença agora é que o programa mencionado acumula em si três características: (i) é muito fácil de usar; (ii) sua “falsidade” por vezes é difícil de ser identificada; e (iii) seu download é gratuito. Não sem razão, até 08.03.2018 ele já havia sido baixado mais de 120.000 vezes.

O aplicativo em questão se baseia em dois conceitos: crowdsourcing e machine learning. O primeiro significa que o aplicativo foi – e continua sendo – desenvolvido online, por qualquer um que se interesse e saiba fazer isso. O segundo conceito indica a possibilidade de a própria tecnologia se corrigir e se aprimorar sozinha, automaticamente.

Até o momento, deepfakes estiveram relacionados à pornografia na internet, colocando rostos de celebridades em vídeos pornôs. E, na falta de legislação específica sobre o tema, ou até mesmo de legislação sobre crimes contra a honra, os Estados Unidos convivem com a impunidade criminal, segundo especialistas. Todavia, conforme outra reportagem, diversos sites têm banido ou excluído esse tipo de material (como, por exemplo, o Reddit, comunidade digital na qual os deepfakes pornográficos mais estavam se propagando).

Por ora, a questão começa a intrigar autoridades do mundo todo, e, caso não seja urgentemente desenvolvida alguma efetiva política de controle preventivo e repressivo, os efeitos nocivos dos deepfakes certamente começarão em pouco tempo a ser identificados pelo mundo, inclusive nas eleições (um deepfake pornográfico de Michelle Obama, por exemplo, foi um dos que mais viralizou até o momento).

Para esse combate, seja ele realizado judicialmente, seja pelas autoridades controladoras ou até mesmo pelos veículos de comunicação (sob o risco de propagarem conteúdo falso), já se pode ter a certeza de que, em muitos casos, será imprescindível o auxílio profissional de peritos especializados em análises de vídeo. A BBC, inclusive, produziu importante reportagem sobre o tema (clique aqui!).

E, infelizmente, não é só.

Já foi também criado o Lyrebird, um programa tão fácil e competente como o FakeApp, mas que se utiliza da tecnologia desenvolvida para simular a voz de outra pessoa.

 

Observações finais

 

No dia 09.03.2018 a revista Science publicou o que talvez seja o mais importante estudo sobre o comportamento das fake news já realizado, desenvolvido por doutores do MIT vii e intitulado de “A propagação online de notícias verdadeiras e falsas”viii (para acesso ao brief, clique aqui!). Segundo sua conclusão, no Twitter, notícias falsas possuem 70% a mais de chances de serem compartilhadas do que as verdadeiras. Mas um dado específico de tal estudo nos surpreendeu ainda mais: diferentemente do que pensávamos, são as pessoas normais (perfis verdadeiros), e não os bots, os maiores propagadores das fake news no âmbito do Twitter.

O que nos faz ter ainda mais certeza de que, para que o combate à propagação de todas as formas de informação falsa possa ter condições de realmente mitigar seus efeitos eleitorais, é imprescindível que, além de um aprofundamento das iniciativas do TSE mencionadas acima, nessa luta sejam incluídas políticas públicas de conscientização e de educação da população sobre o tema. E especialmente em anos eleitorais, como no qual ora nos encontramos.

E, claro, se já é necessário que prestemos muita atenção com o que lemos, agora será imprescindível que também tomemos muito cuidado com aquilo que assistimos e com o que ouvimos

_________________

i


ii
Não é o objetivo do presente – e breve – artigo dissertar sobre a responsabilidade dos veículos de comunicação em relação à prevenção da propagação de fake news. Todavia, à par da passividade do WhatsApp bem como do escândalo Cambridge Analytica – Facebook, segundo declaração de Tom Reynolds (do gerente de comunicação do Facebook): “estamos removendo milhares de contas falsas que violam nossas políticas e cooperando com autoridades eleitorais sobre temas relacionados à segurança online, inclusive no Brasil“.

iii Informação transmitida pelo próprio TSE (clique aqui!).

iv Associação Brasileira de Emissoras de Rádio e Televisão.

v Segundo o delegado encarregado (Vitor Moraes Soares): “Havia predisposição de estimular o eleitor a votar no atual governador Paulo Hartung. A pesquisa está fora do ar por ordem judicial. É importante ressaltar que não há absolutamente nenhuma participação do governo do Estado e do governador Paulo Hartung (na divulgação das notícias)”.

vi Como, por exemplo, o CelebA-HQ (criado pela Nvidia) e o Face2Face (desenvolvido por alunos da Universidade de Stanford). Todos atuando com técnicas de computação e inteligência artificial, ou, mais precisamente, no campo da mídia sintetizada (synthesized media), seja com foco na identificação de imagens (estáticas ou em movimento) e sua classificação e recuperação, ou seja no processamento de linguagem corporal natural e geração de fala (tal como o famoso vídeo produzido por estudantes da Universidade de Washington, com recriações de falas de Barack Obama – vídeo e explicação científica).

vii Massachusetts Institute of Technology.

viii Tradução nossa do original “The spread of true and false news online”. Ele foi resultado de um audacioso projeto acadêmico desenvolvido por estudantes do MIT, decorrente da percepção e da indignação dos estudantes  sobre a propagação de notícias falsas relacionadas ao atentado à bomba ocorrido na Maratona de Boston, lá em 2013.

error: Content is protected !!