Ministro quer que combate às fake news se assemelhe à rapidez da identificação de crimes de pornografia infantil e direitos autorais
O presidente do Tribunal Superior Eleitoral (TSE), Alexandre de Moraes, participou do evento IA e desafios à democracia no Brasil nesta segunda-feira (4), ocasião em que aproveitou para dar um recado aos candidatos que almejam usar a inteligência artificial criar notícias falsas para vencer os próximos pleitos: quem o fizer deveria perder o mandato e, se eleito, ficar inelegível.
Isso porque o ministro admite que, ainda que a Justiça Eleitoral tenha celeridade e consiga derrubar fake news em 15 minutos, o algoritmo de entrega de notícias falsas pode fazer com que esta rápida exposição atinja um número expressivo de eleitores e condene adversários.
Ao longo do discurso, o ministro explicou o modus operandi usado, especialmente, pela extrema direita e regimes autoritários que almejam chegar ao poder. O esquema começa por divulgar notícias verdadeiras, a fim de atingir novos públicos e conquistar a confiança do público. Em seguida, as milícias digitais passam a difundir notícias verdadeiras e notícias falsas, a fim de confundir e manipular o eleitor.
O ministro lembrou que as redes sociais nasceram como um instrumento de promoção da democracia, especialmente quando usada na Primavera Árabe, a partir de 2010, quando civis de países do norte da África e Oriente Médio passaram a protestar contra a repressão praticada pelos respectivos governos, além da perda de direitos fundamentais, altos níveis de desemprego, corrupção e pobreza.
Cenário ainda mais perigoso
No entanto, com o uso da inteligência artificial, em que é possível manipular vídeos e áudios, as milícias digitais podem acabar com campanhas em poucos minutos e manipular, até mesmo, o resultado da disputa eleitoral.
Por isso, Alexandre de Moraes afirmou que a Corte já têm grupos de discussão para prever a regulamentação das redes sociais, caracterizando-as como veículos de mídia, já que o faturam a partir do compartilhamento e direcionamento de informações.
O presidente do TSE quer estabelecer, ainda, punições duras a quem usar a inteligência artificial para chegar ao poder, a partir da divulgação de notícias falsas. Aos candidatos que praticarem o delito, a pena deveria ser a cassação da candidatura.
Já os que se elegerem de forma fraudulenta, a penalidade teria de ser a cassação do mandato e a inelegibilidade.
Confira o discurso do presidente do TSE e ministro do Supremo Tribunal Federal na íntegra:
É importante que se diga que nós tivemos uma experiência ímpar no combate à desinformação como instrumento de ataque à democracia no combate aos métodos e desinformação. Então, eu diria que poucos países do mundo tiveram a experiência prática, a vivência prática melhor dizendo. Hoje temos uma experiência acumulada.
Nós aprendemos muito com as experiências do direito, tivemos uma overdose de desinformação tanto nas eleições de 2018, principalmente, quanto na desinformação especificamente por meio de redes sociais das big tech em 2020 e 2022 e fomos aprendendo.
Tivemos a humildade, e eu digo aqui o Poder Judiciário, Tribunal Superior Eleitoral, Supremo Tribunal Federal e a Procuradoria Geral da República, nós todos tivemos a humildade necessária para verificar que em 2018 nós somos surpreendidos, como o resto do mundo todo. Em 2020 avançamos e em 2022 tivemos o sucesso maior nesse combate [às fake news].
Precisamos nos preparar agora para uma nova etapa andou a nova etapa, como foi salientado nas falas que me antecederam uma nova etapa no combate à desinformação. As informações agora no mundo político são como ataque à democracia, como ataque à livre vontade do eleitor se manifestar nas eleições. Essa desinformação que já foi ampliada com instrumento descontrolado das redes sociais, a partir de agora ganha um novo e problemático fator: a inteligência artificial
É importante identificar não só os efeitos, mas as razões da infecção quando as palavras dele. Não só a febre, mas a razão da doença. Nós temos que ter em mente, de forma muito clara, que a utilização das redes sociais para disseminação da desinformação, que já verificamos nas eleições da Argentina desse ingrediente novo para otimizar a desinformação.
Isso tem uma causa e uma finalidade. Os instrumentos vão se aperfeiçoando, lamentavelmente vão melhorando. Não é que as redes sociais sejam ruins, que a inteligência artificial é ruim, não é isso. A utilização maléfica desses instrumentos têm uma causa e uma finalidade. A causa nós pegamos lá atrás e a finalidade é sempre a mesma: atacar a democracia, corroer os pilares das democracias ocidentais para manutenção no poder ou conquista e poder de regimes autoritários, de regimes de extrema direita.
O que gerou isso, a causa lá atrás foi a percepção de que um instrumento que nasceu para a Democracia, é um instrumento que nasceu na sua utilização nas eleições para convocação do direito de reunião da livre expressão nas primaveras árabes. Foi a utilização das redes sociais para questões políticas.
Se nos recordarmos, isso nasceu lá atrás, em países não democráticos, que censuravam a imprensa, restringiam a liberdade de expressão, impediam o direito de reunião. As redes sociais, ainda no início, foram utilizadas para que a população pudesse rapidamente se reunir, pudesse rapidamente buscar instrumentos democráticos.
O que alguns teóricos e políticos de extrema direita, populistas, devemos reconhecer de forma absolutamente competente, fizeram: capturaram essas redes sociais e começaram a manipular a desinformação, passaram a manipular essas informações com instrumentos que até então eram utilizados somente para obter lucro.
As redes sociais utilizavam as big techs, utilizavam algoritmos para chegar a consumidores.
Ao identificar o que aquela pessoa consultava, do ponto de vista de consumo, de contas, o que aquela pessoa gostava, os algoritmos direcionavam produtos semelhantes àqueles procurados por aquela pessoa e obviamente, uma vez monetizados essas redes sociais, elas levavam aquela pessoa produtos semelhantes ou produtos que poderiam substituir o que essa pessoa procurava por produtos obviamente dos anunciantes.
Essas big techs lamentavelmente até hoje são consideradas empresas de tecnologia, que em tese faturam mais do que todos os demais canais de mídia. Aquilo começou a ser utilizado via algoritmos via direcionamento para uma bolhas de consumo visando o lucro.
Se verificou, em um determinado momento, que os mesmos instrumentos poderiam ser utilizados para atingir o poder político. A pessoa que consulta o que quer comprar também consulta artigos, reportagens e palavras que dizem mais respeito. Essa pessoa pode ser definida como uma pessoa mais conservadora, mas liberal, mais progressista e, a partir disso, é esses mecanismos da redes sociais passaram a direcionar, via algoritmos, mensagens para essas pessoas no primeiro momento mensagens verdadeiras, para ganhar, digamos assim, a confiança dessa pessoa.
Em um segundo momento, mensagens com uma somatória de mensagens verdadeiras com a conclusão falsa. Todos nós sabemos que é possível construir toda uma narrativa falsa, mas com dados verdadeiros com a manipulação de dados. Aí sim bombardear essas pessoas com mensagens ideológicas, principalmente mensagens de ódio, antidemocráticas contra o sistema, para corroer a democracia por dentro .
Óbvio que, até pelo tempo e rápidas palavras, esse foi o caminho de utilização das redes sociais para garantir uma verdadeira milícia digital ou milícias digitais do mundo todo de corrupção à democracia, para que fosse possível que regimes autoritários populistas chegassem ou se mantivessem.
A partir disso, verificamos a quantidade de vídeos falsos, de notícias falsas e o surgimento de especialistas. O embaralhamento de notícias verdadeiras com falsas é uma das grandes e conquistas dessas milícias digitais para atacar a imprensa a imprensa livre a mídia tradicional, que é um dos pilares da democracia
Esse embaralhamento fez com que as pessoas passassem a confundir notícias verdadeiras com notícias falsas, graças à utilização sem qualquer transparência de algoritmos, fazendo chegar a determinadas bolhas notícias tendenciosas, a fim de afetar o que é mais importante em uma democracia, que é a liberdade de escolha do eleitor.
O eleitor passou a sofrer uma verdadeira lavagem cerebral com notícias fraudulentas, com pseudo verdades manipuladas para atingir a sua consciência. No momento de escolher,
a desinformação atua inicialmente inconstitucionalmente, atua na vontade do eleitor, desvirtuando a vontade do eleitor.
A partir de agora, nós temos um ingrediente muito mais perigoso, porque se tudo que foi feito já gerou toda essa polarização, esse discurso de ódio. Se tudo que foi feito mesmo com o combate efetivo já gera dúvidas em grande parcela da população, imagina em qual utilização da Inteligência Artificial, como foi dito ser possível, essa essa reflexão, essa conversa, esse painel que nós estamos fazendo com inteligência artificial.
É possível substituir essa parte do meu rosto, substituir a leitura labial e as palavras no mesmo timbre, dizendo coisas absolutamente diferentes das que eu disse e até que se prove isso.
É mentira que isso foi desvirtuado. Isso foi fraude por meio de Inteligência Artificial milhões e milhões de pessoas terão acesso a isso. Esse é o grande perigo.
Essa desinformação nada mais é do que uma ampliação da fofoca. Só que uma fofoca em rede mundial, uma fofoca para milhões e milhões de pessoas. Isso me lembra sempre, aqueles que são da área jurídica vão se recordar, as lições clássicas do Direito Penal, quando se explicam a questão dos crimes contra a honra, a ofensa à dignidade das pessoas, a honra das pessoas se explica com uma imagem.
Uma pessoa pega um travesseiro de pena, sobe numa alta torre, abre esse travesseiro e chacoalha as penas. Essas perdas saem voando, essa pessoa desce correndo e tenta pegar todas as penas para reconstituir o travesseiro, mas jamais conseguirá reconstitui-lo integralmente.
Isso é ofensa proferida. Depois que a ofensa proferida, por mais que se responsabilize, você não consegue tirar um pouco da dúvida do que surgiu. Imaginem isso que já foi otimizado pela desinformação das milícias digitais das redes sociais, imagina com a utilização da inteligência artificial, quantas e quantas pessoas terão acesso a vídeos falsos, a declarações falsas, mesmo que se retire com agilidade como nós conseguimos no Tribunal Superior Eleitoral, a partir de resoluções aprovadas pelo plenário do TSE?
No ano passado, na véspera da eleição e no dia da eleição, estavam tirando notícias fraudulentas, vídeos fraudulentos em até 15 minutos. Mas mesmo com isso, imagine quantas e quantas pessoas poderão ser bombardeadas com notícias fraudulentas, só que desinformação a partir de um vídeo de fala com quase certeza de veracidade?
É muito grande essa agressão, principalmente para utilização da Inteligência Artificial. Ela pode realmente mudar o resultado eleitoral e pode desvirtuar o resultado eleitoral, principalmente em eleições extremamente polarizadas.
O que se deve fazer então, me parece que devemos avançar por dois pontos. O primeiro é na regulação das redes sociais, eu venho me debatendo, venho debatendo isso há muito tempo, insistindo nisso no ano passado. No primeiro semestre, o Congresso Nacional chegou a discutir na Câmara dos Deputados. Depois não aprovou a urgência, nós temos que voltar a discutir isso, há necessidade premente de uma regulamentação. Eu costumo dizer sim que a regulamentação bastaria um único artigo. Nesse caso, sou minimalista: nós não podemos definir o que são notícias fraudulentas. É porque isso é impossível.
A ideia seria um único artigo: o que não pode no mundo real, não pode no virtual. A mesma responsabilidade que as empresas de mídia têm, as big techs terão também.
‘Ora, mas nós somos simplesmente depósitos de notícias, artigos e informações [argumentariam da sbig techs]’, mas à medida em que monetizam, à medida em que ganham o dinheiro em cima, à medida em que os seus algoritmos direcionam determinadas notícias, não são mais depósitos, são partícipes da divulgação desses artigos, dessas notícias, desses vídeos. Se economicamente faturam em cima disso, civil e penalmente devem ser responsabilizadas também por abusos para que realizem um autocontrole. Realizem o autocontrole como realizam hoje em relação à pedofilia, à pornografia infantil, aos direitos autorais.
Imagine um vídeo formatado pela Inteligência Artificial como imagens de pedofilia de um determinado candidato. Isso, mesmo que retirado rapidamente, afeta a campanha de forma mortal
O segundo ponto, nesse caso principalmente da utilização da Inteligência Artificial, não basta a prevenção, não basta a regulamentação prévia. Há a necessidade de limites, de sanções duras, severas, para que aqueles que se utilizam da inteligência artificial para desvirtuar a vontade do eleitor para atingir o poder e ganhar as eleições, saibam que se utilizarem isso e for comprovado, o registro será cassado, o mandato será cassado e ficarão inelegíveis.
Não tenho nenhuma dúvida em afirmar que o combate à inteligência artificial nas eleições necessita de forma muito clara: aquele que utilizou a inteligência artificial para desinformar o eleitor, aquele que fraudou vídeos, fraudou áudios para desinformar, só há uma sanção possível: cassação do registro. Se já tiver sido eleito, cassação do mandato e inelegibilidade, porque senão o crime vai compensar.
Esse é o único recado que nós podemos dar para que a inteligência artificial não anabolize essas milícias digitais na utilização da desinformação para captar a vontade do eleitor, desvirtuando o resultado de uma eleição.
É o momento para ter essa discussão. Nós, do Tribunal Superior Eleitoral, já montamos vários grupos de trabalho para análise da questão da Inteligência Artificial, vamos realizar ao longo do primeiro trimestre do ano que vem grandes discussões não só é com juristas, cientistas políticos, pessoas da mídia e políticos, para possamos regulamentar a questão da inteligência artificial para as eleições de 2024.
Não sejamos ingênuos e achar que se não houver regulamentação, aqueles que pretendem chegar ao poder a qualquer custo não se utilizaram das suas milícias digitais.