Inteligência artificial: prefeito de Crissiumal denuncia adulteração de áudio com 'deepfake'

 

A preocupação com o uso da inteligência artificial (IA) nas eleições fez o Tribunal Superior Eleitoral (TSE) aprovar, na terça-feira (29), uma regra que pode levar à cassação de candidato pelo uso irregular da técnica. Em Crissiumal, no Noroeste do Rio Grande do Sul, um caso de fraude foi parar na polícia.

Um áudio "deepfake" feito com inteligência artificial usava a voz do prefeito Marco Aurélio Nedel (PL) em uma mensagem que tratava servidores da Secretaria de Obras como "pessoal analfabeto".

 

"Eu não tinha ideia do estrago que isso aí poderia causar. Mas, nos dias seguintes, isso foi se espalhando pelo WhatsApp, pela cidade, e eu fui me dando conta da gravidade do caso", afirma Nedel.

 

O termo "deepfake" se refere ao conteúdo produzido por inteligência artificial que reproduz falsamente a voz e/ou a imagem de pessoas reais.

Assim que soube da fraude, o prefeito Marco Aurélio Nedel registrou um boletim de ocorrência, e a Polícia Civil confirmou que se tratava de uma farsa.

"A gente espera que a Justiça brasileira dê uma resposta rápida para que outros não se sintam encorajados a ir por esse caminho, de criar fatos que não correspondem à realidade e, com isso, tentar tirar proveito político e tirar da disputa candidatos", diz o prefeito.

 

Prefeito de Crissiumal, Marco Aurélio Nedel (PL) — Foto: Reprodução/RBS TV

 

 

Fiscalização

 

As normas aprovadas pelo TSE determinam a identificação do conteúdo manipulado por IA, a proibição dos deepfakes e o uso limitado de chatbots (robôs de conversa) e avatares. Entenda mais abaixo.

"A inteligência artificial não está vedada. Ela foi regulamentada pela resolução. Ela é lícita, desde que ela seja rotulada de uma forma explícita e expressa que aquela propaganda utiliza inteligência artificial", explica o secretário judiciário do Tribunal Regional Eleitoral (TRE) do RS, Rogério Vargas.

Para o Ministério Público Eleitoral, as próprias campanhas vão fiscalizar o uso de IA entre os candidatos.

"Nós acreditamos que vai haver um controle recíproco dos candidatos em relação a esses fatos que, eventualmente, transbordem a regra da legalidade. Nós vamos ficar atentos às denuncias que chegarem para dar os encaminhamentos devidos", comenta o promotor Rodrigo Zilio.

 

Regras do TSE:

• conteúdos manipulados por inteligência artificial deverão ser identificados como tal;
• chatbots e avatares para intermediar a comunicação da campanha devem ter uso limitado. Não poderá haver qualquer simulação de conversa do chatbot e avatar com candidato ou pessoa real;
• proibição absoluta ao uso de deepfake.