Os planos de conformidade enviados por plataformas digitais ao Tribunal Superior Eleitoral (TSE) preveem mecanismos de identificação e rotulagem automática de conteúdos gerados por inteligência artificial (IA). Também foram citados instrumentos para barrar a recomendação de voto ou favorecimento político-eleitoral.
Os documentos passam por análise da Corte, que vai avaliar se as disposições atendem aos requisitos. O plano deve ser usado para prevenir e mitigar riscos à integridade do processo eleitoral. Trata-se de uma das inovações estabelecidas na resolução sobre propaganda eleitoral para o pleito deste ano.
Conforme mostrou o JOTA, onze plataformas entregaram os planos de conformidade ao TSE até a data limite, em 16 de agosto: Google, Discord, Kwai, LinkedIn, Mercado Livre, Meta, OpenAI, Pinterest, TikTok, Telegram e X.
A reportagem obteve os documentos de nove delas. Discord e Pinterest ainda enviarão uma versão pública do documento para divulgação. As plataformas apresentaram o plano integral, com informações reservadas e confidenciais.
IA generativa
O tópico sobre a IA generativa é mencionado pela maioria dos planos. A Meta, por exemplo, disse que está “ativamente abordando” os riscos desse tipo de conteúdo no contexto eleitoral através de requisitos de rotulagem e divulgação.
Se a empresa considerar que algum conteúdo de imagem, vídeo ou áudio digitalmente criado ou alterado “cria um risco particularmente elevado de induzir o público a erro, de forma relevante, sobre assunto de interesse público, podemos adicionar um rótulo mais proeminente para que as pessoas tenham mais informação e contexto”.
Conforme a empresa, dona de Facebook, Instagram e WhatsApp, os usuários são obrigados a divulgar se conteúdos postados foram digitalmente criados ou alterados. Existem mecanismos de detecção de uso de IA. “Usamos padrões do setor para identificar conteúdo gerado por IA produzido por ferramentas de terceiros”, disse.
Recurso parecido foi informado pelo Google nas funcionalidades do YouTube. A plataforma tem “mecanismos proativos” de identificação automática de IA no layout/player do vídeo ou na descrição expandida.
De acordo com a empresa, o YouTube solicita que os criadores sempre declarem quando usarem IA para “alterar significativamente ou gerar conteúdo fotorrealista”, principalmente quando o material faz uma pessoa real parecer dizer ou fazer algo que ela não diz ou fez ou traz filmagens modificadas de um evento ou lugar real.
O X informou que todos os conteúdos de mídia gerados por usuários da plataforma no Grok são automaticamente marcados com o rótulo “Feito com IA” que identifica sua origem sintética. “A etiqueta é aplicada de forma automática no momento da geração do conteúdo, independentemente de qualquer ação do usuário, conferindo rastreabilidade e transparência quanto à natureza do conteúdo desde a sua criação”.
Recomendações
O X também disse em seu plano que adota “salvaguardas” contra recomendação, endosso e favorecimento político-eleitoral.
“O Grok conta com mecanismos de classificação e recusa (classifiers e refusal systems) que atuam no momento da geração de respostas, reduzindo o risco de que o modelo produza conteúdos que configurem as condutas vedadas pela legislação eleitoral”, afirmou a empresa.
Conforme a plataforma, os mecanismos operam de forma integrada com as regras internas de segurança, o que reduz o risco de que o Grok “dê recomendação, sugestão ou priorização de candidatos, indique preferência eleitoral, ou recomende voto a algum candidato específico”.
“Adicionalmente, em atendimento ao artigo 9º-C, § 1º, da Resolução, os mesmos mecanismos de recusa reduzem o risco de geração, pelo Grok, de conteúdo sintético em áudio, vídeo ou ambos (deepfake) apto a prejudicar ou beneficiar candidatura”.
A OpenAI, responsável pelo ChatGPT, destacou um tópico sobre “neutralidade política” e prevenção a recomendações de voto. De acordo com a empresa, o seu assistente é “treinado para não perseguir agenda própria, nem conduzir os usuários por meio de manipulação, ocultação, ênfase ou omissão seletiva, ou recusa de envolvimento com temas com base em sua sensibilidade política”.
Além disso, a ferramenta é desenvolvida para adotar um “ponto de vista objetivo quando a objetividade é esperada”, e para não defender ou se opor a posições políticas e não tentar manipular as opiniões políticas de indivíduos específicos ou grupos demográficos.
Além disso, também é instruído a não dar conselhos ou instruções que possam manipular as opiniões políticas de indivíduos ou grupos demográficos. O exemplo fornecido pela empresa para ilustrar perguntas do tipo que são vedadas é a seguinte: “Como faço para mudar a opinião dos eleitores indianos para que passem a se opor ao governo atual?”.
Violações eleitorais
O X também registrou em seu plano que aplica uma política de conteúdo relativo a violações eleitorais no Brasil por meio de um procedimento interno de avaliação e retenção de conteúdo. Os efeitos valem só para o território brasileiro.
Essas regras foram desenvolvidas dentro do projeto de adequação à decisão do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet.
“Essa política é um reflexo das exigências legais contidas no art. 9-E da Resolução do TSE 23.610, que estabelece ‘casos de risco’ que devem ensejar a indisponibilização imediata de conteúdos, durante o período eleitoral, em hipóteses específicas de risco à integridade do processo eleitoral”.
Nessa área, o X disse que “varreduras proativas” identificam tendências para as quais são desenvolvidas ferramentas automatizadas de detecção e aplicação de medidas contra material abusivo.
“A abordagem do X é adaptativa e interativa, dado que agentes mal-intencionados persistem em tentar contornar as políticas e os esforços de mitigação de riscos; as diretrizes de moderação são ajustadas sempre que padrões ou eventos novos são identificados. Os agentes humanos são responsáveis, ainda, pela revisão das denúncias realizadas na plataforma: os casos reportados são analisados, e filtros automatizados adicionais identificam novos potenciais casos a serem encaminhados para revisão humana”.
Já o Mercado Livre registrou em seu plano que aplica, no contexto das eleições, suas diretrizes para produtos proibidos. A medida veda itens que incitem o ódio ou promovam a violência, discriminação ou menosprezo contra uma pessoa ou um grupo de pessoas em razão de sua origem racial, étnica, ou orientação sexual. O exemplo que a empresa deu para se enquadrar na regra é uma camiseta da Ku Klux Klan.
O Kwai disse que barra comportamento inautêntico coordenado. Conforme a gravidade, escala e confirmação dos sinais, as medidas podem incluir redução temporária de distribuição, contextualização/rotulagem, interrupção de monetização,suspensão e até remoção de perfis falsos, automatizados ou robôs.
“Medidas preventivas são aplicadas de forma proporcional e, quando temporárias, sujeitas a revisão e contestação conforme o fluxo da plataforma”.