A startup de inteligência artificial OpenAI, conhecida pelo desenvolvimento do ChatGPT, expressou apoio a um novo projeto de lei na Califórnia que visa a identificação de conteúdo gerado por IA.  

O projeto de lei AB 3211, que foi discutido no final de agosto, propõe a obrigatoriedade de marcas d'água nos metadados de fotos, vídeos e clipes de áudio criados por inteligência artificial, como uma forma de diferenciar esse conteúdo do produzido por humanos. 

Jason Kwon, diretor de estratégia da OpenAI, manifestou o apoio da empresa ao projeto, destacando que a identificação clara do conteúdo gerado por IA ajudaria os usuários a evitarem confusões.  

"Novas tecnologias e padrões podem ajudar as pessoas a entenderem a origem do conteúdo que encontram on-line e evitar confusão entre conteúdo gerado por humanos e conteúdo fotorrealista gerado por IA", disse Kwon em carta revisada pela Reuters.  

Além da OpenAI, outras grandes empresas de tecnologia como Microsoft e Adobe também apoiam o AB 3211. No entanto, a OpenAI havia se oposto a outro projeto de lei relacionado à IA, o SB 1047, que exigiria testes de segurança para modelos de IA.  

Na segunda-feira, 26 de agosto, Pablo Marçal, candidato à prefeitura de São Paulo pelo PRTB, divulgou um vídeo de campanha que utiliza deepfake para atacar seu rival, Guilherme Boulos (PSOL-SP).  

O vídeo publicado nas redes sociais de Marçal violou duas diretrizes do Tribunal Superior Eleitoral (TSE) sobre o uso de inteligência artificial (IA) em campanhas eleitorais para as eleições municipais de 2024. O TSE proíbe o uso de deepfakes e exige que todo material gerado por IA seja claramente rotulado como tal 

O vídeo, que mostra o rosto de Marçal sendo usado como máscara sobre uma pessoa desconhecida assoprando um pó branco, foi considerado uma violação das normas eleitorais.  

>>> Quer saber como o Roda Viva revelou um viés surpreendente nas entrevistas de Marçal e Boulos? Confira a análise completa agora: Leia mais! <<<

A peça, com a legenda "POV: Marçal fazendo Bolos", faz parte de uma campanha de difamação contra Boulos e está sendo investigado pela Polícia Federal (PF) por suspeitas de crime eleitoral.  

O uso de deepfakes e outros conteúdos sintéticos pode resultar na cassação do registro de candidatura e perda do mandato, caso o candidato seja eleito. Além disso, a divulgação de informações falsas que influenciem o eleitorado pode levar a penas de detenção de dois meses a um ano.  

A legislação exige que todo conteúdo sintético em campanhas seja acompanhado por um aviso de que foi gerado por IA. Caso contrário, as plataformas e a Justiça devem remover esses conteúdos.