Recomendação mira deepfakes e conteúdos gerados sem consentimento, especialmente envolvendo mulheres, crianças e adolescentes
A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) recomendaram à empresa controladora da plataforma digital X (antigo Twitter) a adoção de medidas para impedir o uso indevido da ferramenta de inteligência artificial Grok na geração e circulação de conteúdos sexualizados não consentidos.
As orientações constam em documento divulgado nesta terça-feira (20) e incluem a criação, no prazo máximo de 30 dias, de procedimentos técnicos e operacionais para identificar, revisar e remover conteúdos desse tipo que ainda estejam disponíveis na plataforma quando produzidos pelo Grok a partir de comandos de usuários. Entre as recomendações está também a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de pessoas maiores de idade, quando não houver autorização para o uso de sua imagem.
As instituições defendem ainda a implementação de um mecanismo “transparente, acessível e eficaz para que titulares de dados possam exercer seus direitos”, incluindo o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais. O sistema deve garantir resposta adequada e em prazo razoável, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem consentimento.
As recomendações foram elaboradas após denúncias de usuários que relataram a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais. Também serviram de base reportagens da imprensa nacional e internacional, além de testes realizados pelas próprias instituições.
Segundo o documento, os testes apontaram o uso ilegal da ferramenta por usuários para a produção de deepfakes, técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais, com caráter sexualizado, erótico ou pornográfico, envolvendo mulheres, crianças e adolescentes. As instituições alertam que esse tipo de conteúdo afeta a proteção de dados pessoais, as relações de consumo, a dignidade da pessoa humana e outros direitos difusos, coletivos e individuais indisponíveis.
“Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, afirmam os órgãos.
As orientações também buscam impedir a geração de conteúdos que representem pessoas naturais maiores de idade identificadas ou identificáveis em contextos sexualizados ou erotizados, sem autorização.
O documento destaca que, embora o artigo 19 do Marco Civil da Internet preveja que provedores de aplicação não seriam responsabilizados por conteúdos publicados por terceiros, salvo por decisão judicial, esse entendimento não se aplica integralmente ao caso.
Isso porque, segundo as instituições, as deepfakes sexualizadas não são produzidas exclusivamente por terceiros, mas resultam da interação entre usuários e a ferramenta de inteligência artificial desenvolvida e disponibilizada pelo X, “o que o torna, portanto, coautor de tais conteúdos, e não seu mero intermediador”.
As recomendações citam ainda decisão recente do Supremo Tribunal Federal (STF), que declarou a parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet por entender que o dispositivo “não oferece proteção suficiente a direitos constitucionais relevantes”.
No julgamento, a Corte estabeleceu que provedores de aplicação têm dever especial de cuidado para evitar a circulação massiva de crimes graves, como os praticados contra mulheres em razão do sexo feminino, incluindo conteúdos que propagam ódio ou violência.
As instituições lembram também que a própria política de autorregulação do X proíbe a publicação e o compartilhamento de nudez não consensual, além da produção, manipulação e disseminação de imagens sexualizadas de terceiros por meio do Grok.
Segundo o documento, a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos, nessas condições, torna-se “insustentável”.
Caso as recomendações não sejam acatadas ou sejam implementadas de forma considerada insuficiente, as instituições informam que outras medidas poderão ser adotadas, tanto na esfera administrativa quanto judicial, para garantir a proteção dos direitos dos cidadãos, especialmente de mulheres, crianças e adolescentes.
*Informações: Agência Brasil *Foto de capa: X/Divulgação
