Uma decisão recente da Justiça brasileira determinou que a rede social X, antiga Twitter, mantenha fora do ar um vídeo falso envolvendo a cantora Gretchen. Além disso, a plataforma foi obrigada a fornecer informações sobre o usuário responsável pela publicação, como parte de um processo que discute o uso indevido de imagem e a disseminação de conteúdos manipulados digitalmente.
O caso ganhou destaque em 2024, quando um vídeo produzido por meio de técnicas de deepfake circulou nas redes sociais, atribuindo à artista declarações e convites para um evento fictício. A gravação, além de utilizar a imagem de Gretchen sem autorização, fazia referência a momentos específicos de sua trajetória pública, incluindo sua participação em campanhas políticas na cidade de Itamaracá, Pernambuco.
No vídeo, que circulou entre os meses de março e abril, a falsa Gretchen convida as pessoas a participarem de um suposto evento de nome "Cabaré da Cinderela", com oferta de "muito sexo", no intuito de "conseguir apoiadores para a sua candidatura à Prefeitura de Itamaracá". pic.twitter.com/4NqjMm9TjA
— Papisa Leoa 69, a bispa égera de Sodoma e Gomorra (@poppyderrubada) June 13, 2025
Como funciona a responsabilização do X por conteúdos de terceiros?
A discussão sobre a responsabilidade das plataformas digitais por conteúdos publicados por usuários tem sido tema recorrente no Brasil. O artigo 19 do Marco Civil da Internet estabelece que as redes sociais só podem ser responsabilizadas caso descumpram uma ordem judicial para remover determinado conteúdo. Ou seja, a plataforma deve ser notificada e, se não agir conforme a decisão, pode ser punida.
No entanto, esse entendimento está sendo revisado pelo Supremo Tribunal Federal (STF) em 2025. O tribunal formou maioria para alterar a interpretação do artigo, permitindo que as plataformas possam ser responsabilizadas por conteúdos ilegais mesmo antes de uma ordem judicial, especialmente em casos de violação de direitos fundamentais ou disseminação de informações falsas.
O que é deepfake e por que preocupa nas redes sociais?
O termo deepfake refere-se a vídeos, áudios ou imagens manipulados por inteligência artificial para simular situações, falas ou comportamentos de pessoas reais. Essa tecnologia utiliza algoritmos avançados para criar conteúdos altamente realistas, dificultando a identificação de fraudes e ampliando o potencial de danos à reputação de indivíduos e instituições.
Entre os principais riscos associados ao uso de deepfakes estão:
- Disseminação de notícias falsas: Vídeos manipulados podem ser usados para espalhar desinformação em larga escala.
- Violação de direitos de imagem: Pessoas públicas e anônimas podem ter sua imagem utilizada sem consentimento.
- Extorsão e fraudes: Conteúdos falsos podem ser empregados em tentativas de extorsão ou golpes virtuais.
Quais medidas a Justiça pode adotar em casos de deepfake no X?
Quando uma pessoa é vítima de um conteúdo falso, como no caso de Gretchen, é possível recorrer ao Judiciário para solicitar a remoção do material e a identificação dos responsáveis. As decisões podem incluir:
- Ordem para retirada imediata do conteúdo das plataformas digitais.
- Exigência de fornecimento de dados, como endereço de IP, para identificar o autor da publicação.
- Aplicação de multas em caso de descumprimento das determinações judiciais.
O fornecimento do endereço de IP, por exemplo, é uma medida que auxilia autoridades e vítimas a localizarem quem está por trás de perfis anônimos ou contas falsas. Esse procedimento segue as normas de proteção de dados e privacidade, mas pode ser autorizado judicialmente em situações que envolvem crimes ou violações de direitos.
