Recentemente, uma tendência tem causado alguma preocupação — uma plataforma de destaque removeu mais de 120.000 conteúdos ilegais em 24 horas, devido ao uso indevido de grandes modelos para gerar imagens falsas não consentidas. Embora pareça um caso específico, o problema que revela é bastante comum.

Resumindo, agora é possível usar ferramentas gratuitas para realizar troca de rosto, com uma precisão difícil de distinguir. Isso já não é novidade, mas o mais preocupante é — a barreira de entrada dessas ferramentas é muito baixa, e o custo de disseminação é quase zero. Ainda mais alarmante, já surgiram na dark web serviços de geração personalizados para alvos específicos, com preços absurdamente baixos.

As vítimas querem fazer valer seus direitos? É extremamente difícil. O conteúdo gerado não tem uma fonte verdadeira, e embora a prova na blockchain possa teoricamente resolver esse problema, o custo é tão alto que a maioria das pessoas não consegue arcar. Isso cria um ciclo estranho: o ritmo do avanço tecnológico supera o das políticas regulatórias, e as ações de plataformas para bloquear contas são apenas paliativas, sem resolver a questão de fundo.

Há também um risco oculto que merece atenção — desenvolvedores já começaram a coletar ilegalmente informações de privacidade dos usuários sob o pretexto de “necessidade de dados de treinamento de IA”.

Isso leva a uma reflexão: quando o custo de criar conteúdo falso é muito menor do que o dano real que causa, não deveríamos reconsiderar nossas definições de “prova” e “realidade”? Talvez a abordagem de armazenamento distribuído na blockchain precise ser levada a sério, mas o pré-requisito é que o custo seja suficientemente baixo para que as pessoas comuns possam usar.