Recientemente, se ha observado un fenómeno que resulta algo inquietante: una plataforma líder eliminó en 24 horas más de 120,000 contenidos que violaban las normas, y la causa principal fue el uso indebido de grandes modelos para generar imágenes falsas no consentidas. Aunque esto parece un caso concreto, en realidad refleja un problema muy generalizado.

En pocas palabras, ahora con herramientas gratuitas se puede realizar tecnología de intercambio de rostros, y la precisión ha alcanzado un nivel difícil de distinguir. Esto ya no es una novedad, pero lo crucial es que—estas herramientas tienen una barrera de entrada muy baja y los costos de difusión son casi nulos. Lo que resulta aún más preocupante es que en la dark web ya existen servicios de «generación personalizada» dirigidos a objetivos específicos, a precios ridículamente bajos.

¿Las víctimas quieren defender sus derechos? Es muy difícil. El contenido generado no tiene una fuente auténtica; aunque en teoría la prueba en blockchain podría resolver este problema, el costo es tan alto que la mayoría de las personas no pueden permitírselo. Esto crea un ciclo extraño: el ritmo de desarrollo tecnológico supera con creces la velocidad de las políticas regulatorias, y las medidas de «bloqueo de cuentas» en plataformas solo tratan los síntomas y no la raíz del problema.

También hay un riesgo oculto que merece atención: ya han comenzado a aparecer indicios de que los desarrolladores recopilan ilegalmente datos de usuarios bajo el pretexto de «necesidades de entrenamiento de IA».

Esto lleva a reflexionar: cuando el costo de crear contenido falso sea mucho menor que el daño real que causa, ¿deberíamos cambiar nuestra definición de «evidencia» y «verdad»? Tal vez la idea de un registro distribuido en blockchain realmente deba considerarse seriamente, pero siempre que los costos sean lo suficientemente bajos para que las personas comunes puedan acceder a ellos.