¿Es realmente tan confiable la identificación de identidad de los modelos de IA? La mayoría de los experimentos de reconocimiento de huellas dactilares se basan en una suposición: que el cómplice del modelo es benévolo y no eliminará proactivamente marcas de agua o identificaciones. Suena bastante idealista.

¿Pero cuál es la realidad? En un ecosistema donde los modelos son negociados, fusionados, bifurcados y reempaquetados, esta suposición no tiene fundamento. Una vez que el modelo entra en la fase de circulación, el riesgo de que las etiquetas de identificación sean alteradas, eliminadas o incluso falsificadas aumenta drásticamente. Tu mecanismo de identificación puede funcionar perfectamente en el laboratorio, pero en escenarios reales se convierte en un adorno. Esta es también la razón por la cual la seguridad del modelo necesita un diseño técnico más profundo: no se puede depender solo de suposiciones de buena fe.