A identificação de identidade de modelos de IA é realmente tão confiável assim? Atualmente, a maioria dos experimentos de reconhecimento de impressões digitais baseia-se em uma suposição - que o cúmplice do modelo é benigno e não removerá ativamente marcas d'água ou identificações. Parece bastante idealizado.

Mas qual é a situação real? No ecossistema onde os modelos são negociados, fundidos, bifurcados e reempacotados, essa suposição não se sustenta. Assim que o modelo entra na fase de circulação, o risco de a identificação ser alterada, removida ou até mesmo falsificada aumenta drasticamente. O seu mecanismo de identificação pode funcionar perfeitamente no laboratório, mas no cenário real torna-se apenas decorativo. É por isso que a segurança do modelo exige um design técnico mais profundo — não se pode confiar apenas em suposições de boa vontade.