Насколько надежна идентификация по модели ИИ? В настоящее время большинство экспериментов по распознаванию отпечатков пальцев основаны на предположении, что сторона, управляющая моделью, является доброй, и не будет активно удалять водяные знаки или идентификационные метки. Звучит довольно идеалистично.

Но какова реальная ситуация? В экосистеме, где модели передаются, объединяются, разделяются и переупаковываются, это предположение абсолютно не имеет под собой оснований. Как только модель попадает в оборот, риск изменения, удаления или даже подделки идентификационных меток резко возрастает. Ваш механизм идентификации может прекрасно работать в лаборатории, но в реальной ситуации он становится бесполезным. Вот почему безопасность моделей требует более глубокого технического проектирования — нельзя полагаться только на добросовестные предположения.