Нещодавно з’явилася одна тенденція, яка викликає тривогу — один із провідних платформ за 24 години видалив понад 120 000 порушуючих контентів, причиною чого стала зловживання великими моделями для створення незаохочених фальшивих зображень. Це здається досить конкретною ситуацією, але проблема, яку вона відображає, є досить поширеною.

Говорячи простою мовою, тепер можна за допомогою безкоштовних інструментів реалізувати технологію заміни обличчя, і точність вже досягла рівня, коли важко відрізнити від справжнього. Це вже не новина, але головне — поріг входу до цих інструментів дуже низький, а витрати на поширення майже нульові. Ще більш тривожно, що у темній мережі вже з’явилися «індивідуальні послуги генерації» для конкретних цілей, ціни на які — неймовірно низькі.

Жертви хочуть захищати свої права? Це дуже важко. Створений контент не має справжнього джерела, і хоча блокчейн може теоретично вирішити цю проблему через збереження доказів, витрати на це настільки високі, що звичайна людина не може їх собі дозволити. Це створює дивний цикл: швидкість розвитку технологій значно випереджає швидкість створення політик, а засоби платформ для «блокування акаунтів» — лише тимчасове рішення, яке не вирішує проблему корінь.

Ще одна прихована загроза — почали з’являтися випадки незаконного збору приватної інформації користувачів під виглядом «потреби у навчальних даних для AI».

Це змушує задуматися: коли вартість створення фальшивого контенту значно нижча за той шкоду, яку він може спричинити у реальності, чи не потрібно змінити наше визначення «доказів» і «правди»? Можливо, ідея розподіленого збереження доказів у блокчейні дійсно заслуговує на серйозне обговорення, але за умови, що ціна буде достатньо низькою, щоб її могли дозволити собі звичайні користувачі.