Недавно я заметил явление, которое вызывает некоторую тревогу — ведущая платформа удалила более 120 тысяч нарушающего контента в течение 24 часов. Причина в том, что большие языковые модели злоупотребляются для создания недобровольных поддельных изображений. Ситуация выглядит конкретной, но проблема, которую она отражает, на самом деле очень распространена.

Если говорить прямо, сейчас можно использовать бесплатные инструменты для реализации технологии подмены лиц с точностью, которую трудно различить. Это не новое явление, но главное в том — что пороговые требования для этих инструментов слишком низки, затраты на распространение близки к нулю. Еще больнее то, что на даркнете уже появились «услуги пользовательской генерации», специализирующиеся на конкретных целях, с отвратительно низкими ценами.

Жертвы хотят требовать компенсации? Затруднения повсюду. Созданный контент не имеет реального источника, блокчейн-нотариус теоретически может решить эту проблему, но стоимость настолько высока, что обычные люди просто не могут себе это позволить. Это создает странный порочный круг: скорость развития технологии далеко превышает скорость разработки политики, а метод «блокировки аккаунта» платформ решает только поверхностные проблемы.

Существует еще один скрытый риск, заслуживающий внимания — разработчики под предлогом «необходимости данных для обучения ИИ» начали незаконно собирать приватную информацию пользователей.

Это заставляет задуматься: когда стоимость создания поддельного контента намного ниже вреда, который он наносит в реальности, не пора ли нам переопределить наше понимание «доказательств» и «истины»? Возможно, идея распределённого блокчейн-нотариуса действительно нуждается в серьёзном рассмотрении, но при условии, что стоимость должна быть достаточно низкой, чтобы обычные люди могли ею пользоваться.