Неологизм «фейк» уже успел укорениться в русском языке. Слово относительно новое, но явление старое, как мир. Люди разного уровня влияния и известности с испокон веков попадают в грязные истории и почти всегда называют это выдумкой или «уткой». С другой стороны, злоумышленники со всего мира запускают настоящие «утки» (оксюморон) также уже очень давно: «чёрный пиар», метод «гнилой селёдки» и всё такое; был ли факт, не был ли — поди докажи… Теперь же очернительство вышло на новый технологический уровень и «утки» заслужили современное название — «фейк». А с развитием генеративно-состязательных нейросетей появился новый, ещё более опасный «штамм» — дипфейк.
Область применения этой ИИ-технологии, чрезвычайно широка: от сохранения памяти об усопших до создания компрометирующих роликов — бань с проститутками и других постыдных эпизодов интимной жизни публичных личностей.
К сожалению, дурных примеров пока больше. Так, начало года в социальных сетях омрачила серия скандалов с использованием цифровых копий знаменитостей в мошеннических объявлениях.
Цифровой двойник Тейлор Свифт «разводит лохов на бабки»
В скам-объявлениях, распространяемых в Facebook* и Instagram* цифровые копии Тейлор Свифт и Селены Гомес проводили якобы розыгрыш призов — айфонов, посуды Le Creuset и подарочных карт на $500 — у жертв мошенников выманивали личные данные (для взлома аккаунтов в соцсетях) и номера банковских карт.
Помимо звёзд эстрады популярностью у дипфейковых преступников пользуется Илон Маск. Вам уже, наверняка, попадались объявления с призывами инвестировать в мутные криптовалютные фонды.
А куда смотрит Цукенберг?
Компания Meta* по мере сил борется с мошенничеством на своих площадках. Так, комментируя ситуацию с дипфейками Тейлор Свифт, официальный представитель Менло-парка заявил, что только в последнем квартале 2022-го они удалили 1,3 миллиарда (не миллиона — миллиарда) аккаунтов за нарушение правил публикации объявлений, но, мол, злоумышленники тоже не сидят на месте и постоянно придумывают новые трюки. Например, метод, позволяющий скрывать содержание объявления от системы модерации.
Кроме того, преступники, как правило, действуют из-за границы, а потому практически недосягаемы для полиции.
Представитель Google говорит, что YouTube, где также публикуются ИИ-видосики, требует от создателей соответствующим образом маркировать синтетические материалы. И они также чистят мошеннические объявления миллиардами, удаляют преступные аккаунты миллионами и вкладывают в эту борьбу много денег.
В общем, стараются ребята. Но рук не хватает : )
Белый дипфейк
По аналогии с традиционными маркетинговыми дихотомиями — белый и черный SEO, PR и черный пиар — напрашивается термин, вынесенный в подзаголовок. Под ним мы, конечно, подразумеваем законное и этичное использование технологии копирования личностей.
Тут тоже есть интересные возможности применения.
Реклама с участием копий звезд эстрады и кино. Разумеется, по контракту с реальным человеком и за оговоренный гонорар, который может быть меньше суммы за съемки вживую.
Воскрешение в рекламных роликах покойных знаменитостей: самого разного плана — от Моны Лизы до Олега Табакова. Тут, конечно, требуется согласование и отчисления наследникам, если таковые остались.
Персонализированная реклама. Можно использовать фотографии пользователя для создания текстово-графических и видеообъявлений с его участием. Ну, например, листаете вы ВК, а тут — бам! — вы же рекламируете очки Ray-Ban RB4151 со скидкой 10%. И они так вам идут… Идея, конечно, требует тщательной юридической проработки, но перспектива кажется заманчивой.
Старые-добрые конкурсы пользовательского контента. Если разработать приложение на базе соцсети для создания аватара пользователя, использующего товары компании, им будут пользоваться с тем же энтузиазмом, что и тестами из разряда «Кем вы были в прошлой жизни».
И примеры таких решений уже есть.
- Компания Nike использовала deepfake для создания видеоролика с участием баскетболиста Леброна Джеймса.
- Компания Coca-Cola и — в видеоролике с участием актера Тома Хэнкса.
- Компания Walmart использовала дипфейк-технологии для создания виртуального консультанта по покупкам, который помогает клиентам выбирать продукты.
Кроме того, большие компании уже внедряют системы мониторинга фальшивой рекламы, разработанной с помощью ИИ, чтобы со своей стороны пресекать истории, подобные «розыгрышам призов» «Тейлор Свифт».
* Компания Meta, а также ее продукты Instagram и Facebook признаны экстремистскими и запрещены на территории РФ.