Дипфейки — наша новая реальность

Прочитал тут статью о дипфейках — событиях, сконструированных с помощью нейронных сетей. Примеры дипфейков: видеозаписи людей, созданные искусственно.

Джон Сноу извиняется за 8 сезон «Игры престолов»

Марк Цукерберг кичится властью над миром

Барак Обама называет Трампа «полным дерьмом»

В принципе, ничего нового. Фейки можно делать с помощью фотошопа или подмены материалов: скажем, выдать съёмку учений за боевые действия.

Но за счёт нейронных сетей фейки становятся всё лучше, и самая популярная сейчас технология — это face swap (замена лица), которая сильно развилась благодаря порноиндустрии, где безымянных актрис меняют на знаменитостей (ссылки не привожу, ищущий да обрящет).

Дипфейки используются для распространения вирусных новостей о несуществующих событиях, а на очереди — криминальная сфера. Есть версия, что навязчивые звонильщики с предложениями выгодных кредитов помимо прочего собирают образцы вашего голоса, объединяют сэмплы в базы данных и продают. А тот же «Сбербанк», например, использует идентификацию по голосу. От вашего имени могут позвонить родственникам и попросить денег, например.

Пока создание дипфейка требует мощных компьютеров и некоторого опыта, но это вопрос времени. Наступит пора, когда в три клика можно будет подделать всё, что поддаётся оцифровке (голос, почерк, походка), а уж при профессиональном подходе границ вообще не предвидится. Вполне представляю ситуацию, когда страной правит давно умерший президент: его образ генерируется искусственно, а в редких живых встречах участвует двойник (это и так используется). Кстати, для поиска двойников подходят те же нейронные сети.

Авторы статьи по ссылке видят проблему даже не в том, что мы будем всё чаще попадаться на обманки. Главное, мы перестанем доверять тому, что видим и слышим. Всё может оказаться дипфейком. А может и нет. Даже реальное видео можно заклеймить фейком. Людям будет некогда вникать в многочисленные нюансы вроде естественности бликов на волосах и они перестанут доверять чему угодно. Точнее, будут верить в то, во что привыкли. Дипфейк, который укладывается в картину мира, будет служить её пруфом. А реальное видео, которое не укладывается — дипфейком.

Иной раз задаёшься вопросом: а как проверить самые элементарные вещи, например, что Земля круглая? А если представить, что дипфейками будут не только видео, но и учебники, которые нейронная сеть переписывает в наукообразном стиле, используя нелепую фактуру? Или пишет несуществующий рассказ Гоголя?

Говорят, мы живём в эпоху постправды, а вопрос о том, как отличить правду от фейка, существовал и до интернета (были ли американцы на Луне?).  Но технологии сделают нашу реальность ещё более иллюзорной. И, по большому счёту, всё это — вопрос веры. Кому верить человеку будущего? Государствам? Специалистам? Лидерам мнений? Или только самому себе?

15 комментариев

  1. ТотЧувачок

    никому нельзя верить! мне — можно. )))

  2. Надежда Сухова

    Честно говоря, ожидаемое развитие событий. Пугающе? Да. Поддающееся контролю? ХЗ. Что делать? Да хрен знает…

    • Артем Краснов

      А вообще-то ничего нового. Когда я слышу, что мы живём в эпоху постправды, мне интересно знать, а что это за чудесная эпоха была до этого? Эпоха правды?

  3. Ольга

    Лет в 13 посмотрела фильм «Хвост виляет собакой» и впервые поняла, что не всё так прозрачно в этом мире. А ведь когда папа в 90-е, забив на телевизор, сидел перед своим трансивером (он радиолюбитель) и слушал «Голос Америки», даже не задумывалась, почему..

    Представьте, что степень недоверия вернёт нас во времена, когда новости из столицы доходили в губернии только через людей, приехавших оттуда. Информационные потоки будут для всех просто развлекательным фоном, а верить будем только своим глазам и сплетням соседей.

    • Артем Краснов

      А мне кажется, люди гораздо проще поступают — они просто выбирают какую-то систему координат и придерживаются её, пока жизнь не докажет обратное. И эта система координат позволяет им верить каким-то источникам без реальной проверки. И это, на самом деле, не такая уж плохая вещь. Если представить две команды, в одной из которых лидеру верят безоговорочно, а в другой не верят совершенно, то, думаю, в прямой схватке победит первая. Сама эволюция заложила в нас этот механизм «слепой веры».
      Так что в каком-то смысле дипфейки не привносят в нашу жизни ничего радикального нового.

  4. Сиплый

    Если учесть что фейковые видосы теперь делаются в пару кликов, становится интересно как в судах общих юрисдикций будут принимать записи с регистраторов, камер домофонов и пр…в качестве доказательства? Ни одной фотке или видосу верить нельзя…даже рубрика «я паркуюсь как баран» может быть полностью сфальсифицирована…как доказать обратное? Делать сложные экспертизы каждый раз без гарантии что результат будет положительным.

    • Артем Краснов

      С судами пока проще, потому что там как раз возможны экспертизы записей и уровень дипфейков пока не такой, чтобы их нельзя было отличить. Кстати, в статье по ссылке есть блок, посвящённый этому вопросу, там указывается, что есть нейронные сети, которые определяют дипфейки )) Клин клином вышибают.
      Но со временем, наверное, это может стать проблемой. Как один из вариантов: система блокчейнов, когда каждый создаваемый видеоматериал метится тэгом, и эта информация копируется на сеть независимых узлов. Аналогично биткоины защищены от «подделок».
      Проблема больше в сфере общественного сознания, потому что люди не будут заморачиваться экспертизами и в массе своей будут принимать на веру.

      • Сиплый

        Тут вопрос потраченного времени и желания…это как с угонщиками и противоугонками…постоянное соревнование в изобретательности…и не в пользу противоугонок есст-но…никогда не знаешь насколько качественный каждый конкретный дипфейк…проще скопом их все отметать…биткоины тут не при чем…там другой принцип. А после нескольких резонансных дипфейков народ перестанет верить чему бы то ни было…как сейчас никто в здравом уме лотерею не купит, после аферы с «миллардершей».

        • Артем Краснов

          >>>биткоины тут не при чем…там другой принцип.

          Почитай статью по ссылке. Там есть про это

    • Антон Л.

      Установить подлинность видео или фото сейчас достаточно простая задача. А всякие говноролики, которые делаются в пару кликов, разрешением 640х480 судом и не должны приниматься в качестве доказательства. А сделать качественную подделку, которую реально тяжело раскусить — задача очень непростая, особенно если говорить о видео.

      • ЯРиК

        Антон, соглашусь, но с некоторой оговоркой, при наличии, так сказать исходного материала по EFIX-данным, это пожалуй самое простое. Но вот ведь, в некоторых аппаратах можно данные изменить, допустить поставить прошлую дату или будущую, и в принципе таковую подделку уже почти не распознать ( конечно если не перепутать лето с зимой, или ночь и день ну и прочие моменты). Ну а приналичии тырнета, с помощью даже простых плагинов много чего можно наковырять. Но вот до чего же трудно объяснить, в одноклассниках что это фейк (или наоборот не фейк), как в прочем и в любой соцсети.

    • Антон Л.

      Вообще нет никаких причин для беспокойства сейчас. Если только вы не Эмма Уотсон, конечно:) У неё причины есть.

  5. ЯРиК

    А вообще, ну действительно вся наша жизнь и жизнь наших предков построена исключительно на доверии. Мы охотно воспринимаем исторические факты, но не факт что они действительны, так же как и нашим предкам рассказывали о слонах жирафах, самолетах, и ракетах. Так же как кто то верит в Дарвина (теорию) а кто то в бога. И фейки, в человеческом обществе, были всегда, со временем они становятся все правдоподобнее и правдоподобнее. А как с этим бороться. Ну ХЗ. Они на сегодня вокруг бродят в постоянку. Начиная, от рекламы которая не является публичной офертой, мелкого шрифта, и заканчивая всякими санкциями. Видимо, не надо сразу принимать все за чистую монету, а взять паузу и оценить ситуацию. Ведь многие феки расчитаны именно только на сию секундную реакцию ( так же как принятие решения только здесь и только сейчас в МЛМкомпаниях и прочих сектах), а вот, через подумать, уже совсем не камильфо ( не всегда правда и это помогает)

    • Артем Краснов

      Согласен. Мне вообще интересно, сколько в нашем сознании мирно пасущихся фейков, которые считаются сейчас правдой, потому что описаны в каких-нибудь талмудах. Думаю, что немало. Я даже больше скажу: людям нужен какой-то процент фейковости, потому что правда может быть слишком сложна для восприятия. Поэтому, например, проще верить, что зло возвращается злом, хотя так ли это — черт его знает. А если и так, механизм может быть не таким линейным, как просто кармические «очки».

      • Надежда Сухова

        Меня, кстати, эта тема очень волнует. Настолько, что я даже включила ее в книгу.
        Ну а если говорить про дипфейки в глобальном масштабе, то есть самый популярный и самый древний — Библия.

Добавить комментарий