Deepfake порнографии - Deepfake pornography - Wikipedia

Deepfake порнографии, или просто поддельные порнографии, это тип синтетического порно который создается с помощью изменения уже существующей порнографической публикации путем применения дипфейк техника в лица актера или актрисы. Deepfake порно было очень спорным, так как это было обычно используется, чтобы поместить лица знаменитостей женского пола на порно исполнителей, чьи тела подобием, как правило, используются без их согласия.[1]

История

Deepfake порнографии заметно всплыли в Интернете в 2017 году, в частности, на Reddit.[2] Первым, что привлекло внимание, был Дейзи Ридли deepfake, о котором говорилось в нескольких статьях.[2] Другие известные порнографические deepfakes были различные другие знаменитости.[2][3][4][5] В докладе, опубликованном в октябре 2019 года по голландской CyberSecurity загрузочном Deeptrace подсчитано, что 96% всех deepfakes онлайн были порнографическими.[6]

В декабре 2017 года Саманта Коул опубликовала статью о дипфейках в Порок Это привлекло внимание общественности к дипфейкам, распространяемым в онлайн-сообществах.[7] Шесть недель спустя, Коул написал в следующей статье о большом увеличении AI-помощи поддельной порнографии.[8] С 2017 года Саманта Коул из Порок опубликовал серию статей, охватывающих новости, окружающие deepfake порнографии.[9][10][11][12][5][13][7][8]

С тех пор, несколько торговых точек социальных медиа запрещены или прилагали усилия по ограничению deepfake порнографии. В частности, сабреддит r / deepfakes на Reddit был запрещен на 7 февраля 2018 года, в связи с нарушением политики «непроизвольной порнографией».[14][15][16][17][18][19] В том же месяце представители Twitter заявили, что они приостановят действие аккаунтов, подозреваемых в размещении дипфейк-контента без согласия пользователя.[13]

Скарлетт Йоханссон, Частый предмет deepfake порно, говорил публично о предмете к Вашингтон Пост в декабре 2018 г.[20] В подготовленном заявлении она заявила, что, несмотря на опасения, она не будет пытаться удалить какие-либо из своих дипфейков, поскольку считает, что они не влияют на ее общественный имидж и что законы разных стран и природа интернет-культуры делать любые попытки удалить дипфейки «безнадежное дело».[20] В то время как знаменитости, как сама защищены их известность, однако, она считает, что deepfakes представляют серьезную угрозу для женщин меньшей известности, которые могли бы иметь их репутация повреждается изображением в непроизвольной deepfake порнографии или порноместь.[20]

DeepNude

В июне 2019 г. Windows и Linux было выпущено приложение DeepNude, в котором использовались нейронные сети, в частности генеративные состязательные сети, чтобы убрать одежду с изображений женщин. У приложения была как платная, так и неоплачиваемая версия, платная версия стоила 50 долларов.[12] 27 июня создатели удалили приложение и вернули потребителям деньги, хотя различные копии приложения, как бесплатные, так и платные, продолжают существовать.[21][22] На GitHub, версия этой программы с открытым исходным кодом (называемая "open-deepnude"[23]) был удален.[24]Версия с открытым исходным кодом имеет то преимущество, что позволяет обучаться на большем наборе данных обнаженных изображений, чтобы повысить уровень точности результирующего обнаженного изображения.[25]

Полемика

Этические дебаты

Deepfake программное обеспечение порнографии может быть неправильно для создания псевдо порноместь на человека, что может рассматриваться как форма домогательства.[26]

В настоящее время кадры, созданные с помощью такого программного обеспечения, как DeepNude, все еще далеко не достаточно сложны, чтобы их нельзя было отличить от реальных кадров при судебно-медицинском анализе.[27][требуется разъяснение ]

Усилия компании по ограничению deepfake порнографии кадров

31 января 2018 г. Gfycat начал удалять со своего сайта все дипфейки.[11][28]

В феврале 2018 года, г / deepfakes было запрещено Reddit для обмена непроизвольной порнографии.[19] Другие сайты также запретили использование deepfakes для непроизвольной порнографии, в том числе платформы социального медиа Twitter и сайт порнографии Pornhub.[13] Однако некоторые веб-сайты не запретили контент Deepfake, в том числе 4chan и 8chan.[29]

Также в феврале 2018 г. Pornhub заявил, что запретит на своем веб-сайте дипфейк-видео, поскольку это считается «несогласованным контентом», нарушающим их условия обслуживания.[10] Они также ранее заявили Mashable, что будут удалять контент, помеченный как дипфейки.[30] Писатели с Материнской платы от Buzzfeed Новости сообщил, что поиск "дипфейков" на Pornhub все еще вернул несколько недавних дипфейков.[10]

Сайт чата Раздор принимал меры против дипфейков в прошлом,[31] и занял общую позицию против дипфейков.[28][32] В сентябре 2018 г. Google добавил: «непроизвольные синтетические порнографические образа» в список запрета, позволяя любому запросить блок результатов, изображающие их поддельные обнаженные.[33]

Рекомендации

  1. ^ Диксон, Э. Дж .; Диксон, Э. Дж. (07.10.2019). «Deepfake Porn по-прежнему представляет угрозу, особенно для звезд K-Pop». Катящийся камень. Получено 2019-11-09.
  2. ^ а б c Рёттгерс, Янко (21.02.2018). «Porn производители предлагают помочь Голливуду Take Down Deepfake Видео». Разнообразие. Получено 2018-02-28.
  3. ^ Гоггин, Бенджамин. «От порно к„Игре престолов“: Как deepfakes и реалистично выглядящее поддельное видео ударили его большим». Business Insider. Получено 2019-11-09.
  4. ^ Ли, Дэйв (2018-02-03). "'Поддельные порно»имеет серьезные последствия». Получено 2019-11-09.
  5. ^ а б Коул, Саманта (19.06.2018). "AI-решение Gfycat для борьбы с дипфейками не работает". Порок. Получено 2019-11-09.
  6. ^ «Состояние дипфейка - ландшафт, угрозы и влияние» (PDF). Deeptrace. 2019-10-01. Получено 2020-07-07.
  7. ^ а б Коул, Саманта (11 декабря 2017 г.). «АИ-Assisted Поддельные порно здесь и мы все Fucked». Порок. Получено 19 декабря 2018.
  8. ^ а б Коул, Саманта (2018-01-24). «Мы действительно Fucked: все делают AI-сгенерированные Поддельные порно сейчас». Порок. Получено 2019-12-15.
  9. ^ Коул, Саманта (2019-06-11). «Этот дипфейк Марка Цукерберга проверяет политику Facebook в отношении фальшивых видео». Порок. Получено 2019-12-15.
  10. ^ а б c Коул, Саманта (2018-02-06). «PornHub ли Беннинг AI-сгенерированные Поддельные порно видео, говорят, что они Nonconsensual». Порок. Получено 2019-11-09.
  11. ^ а б Коул, Саманта (31.01.2018). «АИ-Сформировано Поддельные порно Makers Have Been стартовало свой любимый хост». Порок. Получено 2019-11-18.
  12. ^ а б Коул, Саманта; Майберг, Эмануэль; Коблер, Джейсон (26 июня 2019 г.). "Это ужасающее приложение раздевает фотографию любой женщины одним щелчком мыши". Порок. Получено 2 июля 2019.
  13. ^ а б c Коул, Саманта (2018-02-06). «Twitter является последней платформой для Ban AI-сгенерированного порно». Порок. Получено 2019-11-08.
  14. ^ Бём, Маркус (07.02.2018). ""Deepfakes ": Firmen gehen gegen gefälschte Promi-Pornos vor". Spiegel Online. Получено 2019-11-09.
  15. ^ barbara.wimmer. "Deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos". futurezone.at (на немецком). Получено 2019-11-09.
  16. ^ онлайн, heise. "Deepfakes: Auch Reddit verbannt Fake-Porn". Heise онлайн (на немецком). Получено 2019-11-09.
  17. ^ "Reddit verbannt Deepfake-Pornos - derStandard.de". ДЕР СТАНДАРТ (на немецком). Получено 2019-11-09.
  18. ^ Робертсон, Ади (07.02.2018). «Reddit Запреты„deepfakes“AI порно сообщества». Грани. Получено 2019-11-09.
  19. ^ а б Харпал, Арджун (8 февраля 2018 г.). «Reddit и Pornhub запрещают видео, в которых используется ИИ для наложения лица человека на лицо актера с рейтингом X». CNBC. Получено 2018-02-20.
  20. ^ а б c Скарлетт Йоханссон о фальшивых секс-видео, созданных искусственным интеллектом: «Ничто не может помешать кому-то вырезать и вставить мое изображение'". Вашингтон Пост. 2018-12-31. Получено 2019-06-19.
  21. ^ «DeepNude AI копирует легко доступные в Интернете».
  22. ^ "pic.twitter.com/8uJKBQTZ0o". 27 июня 2019.
  23. ^ "open deepnude как версия DeepNude с открытым исходным кодом".
  24. ^ Кокс, Джозеф (9 июля 2019 г.). «GitHub удалил версии DeepNude с открытым исходным кодом». Vice Media.
  25. ^ «DeepNude возвращается».
  26. ^ «DeepNude AI копирует легко доступные в Интернете».
  27. ^ «DeepNude возвращается».
  28. ^ а б Гошал, Абхиманью (07.02.2018). «Twitter, PornHub и других платформ бан AI сгенерированных знаменитости порно». Следующая Сеть. Получено 2019-11-09.
  29. ^ Хэтэуэй, Джей (8 февраля 2018 г.). «Вот где„deepfakes,“новая фальшивка знаменитости порно, пошли после запрета Reddit». Daily Dot. Получено 22 декабря 2018.
  30. ^ Гилмер, Дэймон Берес и Маркус. «Путеводитель по« дипфейкам », последнему моральному кризису Интернета». Mashable. Получено 2019-11-09.
  31. ^ Прайс, Роб (27.01.2018). «Раздор просто закрыл чат-группу, посвященный обмену порно видео отредактированного с ИИ включить знаменитости». Business Insider Австралия. Получено 2019-11-28.
  32. ^ "Twitter 'Запреты deepfake' AI-генерироваться порно". Engadget. Получено 2019-11-28.
  33. ^ Харрелл, Дрю. «Поддельные порно видео будут боеприпас запугивать и оскорблять женщин:«Каждый является потенциальной мишенью'". Вашингтон Пост. Получено 2019-01-01.