ФотоДНК - PhotoDNA

PhotoDNA процесс

ФотоДНК это технология идентификации изображений, используемая для обнаружения детская порнография и другой незаконный контент, о котором сообщается в Национальный центр по делам пропавших без вести и эксплуатируемых детей в соответствии с требованиями закона.[1]. Он был разработан Microsoft Research и Хани Фарид, профессор Дартмутский колледж, начиная с 2009 года. На основе базы данных известных незаконных изображений и видеофайлов он создает уникальные хеши для представления каждого изображения, которое затем можно использовать для идентификации других экземпляров этих изображений.[2]

PhotoDNA в основном используется в идентификации детской порнографии (более должным образом идентифицирован как Материалы о сексуальном насилии над детьми или CSAM) и работает путем вычисления уникального хэша, представляющего данное изображение. Этот хэш вычисляется таким образом, чтобы он был устойчивым к изменениям изображения, включая изменение размера и незначительные изменения цвета.[2] Он работает, преобразовывая изображение в черно-белое, изменяя его размер, разбивая на сетку, а затем просматривая градиенты интенсивности или края каждой ячейки.[3]

Он используется в собственных службах Microsoft, включая Bing и Один диск,[4] а также Google с Gmail, Twitter,[5] Facebook,[6] Adobe Systems,[7] Reddit[8] и Национальный центр пропавших без вести и эксплуатируемых детей,[9] кому Microsoft пожертвовала технологию.

Microsoft пожертвовала технологию PhotoDNA компании Проект ВИК, управляется и поддерживается Международный центр пропавших без вести и эксплуатируемых детей (ICMEC). Проект VIC - это инициатива по обмену хешами изображений и видео, которая упрощает расследования. рабочие процессы и сужает фокус детская порнография расследования правоохранительных органов путем фильтрации материалов, которые следователи находят на компьютерах преступников.[10][11][12][13] Project VIC использует эту технологию для создания «отпечатка пальца», который можно использовать для однозначной идентификации отдельной фотографии.[10][13][14] Использование надежных хэш-наборов, технология позволяет правоохранительным органам определить, какие изображения извлекаться уже определены, и являются частью базы данных Проекта миллионов цифровых хешей детской порнографии, что позволяет сыщикам, чтобы сосредоточиться на тех, которые являются новыми детей, ожидающих быть расположены и выздоровел.[12][15] Технология также помогает поставщики онлайн-услуг помогая им обнаруживать изображения сексуального насилия над детьми, размещенные на их сайтах, и прекращать их дальнейшее распространение.[14][16][17]

История

В декабре 2014 года Microsoft также сделала PhotoDNA доступной для квалифицированных организаций в качестве бесплатного Облачный сервис сквозь Azure Marketplace.[18]

В конце 2015 года Microsoft завершила усовершенствования программного обеспечения, которое теперь позволяет анализировать видеофайлы, а также неподвижные изображения.[19]

В 2016 году Хани Фарид предположил, что эту технологию можно использовать для предотвращения распространения изображений, связанных с терроризмом, но изначально компании социальных сетей проявили небольшой интерес.[20] В декабре 2016 года Facebook, Twitter, Google и Microsoft объявили о планах использования PhotoDNA для борьбы с экстремистским контентом, таким как видеоролики о вербовке террористов или изображения террористов с применением насилия,[21] что было сделано, например, автоматически удалить Аль-Каида ролики.[22]


Как это устроено

Фото ДНК видео решение

PhotoDNA помогает положить конец этой онлайн-рециркуляции, создавая «хэш» или цифровую подпись изображения: конвертируя его в черно-белый формат, разделяя на квадраты и количественно оценивая затенение. Он не использует технологию распознавания лиц и не может идентифицировать человека или объект на изображении. Он сравнивает хэш изображения с базой данных изображений, которые контролирующие организации и компании уже определили как незаконные. IWF, которая составляла справочную базу данных сигнатур PhotoDNA, теперь имеет 300 000 хэшей известных материалов о сексуальной эксплуатации детей.

PhotoDNA for Video разбивает видео на ключевые кадры и по сути создает хеши для этих снимков экрана. Точно так же, как PhotoDNA может сопоставить изображение, которое было изменено, чтобы избежать обнаружения, PhotoDNA for Video может найти контент с сексуальной эксплуатацией детей, отредактированный или вставленный в видео, который в противном случае мог бы показаться безвредным.

Когда люди вставляют незаконные видеоролики в другие видеоролики или пытаются скрыть их другими способами, PhotoDNA for Video все равно может их найти. Чтобы создать совпадение, требуется только хеш из одного кадра. [23]

Достижение

PhotoDNA также позволила контент-провайдерам удалить миллионы нелегальных фотографий из Интернета; помогал осуждать детей-сексуальных хищников; а в некоторых случаях помогал правоохранительным органам спасать потенциальных жертв до того, как им был причинен физический ущерб. [24]


Рекомендации

  1. ^ «Совет Microsoft привел к тому, что полиция арестовала мужчину за изображения насилия над детьми». Хранитель.
  2. ^ а б «Новые технологии Поединки детской порнографии путем отслеживания ее» PhotoDNA"". Microsoft.com. Корпорация Майкрософт. Получено 9 сентября, 2016.
  3. ^ «Фото ДНК: шаг за шагом». Microsoft. Архивировано из оригинал 21 сентября 2013 г.. Получено 11 февраля, 2014.
  4. ^ «Печальные истины о детской порнографии и интернет [Feature]».
  5. ^ Артур, Чарльз (22 июля 2013 г.). «Twitter представит систему PhotoDNA для блокировки изображений жестокого обращения с детьми». Хранитель. Получено 22 июля, 2013.
  6. ^ Смит, Кэтрин (2 мая 2011 г.). «Facebook Принимает Microsoft PhotoDNA удалить с детской порнографией». Huffington Post. Получено 22 июля, 2013.
  7. ^ «Adobe & PhotoDNA». Архивировано из оригинал 22 февраля 2018 г.
  8. ^ «Reddit использование PhotoDNA для предотвращения детской порнографии». 19 марта 2020.
  9. ^ Сальсито, Энтони (17 декабря 2009 г.). «Microsoft жертвует технологию PhotoDNA, чтобы сделать Интернет безопаснее для детей». Получено 22 июля, 2013.
  10. ^ а б «Новое видео Отпечатки Технология создания для удаления детской порнографии Интернет». MarketWatch. 30 апреля 2014 г.
  11. ^ Уильям Джексон (27 августа 2014 г.). «Улучшенные инструменты анализа изображений ускоряют работу с детьми». GCN.
  12. ^ а б «Новые технологии Отпечатки Удаление детской порнографии Интернет»[постоянная мертвая ссылка ], Friend Media Technology Systems
  13. ^ а б Лиат Кларк (30 апреля 2014 г.). "Технология отслеживания жестокого обращения с детьми подарена миру". Проводная Великобритания.
  14. ^ а б «Ответ Microsoft на консультацию по сообщению Европейской комиссии о правах ребенка (2011–2014 гг.)» (PDF). Архивировано из оригинал (PDF) 24 октября 2017 г., Европейская комиссия
  15. ^ Марк Уорд (23 марта 2014 г.). «Облачный архиватор, который поможет поймать насильников». Новости BBC.
  16. ^ Рейнхард Эхер; Лим А. Крейг; Майкл Х. Майнер; Friedemann Pfäfflin (2011). Международные взгляды на оценку и лечение сексуальных преступников: теория, практика и исследования. Джон Вили и сыновья. п. 514. ISBN  1119996201.
  17. ^ Марсия Латтанци-Лихт; Кеннет Дока (2004). Жить с горем: как пережить общественную трагедию. Рутледж. п. 317. ISBN  1135941513.
  18. ^ «Облачный сервис PhotoDNA». Microsoft.com. Корпорация Майкрософт. Получено 19 февраля, 2015.
  19. ^ https://news.microsoft.com/on-the-issues/2018/09/12/how-photodna-for-video-is-being-used-to-fight-online-child-exploitation/
  20. ^ Уодделл, Каве (22 июня 2016 г.). «Инструмент для удаления видео с обезглавливанием, прежде чем они появятся в Интернете». Атлантический океан. Получено 10 сентября, 2016.
  21. ^ «Партнерство, чтобы помочь ограничить распространение террористических материалов в Интернете | Новости Facebook». Получено 6 декабря, 2016.
  22. ^ Ричард Аллан Facebook (18 июня 2018 г.). «Слушание в 11:14». в «Горизонтальная нормативная база ЕС для удаления незаконного контента в DSM».
  23. ^ «Как PhotoDNA for Video используется для борьбы с эксплуатацией детей в Интернете». news.microsoft.com.
  24. ^ «Как PhotoDNA for Video используется для борьбы с эксплуатацией детей в Интернете». news.microsoft.com.

внешняя ссылка