Реализации дифференциально частного анализа - Implementations of differentially private analyses - Wikipedia

"Pinq" перенаправляется сюда. Не следует путать с Розовый или же Pinque.

С появлением дифференциальная конфиденциальность, был реализован и развернут ряд систем, поддерживающих дифференциально частный анализ данных.

Исследовательские проекты и прототипы

  • PINQ: API, реализованный на C #.[1]
  • Айрават: А Уменьшение карты -система, реализованная на Java, усиленная контролем доступа, подобным SELinux.[2]
  • Fuzz: реализация с постоянной времени в Caml Light предметно-ориентированного языка.[3]
  • KTELO: структура и система для ответов на запросы линейного подсчета.[5]

Реальные развертывания

  • OnTheMap: интерактивный инструмент для изучения моделей поездок в США.[6][7]
  • PSI (Ψ): А пличные данные Sраздражение яИнтерфейс разработан в рамках проекта Гарвардского университета по обеспечению конфиденциальности.[10]
  • Статистика использования приложений в Microsoft Windows 10.[12]
  • Flex: система на основе SQL, разработанная для внутренней аналитики Uber.[13][14]
  • TensorFlow Privacy: библиотека с открытым исходным кодом для дифференциально-частного машинного обучения.[15][16]
  • Синтетические микроданные переписи населения 2020 года.[17]

Атаки на реализации

Помимо стандартных дефектов программных артефактов, которые можно выявить с помощью тестирование или же расплывание, реализации дифференциально закрытых механизмов могут иметь следующие уязвимости:

  • Незначительные алгоритмические или аналитические ошибки.[18][19]
  • Время атак по побочным каналам.[3] По сравнению с время атаки против реализаций криптографических алгоритмов, которые обычно имеют низкую скорость утечки и должны сопровождаться нетривиальным криптоанализом, канал синхронизации может привести к катастрофической компрометации дифференциально частной системы, поскольку целевая атака может быть использована для извлечения того самого бита, который Система предназначена для сокрытия.
  • Утечка через арифметику с плавающей запятой.[20] Дифференциально частные алгоритмы обычно представлены на языке распределений вероятностей, что наиболее естественно приводит к реализациям с использованием арифметики с плавающей запятой. Абстракция арифметики с плавающей запятой: дырявый, и без внимательного отношения к деталям простая реализация может не обеспечить дифференциальной конфиденциальности. (Это особенно характерно для ε-дифференциальной конфиденциальности, которая не допускает никакой вероятности отказа даже в худшем случае.) Например, поддержка учебного семплера распределения Лапласа (требуется, например, для Механизм Лапласа ) составляет менее 80% всех числа с плавающей запятой двойной точности; более того, поддержка дистрибутивов с разными средствами не идентична. Один образец из наивной реализации механизма Лапласа позволяет различать два смежных набора данных с вероятностью более 35%.
  • Канал синхронизации через арифметику с плавающей запятой.[21] В отличие от операций с целыми числами, которые обычно выполняются с постоянным временем на современных процессорах, арифметика с плавающей запятой демонстрирует значительную временную изменчивость, зависящую от ввода.[22] Обработка субнормальные может быть особенно медленным, в 100 раз по сравнению с обычным случаем.[23]

Рекомендации

  1. ^ Макшерри, Фрэнк (1 сентября 2010 г.). «Интегрированные запросы конфиденциальности» (PDF). Коммуникации ACM. 53 (9): 89–97. Дои:10.1145/1810891.1810916.
  2. ^ Рой, Индраджит; Setty, Srinath T.V .; Килзер, Энн; Шматиков, Виталий; Витчел, Эммет (апрель 2010 г.). «Айрават: безопасность и конфиденциальность для MapReduce» (PDF). Материалы 7-го симпозиума Usenix по проектированию и внедрению сетевых систем (NSDI).
  3. ^ а б Хеберлен, Андреас; Пирс, Бенджамин С .; Нараян, Арджун (2011). «Дифференциальная конфиденциальность под огнем». 20-й симпозиум по безопасности USENIX.
  4. ^ Мохан, Прашант; Такурта, Абхрадип; Ши, Элейн; Песня, Рассвет; Каллер, Дэвид Э. «GUPT: анализ данных с сохранением конфиденциальности стал проще». Материалы Международной конференции ACM SIGMOD 2012 по управлению данными. С. 349–360. Дои:10.1145/2213836.2213876.
  5. ^ Чжан, Дан; Маккенна, Райан; Коцогианнис, Иос; Хэй, Майкл; Machanavajjhala, Ashwin; Миклау, Жером (июнь 2018 г.). "KTELO: Платформа для определения дифференциально-частных вычислений ». SIGMOD'18: 2018 Международная конференция по управлению данными: 115–130. arXiv:1808.03555. Дои:10.1145/3183713.3196921.
  6. ^ "На карте".
  7. ^ Machanavajjhala, Ashwin; Кифер, Дэниел; Абоуд, Джон; Герке, Йоханнес; Вилхубер, Ларс (апрель 2008 г.). «Конфиденциальность: теория встречает практику на карте». 2008 24-я Международная конференция по инженерии данных IEEE: 277–286. Дои:10.1109 / ICDE.2008.4497436. ISBN  978-1-4244-1836-7.
  8. ^ Эрлингссон, Эльфар. «Изучение статистики с конфиденциальностью при помощи подброшенной монеты».
  9. ^ Эрлингссон, Эльфар; Пихур, Василий; Королова, Александра (ноябрь 2014 г.). «ДОКЛАД: рандомизированный агрегированный порядковый ответ с сохранением конфиденциальности». Материалы конференции ACM SIGSAC по компьютерной и коммуникационной безопасности 2014 г.: 1054–1067. arXiv:1407.6981. Bibcode:2014arXiv1407.6981E. Дои:10.1145/2660267.2660348.
  10. ^ Габоарди, Марко; Хонакер, Джеймс; Кинг, Гэри; Ниссим, Кобби; Ульман, Джонатан; Вадхан, Салил; Муртаг, Джек (июнь 2016 г.). «PSI (Ψ): интерфейс обмена частными данными».
  11. ^ Команда Differential Privacy (декабрь 2017 г.). «Обучение с конфиденциальностью в масштабе». Журнал Apple Machine Learning Journal. 1 (8).
  12. ^ Дин, Болин; Кулкарни, Джанардхан; Еханин, Сергей (декабрь 2017). «Сбор данных телеметрии в частном порядке». 31-я конференция по системам обработки нейронной информации: 3574–3583. arXiv:1712.01524. Bibcode:2017arXiv171201524D.
  13. ^ Тезапсидис, Кэти (13 июля, 2017). «Uber выпускает проект с открытым исходным кодом для обеспечения дифференциальной конфиденциальности».
  14. ^ Джонсон, Ной; Рядом, Джозеф П .; Песня, Рассвет (январь 2018). «На пути к практической дифференциальной конфиденциальности для SQL-запросов». Труды эндаумента VLDB. 11 (5): 526–539. arXiv:1706.09479. Дои:10.1145/3187009.3177733.
  15. ^ Радебо, Кэри; Эрлингссон, Ульфар (6 марта 2019 г.). «Представляем TensorFlow Privacy: обучение с дифференциальной конфиденциальностью для обучающих данных».
  16. ^ «Конфиденциальность TensorFlow». 2019-08-09.
  17. ^ Абоуд, Джон М. (август 2018 г.). «Бюро переписи населения США принимает дифференцированную конфиденциальность». Материалы 24-й Международной конференции ACM SIGKDD по открытию знаний и интеллектуальному анализу данных: 2867. Дои:10.1145/3219819.3226070. ISBN  9781450355520.
  18. ^ Макшерри, Фрэнк (25 февраля 2018 г.). "Дифференциальная конфиденциальность Uber ... вероятно, нет".
  19. ^ Лю, Мин; Су, Донг; Ли, Нинхуэй (1 февраля 2017 г.). «Понимание метода разреженных векторов для дифференциальной конфиденциальности». Труды эндаумента VLDB. 10 (6): 637–648. arXiv:1603.01699. Дои:10.14778/3055330.3055331.
  20. ^ Миронов, Илья (октябрь 2012 г.). «О значении наименее значимых битов для дифференциальной конфиденциальности» (PDF). Материалы конференции ACM 2012 по компьютерной и коммуникационной безопасности (ACM CCS). ACM: 650–661. Дои:10.1145/2382196.2382264. ISBN  9781450316514.
  21. ^ Андриско, Марк; Кольбреннер, Дэвид; Мауэри, Китон; Джхала, Ранджит; Лернер, Сорин; Шахам, Ховав (май 2015 г.). «О ненормальной плавающей запятой и ненормальном времени». Симпозиум IEEE по безопасности и конфиденциальности 2015 г.: 623–639. Дои:10.1109 / SP.2015.44. ISBN  978-1-4673-6949-7.
  22. ^ Кольбреннер, Дэвид; Шахам, Ховав (август 2017 г.). «Об эффективности противодействия временным каналам с плавающей запятой». Материалы 26-й конференции USENIX по безопасности симпозиума. Ассоциация USENIX: 69–81.
  23. ^ Дули, Исаак; Кале, Лакшмикант (сентябрь 2006 г.). «Количественная оценка помех, вызванных субнормальными значениями с плавающей запятой» (PDF). Материалы семинара по вмешательству операционных систем в высокопроизводительные приложения.