Вычислительное доверие - Computational trust

В информационная безопасность, вычислительное доверие создание доверенных органов или пользователей через криптография. В централизованных системах безопасность обычно основана на аутентифицированной идентичности внешних сторон. Жесткие механизмы аутентификации, такие как Инфраструктуры открытых ключей (PKI)^[1] или же Kerberos^[2] позволили расширить эту модель до распределенные системы в пределах нескольких тесно взаимодействующих доменов или в пределах одного административного домена. В последние годы информатика перешла от централизованных систем к распределенным вычислениям. Эта эволюция имеет несколько последствий для моделей, политик и механизмов безопасности, необходимых для защиты информации и ресурсов пользователей во все более взаимосвязанной вычислительной инфраструктуре.^[3]

Механизмы безопасности на основе личности не могут разрешить операция без аутентификация заявитель. Это означает, что никакое взаимодействие не может происходить, если обе стороны не известны их структурам аутентификации. Следовательно, для спонтанных взаимодействий потребуется один или несколько доверенных лиц. центры сертификации (СА). В данном контексте PKI не рассматривалась, поскольку у них есть проблемы.^{[который? ]}, поэтому маловероятно, что они станут эталоном в ближайшем будущем. Пользователь, желающий сотрудничать с другой стороной может выбирать между включением безопасности и тем самым отключением спонтанного сотрудничества или отключением безопасности и включением спонтанного сотрудничества. Принципиально важно, чтобы мобильные пользователи и устройства могли аутентифицироваться автономно, не полагаясь на общую инфраструктуру аутентификации. Чтобы решить эту проблему, нам необходимо изучить проблемы, связанные с «глобальными вычислениями»,^[4] термин, придуманный Европа для будущего глобального информационного общества и определения их влияния на безопасность.

История

Computational Trust применяет человеческое понятие доверять в цифровом мире это считается скорее злонамеренным, чем кооперативным. Ожидаемые выгоды, согласно Маршу и др., Приводят к использованию способностей других посредством делегирования и к расширению сотрудничества в открытой и менее защищенной среде. Исследования в области вычислительных механизмов доверия и репутации в виртуальные общества направлена ​​на повышение надежности и производительности цифровых сообществ.^[5]

Решение на основе доверия в конкретном домене - это многоэтапный процесс. Первый шаг этого процесса состоит в идентификации и выборе правильных входных данных, то есть свидетельства доверия. Как правило, они зависят от предметной области и являются результатом анализа, проведенного заявление участвует. На следующем этапе выполняется вычисление доверия для свидетельства для получения значений доверия, что означает оценку надежности объектов в этом конкретном домене. Выбор свидетельства и последующее вычисление доверия основываются на понятии доверия, определенном в модели доверия. Наконец, решение о доверии принимается с учетом вычисленных ценностей и экзогенных факторов, таких как расположение или Рискованные оценки.

Определение доверия

Эти концепции приобрели повышенную актуальность в последнее десятилетие в информатике, особенно в области распределенных искусственный интеллект. В многоагентная система парадигма и рост электронная коммерция повысили интерес к доверию и репутации. На самом деле доверие и системы репутации были признаны ключевыми факторами электронной коммерции. Эти системы используются интеллектуальными программными агентами в качестве стимула при принятии решений, при принятии решения о соблюдении контрактов или в качестве механизма поиска надежных партнеров по обмену. В частности, репутация используется на электронных рынках как механизм укрепления доверия или как метод предотвращения мошенничества и мошенничества.^[6]

Еще одна область применения этих концепций в агентских технологиях - это командная работа и сотрудничество.^[7]В последние годы было предложено несколько определений человеческого понятия доверия в различных областях, включая социология, психология к политический и бизнес-наука. Эти определения могут даже меняться в зависимости от области применения. Например, недавнее определение Романо^[8] пытается охватить предыдущую работу во всех этих областях:

Доверие - это субъективная оценка чужого влияния с точки зрения степени восприятия человеком качества и значимости чужого влияния на свои результаты в данной ситуации, при котором ожидание, открытость и склонность к такому влиянию создают ощущение контроль над возможными исходами ситуации.

Доверие и репутация имеют социальную ценность. Когда кто-то заслуживает доверия, можно ожидать, что этот человек будет действовать с пользой или, по крайней мере, не подозрительно, что с высокой вероятностью обеспечит другим хорошее сотрудничество с ним. Напротив, когда кажется, что кто-то не заслуживает доверия, другие воздерживаются от сотрудничества, поскольку вероятность того, что такое сотрудничество будет успешным, ниже.^[9]

Доверие - это особый уровень субъективной вероятности, с которой агент оценивает, что другой агент или группа агентов выполнит определенное действие, как до того, как он сможет отслеживать такое действие (или независимо, или его способность когда-либо иметь возможность контролировать его), так и в контекст, в котором это влияет на его собственные действия.

Доверие тесно связано с уверенностью и подразумевает некоторую степень неуверенности, надежды или оптимизма. В конце концов, Марш^[10] рассмотрел вопрос формализации доверия как вычислительной концепции в своей докторской диссертации. Его модель доверия основана на социальных и психологических факторах.

Классификация моделей доверия

В литературе появилось много предложений, и здесь представлена ​​подборка моделей вычислительного доверия и репутации, которые представляют собой хороший образец текущего исследования.^[11]

Доверие и репутация можно анализировать с разных точек зрения и применять во многих ситуациях. Следующая классификация основана на специфических характеристиках этих моделей и среде, в которой они развиваются.

Концептуальная модель

Модель доверия и репутации можно охарактеризовать как:

• Познавательный

В моделях, основанных на когнитивном подходе, доверие и репутация состоят из основных убеждений и являются функцией степени этих убеждений.^[12] Ментальные состояния, которые приводят к доверию другому агенту или присвоению репутации, являются важной частью модели, так же как и ментальные последствия решения и акта доверия к другому агенту;

• Неврологический

В моделях неврологического доверия, основанные на неврологических теориях взаимодействия аффективных и когнитивных состояний, моделируются также на неврологическом уровне с использованием теорий о воплощении эмоций.^[13] В этих моделях динамика доверия связана с опытом взаимодействия с (внешними) источниками как с когнитивной, так и с эмоциональной точки зрения. Более конкретно для того, чтобы почувствовать эмоцию, связанную с психическим состоянием, моделируются сходящиеся рекурсивные петли тела. Кроме того, на основе обучения Хебба (для усиления связи с эмоциональными реакциями) вводятся различные процессы адаптации, которые вдохновлены гипотезой соматического маркера.^[14]

• Теоретико-игровая

Доверие и репутация считаются субъективными вероятностями, с помощью которых индивид A ожидает, что индивид B выполнит данное действие, от которого зависит его благосостояние.^[15]

При таком подходе доверие и репутация не являются результатом психического состояния агента в когнитивном смысле, а являются результатом более прагматической игры с функциями полезности и числовым агрегированием прошлых взаимодействий.

Источники информации

Можно отсортировать модели, рассматривая источники информации, используемые для вычисления значений доверия и репутации. Традиционные источники информации - это прямой опыт и информация свидетелей, но недавние модели начали рассматривать связь между информацией и социологическим аспектом поведения агента. Когда модель содержит несколько источников информации, это может повысить надежность результатов, но, наоборот, это может увеличить сложность модели.

Прямой опыт

Непосредственный опыт - наиболее актуальный и надежный источник информации для модели доверия / репутации. Можно выделить два типа непосредственного опыта:

• опыт, основанный на прямом взаимодействии с собеседником;
• опыт, основанный на наблюдаемом взаимодействии других членов сообщества.

Информация о свидетелях

Свидетельская информация, также называемая косвенной информацией, - это то, что исходит из опыта других членов сообщества. Это может быть основано на их собственном непосредственном опыте или на других данных, полученных ими из опыта других. Свидетельской информации обычно больше всего, но ее сложно использовать для моделирования доверия и репутации. Фактически, это вносит неопределенность, и агенты могут манипулировать или скрывать часть информации для своей выгоды.

Социологическая информация

Люди, принадлежащие к сообществу, устанавливают разные типы отношений. Каждый человек играет одну или несколько ролей в этом обществе, влияя на их поведение и взаимодействие с другими людьми. В многоагентной системе, где существует множество взаимодействий, социальные отношения между агентами являются упрощенным отражением более сложных отношений их человеческих коллег.^[16] Лишь несколько моделей доверия и репутации принимают эту социологическую информацию, используя такие методы, как социальная сеть анализ. Эти методы изучают социальные отношения между людьми в обществе, которое возникло как набор методов анализа социальных структур, методов, которые, в частности, позволяют исследовать реляционные аспекты этих структур.^[17]

Предрассудки и предубеждения

Предубеждение - еще один, хотя и необычный, механизм, влияющий на доверие и репутацию. Согласно этому методу, человеку придают свойства определенной группы, которые делают его узнаваемым в качестве члена. Это могут быть такие признаки, как униформа, определенное поведение и т. Д.^[18]

Как большинство людей сегодня используют это слово, предрассудки относится к негативному или враждебному отношению к другой социальной группе, часто определяемой по расовому признаку. Однако эту негативную коннотацию следует пересмотреть применительно к сообществам агентов. Набор знаков, используемых в моделях вычислительного доверия и репутации, обычно не обсуждается с этической точки зрения, в отличие от знаков, используемых в человеческих обществах, таких как цвет кожи или пол.

Большая часть литературы по когнитивным и социальным наукам утверждает, что люди проявляют нерациональность, пристрастный поведение в отношении доверия. Недавно предвзятые модели человеческого доверия были разработаны, проанализированы и подтверждены эмпирическими данными. Результаты показывают, что такие модели предвзятого доверия могут значительно лучше предсказывать человеческое доверие, чем модели беспристрастного доверия.^[19][20]

Обсуждение моделей доверия / репутации

Наиболее актуальные источники информации, рассмотренные трастом и модели репутации представленные ранее, это прямой опыт и свидетельская информация. На электронных рынках социологической информации практически нет, и ее следует учитывать для повышения эффективности реальных моделей доверия и репутации. Однако нет причин увеличивать сложность моделей, вводящих свидетельства доверия, если впоследствии их придется использовать в среде, где невозможно реализовать их возможности. Объединение большего количества свидетельств доверия и репутации полезно в вычислительной модели, но это может увеличить ее сложность, что затруднит общее решение. Некоторые модели зависят от характеристик окружающей среды, и возможным решением может быть использование адаптивных механизмов, которые могут изменять способ объединения различных источников информации в данной среде. Было представлено много определений доверия и репутации, и есть несколько работ, которые придают смысл обеим концепциям.^{[21][22][23][24]}

Между обеими концепциями существует взаимосвязь, которую следует рассмотреть подробно: репутация - это концепция, которая помогает укреплять доверие других. В настоящее время теория игр является преобладающей парадигмой, которая считается доминирующей при разработке моделей вычислительного доверия и репутации. По всей вероятности, эта теория принимается во внимание, потому что значительное количество экономистов и компьютерных ученых, имеющих большой опыт в теории игр и методах искусственного интеллекта, работают в контексте мультиагентности и электронной коммерции. Теоретико-игровые модели дают хорошие результаты, но могут не подходить, когда сложность агентов с точки зрения социальных отношений и взаимодействия увеличивается, становится слишком ограничивающей. Следует рассмотреть вопрос об исследовании новых возможностей, и, например, необходимо объединить когнитивные подходы с теоретико-игровыми. Кроме того, следует учитывать больше доказательств доверия, а также срочных показатели доверия.^[25][26] представляют собой первый шаг к повышению доверия к вычислениям.^[27]

Важным вопросом моделирования доверия является возможность передачи суждений о доверии разными агентами. Социологи соглашаются рассматривать безоговорочные доверительные ценности как непередаваемые, но более прагматичный подход заключался бы в том, что квалифицированные доверительные суждения заслуживают передачи, поскольку решения, принимаемые с учетом мнения других, лучше, чем те, которые принимаются изолированно. ^[28]Авторы исследовали проблему переносимости доверия в открытых распределенных средах, предложив механизм трансляции, позволяющий сделать обмен информацией от одного агента к другому более точным и полезным.

Оценка моделей доверия

В настоящее время не существует общепринятой системы оценки или эталонных показателей, которые позволили бы сравнивать модели при наборе репрезентативных и общих условий. Предложен теоретико-игровой подход в этом направлении.^[29] где конфигурация модели доверия оптимизирована, предполагая, что злоумышленники имеют оптимальные стратегии атаки; это позволяет на следующем этапе сравнить ожидаемую полезность различных моделей доверия. Аналогичным образом была предложена основанная на моделях аналитическая основа для прогнозирования эффективности репутационных механизмов против произвольных моделей атак в произвольных системных моделях.^[30] для одноранговых систем.

Смотрите также

• IT риск
• Управление ИТ-рисками
• Kerberos (протокол)
• Инфраструктура открытого ключа

Рекомендации

1. Вайсе, Дж. (Август 2001 г.). «Обзор инфраструктуры открытого ключа». Практика глобальной безопасности SunP, SunMicrosystems.
2. Kohl J .; Б. К. Нойман (1993). «Служба сетевой аутентификации Kerberos (версия 5)». Интернет-запрос комментариев RFC-1510.
3. Сеньор Дж. М. (2005). «Доверие, безопасность и конфиденциальность в глобальных вычислениях». Докторская диссертация, Тринити-колледж Дублинского университета.
4. "IST, Global Computing, ЕС". 2004.
5. Лонго Л .; Dondio P .; Барретт С. (2007). «Временные факторы для оценки надежности виртуальной личности» (PDF). Третий международный семинар по ценности безопасности через сотрудничество, SECURECOMM.
6. Делларокас К. (2003). «Оцифровка молвы: перспективы и проблемы механизма репутации в Интернете». Наука управления.
7. Montaner M .; Lopez B .; Де Ла Роса Дж. (2002). «Развитие доверия к рекомендательным агентам». Труды Первой международной совместной конференции по автономным агентам и многоагентным системам (AAMAS-02).
8. Романо Д.М. (2003). «Природа доверия: концептуальное и операционное разъяснение». Университет штата Луизиана, докторская диссертация.
9. Гамбетта Д. "Можем ли мы доверять доверию". Доверие: создание и разрыв отношений сотрудничества. Гл. Можем ли мы доверять доверию? Бэзил Блэквелл, Оксфорд, стр. 213-237.
10. Марш С. (1994). «Формализация доверия как вычислительная концепция». Кандидатская диссертация, Стерлингский университет, факультет компьютерных наук и математики.
11. Sabater J .; Сьерра К. (2005). «Обзор моделей вычислительного доверия и репутации». Обзор искусственного интеллекта, 24: 33-60, Springer.
12. Esfandiari B .; Чандрасекхаран С. (2001). «О том, как агенты заводят друзей: механизм приобретения доверия». По материалам Четвертого семинара по мошенничеству с обманом и доверию в агентских обществах, Монреаль, Канада. С. 27-34.
13. Hoogendoorn, Марк; Джаффри, С. Вакар; Treur, янв (2011). Достижения когнитивной нейродинамики (II). Спрингер, Дордрехт. С. 523–536. CiteSeerX  10.1.1.160.2535. Дои:10.1007/978-90-481-9695-1_81. ISBN  9789048196944.
14. Джаффри, С. Вакар; Treur, янв (2009-12-01). Сравнение когнитивной и нейронной моделей для оценки динамики относительного доверия. Обработка нейронной информации. Конспект лекций по информатике. Шпрингер, Берлин, Гейдельберг. С. 72–83. CiteSeerX  10.1.1.149.7940. Дои:10.1007/978-3-642-10677-4_8. ISBN  9783642106767.
15. Гамбетта Д. «Можем ли мы доверять доверию?». В. Доверие: создание и разрыв отношений сотрудничества. Гл. Можем ли мы доверять доверию? Бэзил Блэквелл, Оксфорд, стр. 213-237.
16. Hoogendoorn, M .; Джафри, С. В. (август 2009 г.). Влияние личностей на динамику доверия и репутации. 2009 Международная конференция по вычислительной науке и технике. 3. С. 263–270. Дои:10.1109 / CSE.2009.379. ISBN  978-1-4244-5334-4.
17. Scott, J .; Таллия, А; Crosson, JC; Орзано, AJ; Stroebel, C; Дичико-Блум, В; О'Мэлли, Д; Шоу, Э; Крэбтри, Б. (сентябрь 2005 г.). «Анализ социальных сетей как инструмент анализа паттернов взаимодействия в первичной медицинской помощи». Анналы семейной медицины. 3 (5): 443–8. Дои:10.1370 / afm.344. ЧВК  1466914. PMID  16189061.
18. Bacharach M .; Гамбетта Д. (2001). «Доверие к обществу». Гл. Доверяйте знакам. Фонд Рассела Сейджа,.
19. Hoogendoorn, M .; Jaffry, S.W .; Маанен, П. ван и Треур, Дж. (2011). Моделирование и подтверждение предвзятого человеческого доверия. Издательство IEEE Computer Society Press, 2011.
20. Марк, Хугендорн; Вакар, Джафри, Сайед; Петер-Поль, ван Маанен; Ян, Treur (1 января 2013 г.). «Моделирование предвзятой динамики человеческого доверия». Веб-аналитика и агентские системы. 11 (1): 21–40. Дои:10.3233 / WIA-130260. ISSN  1570-1263.
21. McKnight D.H .; Черваный Н.Л. (1996). «Значения доверия. Технический отчет». Центр исследований информационных систем управления Университета Миннесоты.
22. McKnight D.H .; Черваный Н.Л. (2002). «Концептуализация доверия: типология и модель взаимоотношений с клиентами электронной коммерции». В: Материалы 34-й Гавайской международной конференции по системным наукам.
23. Mui L .; Halberstadt A; Мохташеми М. (2002). «Понятия репутации в мультиагентных системах: обзор». В: Материалы Первой международной совместной конференции по автономным агентам и мультиагентным системам (AAMAS-02), Болонья, Италия, стр. 280-287.
24. Dondio, P .; Лонго, Л. (2011). «Основанные на доверии методы коллективного разума в социальных поисковых системах». Технологии данных нового поколения для коллективного вычислительного интеллекта. Исследования в области вычислительного интеллекта. 352. Springer. С. 113–135. Дои:10.1007/978-3-642-20344-2_5. ISBN  978-3-642-20343-5.
25. Лонго Л. (2007). «Безопасность посредством совместной работы в глобальных вычислениях: модель вычислительного доверия, основанная на временных факторах для оценки надежности виртуальных удостоверений». Степень магистра, Университет Инсубрия.
26. D. Quercia; С. Хейлз; Л. Капра (2006). "B-trust: байесовская структура доверия для повсеместных вычислений" (PDF). я доверяю.
27. Сеньор Дж. М. (2006). "Сеньор Дж. М., Ambitrust? Неизменяемое и контекстно-зависимое слияние доверия". Технический отчет, Univ. Женевы.
28. Dondio, P .; Longo, L .; и другие. (18–20 июня 2008 г.). «Механизм перевода рекомендаций» (PDF). В Карабулуте, Юсель; Митчелл, Джон С .; Херрманн, Питер; Дженсен, Кристиан Дамсгаард (ред.). Trust Management II Proceedings of IFIPTM 2008: Совместные конференции iTrust и PST по конфиденциальности, доверительному управлению и безопасности. IFIP - Международная федерация обработки информации. 263. Тронхейм, Норвегия: Springer. С. 87–102. Дои:10.1007/978-0-387-09428-1_6. ISBN  978-0-387-09427-4.
29. Staab, E .; Энгель Т. (2009). «Настройка моделей доверия, основанных на доказательствах». 2009 Международная конференция по вычислительной науке и технике. Ванкувер, Канада: IEEE. С. 92–99. Дои:10.1109 / CSE.2009.209. ISBN  978-1-4244-5334-4.
30. Lagesse, Б. (2012). «Аналитическая оценка P2P репутационных систем» (PDF). Международный журнал коммуникационных сетей и распределенных систем. 9: 82–96. CiteSeerX  10.1.1.407.7659. Дои:10.1504 / IJCNDS.2012.047897.

внешняя ссылка

• TRMSim-WSN, симулятор моделей доверия и репутации для беспроводных сенсорных сетей