Этика количественной оценки - Ethics of quantification

Этика количественной оценки это исследование этические вопросы связаны с различными формами видимых или невидимых форм количественной оценки. Они могут включать алгоритмы, метрики / индикаторы, статистический и математическое моделирование,[1] как отмечено в обзоре различных аспектов социология количественной оценки.[2]

По словам Эспеланда и Стивенса[3] этика количественной оценки естественным образом произошла бы от социология количественной оценки, особенно в эпоху, когда считается, что демократия, заслуги, участие, подотчетность и даже «справедливость» лучше всего обнаруживаются и оцениваются по цифрам. В своей классической работе "Доверие к числам" Теодор М. Портер[4] отмечает, как числа удовлетворяют спрос на количественную объективность и могут для этого использоваться бюрократией или учреждениями для получения легитимности и эпистемического авторитета.

Для Сарин и др.,[5] Этические проблемы возникают, когда социальные субъекты могут злоупотреблять количественной оценкой, стратегически освещая те аспекты, которые могут быть социально легитимными, и затемняя те, которые не могут. Например, перепись с помощью ИИ в Индии (Aadhaar ) может якобы повысить легитимность правительства, в то же время делая незаметными граждане меньшинств.[5]

Для Энди Стирлинг из Центр СТЕПС в Сассексский университет есть элемент риторики вокруг таких понятий, как "ожидаемая полезность ’, ‘теория принятия решений ’, ‘оценка жизненного цикла ’, ‘экосистемные услуги "Разумные научные решения" и "доказательная политика '. Инструментальное применение этих методов и их количественная оценка для создания впечатления о точности может вызвать этические проблемы.[6]

Для Шейла Ясанофф эти технологии количественной оценки можно обозначить как «Технологии высокомерие ',[7] чья функция состоит в том, чтобы успокаивать публику, не давая вращать колесам науки и промышленности. Обратной стороной технологий высокомерия является то, что они могут вызывать самоуверенность из-за видимости исчерпания; они могут упредить политическую дискуссию, превратив политическую проблему в техническую; и остаются принципиально ограниченными в обработке того, что происходит за пределами их ограниченного диапазона предположений. Ясанов противопоставляет технологии высокомерия `` технологиям смирения ''[8] которые допускают существование двусмысленности, неопределенности и сложности и стремятся выявить этический характер проблем. Технологии смирения также чувствительны к необходимости устранять известные причины уязвимости людей, обращать внимание на распределение выгод и рисков и определять те факторы и стратегии, которые могут способствовать или препятствовать социальному обучению.

Для Салли Энгл Мерри, изучая показатели права человека, гендерное насилие и секс-торговля количественная оценка - это технология контроля, но будет ли она реформистской или авторитарной, зависит от того, кто использовал ее силу и с какой целью. Она отмечает, что для того, чтобы показатели не вводили в заблуждение и не искажали, следует придерживаться некоторых принципов:[9]

  • демократизировать производство индикаторов
  • параллельно разрабатывать качественные исследования для проверки обоснованности предположений
  • Сделайте индикаторы простыми
  • протестировать или принять несколько кадров
  • признать пределы различных мер

Переходя от индикаторов к математическим моделям, группа из 22 авторов в [10] предложить пять принципов создания моделей, служащих обществу, исходя из предпосылки, что моделирование - это социальная деятельность. Принципы, которые перекликаются с приведенными выше для индикаторов, следующие:

  • позаботьтесь о том, чтобы откровенно оценить неопределенности и чувствительность моделей;
  • избегать запутанных сложностей;
  • пояснить нормативные значения, выбранные разработчиками моделей;
  • избегать ложной точности и
  • признать незнание

Принцип адресован разработчикам моделей, пользователям моделей и, в конечном итоге, обществу.

Область алгоритмов - это режим количественной оценки, в котором обсуждается этика более продвинутый. Важная работа в этом отношении Оружие математического разрушения[11] из Кэти О'Нил. В то время как объективность и эффективность - некоторые положительные свойства, связанные с использованием алгоритмов, эти инструменты, представленные в виде черных ящиков, создают этические проблемы.[12] Таким образом, алгоритмы могут воздействовать на данные и принимать решения, но они в значительной степени выходят за рамки запросов.[11][13]

Смотрите также

использованная литература

  1. ^ А. Сальтелли, «Этика количественной оценки или количественная оценка этики?», Futures, vol. 116, 2020.
  2. ^ Э. Попп Берман и Д. Хиршман, «Социология количественной оценки: где мы сейчас?», Contemp. Социол., Т. 47, нет. 3. С. 257–266, 2018.
  3. ^ В. Н. Эспеланд и М. Л. Стивенс, «Социология количественной оценки», Eur. J. Sociol., Т. 49, нет. 3. С. 401–436, 2008..
  4. ^ Портер Т. М. Доверие к цифрам: стремление к объективности в науке и общественной жизни. Издательство Принстонского университета, 1995.
  5. ^ а б С. Сарин, К. Ромметвейт и А. Сальтелли, «Этика количественной оценки: освещение, затемнение и перформативная легитимация», Гуманитарные и социальные науки Коммуникации 6, 1–5.
  6. ^ А. Стирлинг, «Как политика преодолевает неопределенность - Центр STEPS», Центр STEPS, 2019.
  7. ^ Ясанов, С. Технологии смирения: участие граждан в управлении наукой. Минерва 41, 223–244 (2003).
  8. ^ Ясанов С. Технологии смирения. Nature 450, 33 (2007).
  9. ^ С. Энгл Мерри, Соблазны количественной оценки: измерение прав человека, гендерного насилия и торговли людьми. Издательство Чикагского университета, 2016.
  10. ^ А. Сальтелли, Дж. Баммер, И. Бруно, Э. Чартерс, М. Ди Фьоре, Э. Дидье, В. Нельсон Эспеланд, Дж. Кей, С. Ло Пьяно, Д. Майо, Р. Дж. Пильке, Т. Порталури, Т. Porter, A. Puy, I. Rafols, J.R. Ravetz, E. Reinert, D. Sarewitz, P.B. Старк, А. Стирлинг, П. ван дер Слуйс, Йерун П. Вайнис, Пять способов гарантировать, что модели служат обществу: манифест, Nature 582 (2020) 482–484.
  11. ^ а б К. О’Нил, Оружие разрушения математики: как большие данные увеличивают неравенство и угрожают демократии. Издательская группа Random House, 2016.
  12. ^ Дж. Данахер и др., «Алгоритмическое управление: разработка программы исследований с помощью силы коллективного разума», Big Data Soc., Vol. 4, вып. 2. С. 1–21, 2017.
  13. ^ Китчин Р. Критическое мышление и исследование алгоритмов // Инф. Commun. Soc., Т. 20, нет. 1. С. 14–29, январь 2017 г.