Методология моделирования отклика - Response modeling methodology

Методология моделирования отклика (RMM) это общая платформа для моделирования монотонных выпуклых отношений.^{[требуется разъяснение ]} RMM изначально разрабатывался как серия расширений оригинального инверсного Преобразование Бокса – Кокса:${\displaystyle y={{(1+\lambda z)}^{1/\lambda }},}$ куда y это процентиль смоделированного ответа, Y (смоделированный случайная переменная ), z соответствующий процентиль нормальный вариант λ - параметр Бокса – Кокса. Когда λ стремится к нулю, обратное преобразование Бокса – Кокса принимает вид: ${\displaystyle y=e^{z},}$ ан экспоненциальный модель. Таким образом, исходное обратное преобразование Бокса-Кокса содержит три модели: линейные (λ = 1), мощность (λ ≠ 1, λ ≠ 0) и экспоненциальной (λ = 0). Это означает, что при оценке λ с использованием выборочных данных окончательная модель определяется не заранее (до оценки), а скорее в результате оценки. Другими словами, только данные определяют окончательную модель.

Расширения к обратному преобразованию Бокса – Кокса были разработаны Шором (2001a).^[1]) и были обозначены как обратные нормализующие преобразования (INT). Они применялись для моделирования монотонно-выпуклых отношений в различных областях техники, в основном для моделирования физических свойств химических соединений (Шор и другие., 2001а,^[1] и ссылки там). Как только стало понятно, что модели INT могут восприниматься как частные случаи гораздо более широкого общего подхода к моделированию нелинейных монотонных выпуклых отношений, была инициирована и разработана новая методология моделирования отклика (Shore, 2005a,^[2] 2011^[3] и ссылки там).

Модель RMM выражает взаимосвязь между ответом, Y (смоделированная случайная величина) и два компонента, которые изменяют Y:

• Линейный предиктор LP (обозначенный η):${\displaystyle \eta =\beta _{0}+\beta _{1}X_{1}+\cdots +\beta _{k}X_{k},}$ куда {Икс₁,...,Икс_k} - переменные-регрессоры («влияющие факторы»), которые обеспечивают систематический вариация ответа;
• Нормальные ошибки, доставка случайный вариация ответа.

Базовая модель RMM описывает Y с точки зрения LP, две возможно коррелированные нормальные ошибки с нулевым средним, ε₁ и ε₂ (с соотношением ρ и стандартные отклонения σ_ε1 и σ_ε2соответственно) и вектор параметров {α,λ,μ} (Шор, 2005a,^[2] 2011^[3]):

${\displaystyle W=\log(Y)=\mu +\left({\frac {\alpha }{\lambda }}\right)[(\eta +\varepsilon _{1})^{\lambda }-1]+\varepsilon _{2},\,}$

и ε₁ представляет собой неопределенность (неточность измерения или иное) в независимых переменных (включенных в LP). Это в дополнение к неопределенности, связанной с ответом (ε₂). Выражая ε₁ и ε₂ в терминах стандартных нормальных переменных, Z₁ и Z₂соответственно имея корреляцию ρ, и кондиционирование Z₂ | Z₁ = z1 (Z₂ при условии Z₁ равно заданному значению z₁), мы можем записать в единицах единственной ошибки,ε:

${\displaystyle {\begin{aligned}\varepsilon _{1}&=\sigma _{\varepsilon _{1}}Z_{1}\,\,;\,\,\varepsilon _{2}=\sigma _{\varepsilon _{2}}Z_{2};\\[4pt]\varepsilon _{2}&=\sigma _{\varepsilon _{2}}\rho z_{1}+(1-\rho ^{2})^{(1/2)}\sigma _{\varepsilon _{2}}Z=dz_{1}+\varepsilon ,\\\end{aligned}}}$

куда Z стандартная нормальная переменная, не зависящая от обоих Z₁ и Z₂, ε - ошибка нулевого среднего, d - параметр. Исходя из этих соотношений, соответствующая функция квантиля RMM (Shore, 2011^[3]):

${\displaystyle w=\log(y)=\mu +\left({\frac {\alpha }{\lambda }}\right)[(\eta +cz)^{\lambda }-1]+(d)z+\varepsilon ,}$

или после перенастройки:

${\displaystyle w=\log(y)=\log(M_{Y})+\left({\frac {a\eta ^{b}}{b}}\right)\left\{\left[1+\left({\frac {c}{\eta }}\right)z\right]^{b}-1\right\}+(d)z+\varepsilon ,}$

где y - процентиль ответа (Y), z - соответствующий стандартный нормальный процентиль, ε - нормальная ошибка модели с нулевым средним и постоянной дисперсией, σ, {а, б, в, г} - параметры и M_Y это медиана ответа (z = 0), в зависимости от значений параметров и значения ЛП, η:

${\displaystyle \log(M_{Y})=\mu +\left({\frac {a}{b}}\right)[\eta ^{b}-1]=\log(m)+\left({\frac {a}{b}}\right)[\eta ^{b}-1],}$

куда μ (или же м) - дополнительный параметр.

Если можно предположить, что cz << η, указанная выше модель для функции квантиля RMM может быть аппроксимирована следующим образом:

${\displaystyle w=\log(y)=\log(M_{Y})+\left({\frac {a\eta ^{b}}{b}}\right)\left[\exp \left({\frac {bcz}{\eta }}\right)-1\right]+(d)z+\varepsilon .}$

Параметр «c» не может быть «поглощен» параметрами LP (η), поскольку «c» и LP оцениваются в два отдельных этапа (как поясняется ниже).

Если данные ответа, используемые для оценки модели, содержат значения, которые меняют знак, или если наименьшее значение ответа далеко от нуля (например, когда данные усекаются слева), параметр местоположения, L, могут быть добавлены к ответу так, чтобы выражения для функции квантиля и медианы стали соответственно:

${\displaystyle w=\log(y-L)=\log(M_{Y}-L)+\left({\frac {a\eta ^{b}}{b}}\right)\left\{\left[1+\left({\frac {c}{\eta }}\right)z\right]^{b}-1\right\}+(d)z+\varepsilon \,;}$

${\displaystyle \log(M_{Y}-L)=\mu +\left({\frac {a}{b}}\right)[\eta ^{b}-1].}$

Основное свойство RMM - непрерывная монотонная выпуклость (CMC)

Как было показано ранее, обратное преобразование Бокса – Кокса зависит от одного параметра: λ, который определяет окончательную форму модели (линейную, степенную или экспоненциальную). Таким образом, все три модели представляют собой простые точки на непрерывном спектре монотонной выпуклости, натянутом на λ. Это свойство, при котором различные известные модели становятся просто точками на непрерывном спектре, охватываемом параметрами модели, называется свойством непрерывной монотонной выпуклости (CMC). Последняя характеризует все модели RMM и позволяет повторять базовый цикл «линейно-степенной экспоненциальный» (лежащий в основе обратного преобразования Бокса – Кокса) до бесконечности, позволяя получать все более выпуклые модели. Примерами таких моделей являются модель экспоненциальной степени или модель экспоненциально-экспоненциальной степени (см. Явные модели, изложенные ниже). Поскольку окончательная форма модели определяется значениями параметров RMM, это означает, что данные, используемые для оценки параметров, определяют окончательную форму оцениваемой модели RMM (как и в случае обратного преобразования Бокса – Кокса). Таким образом, свойство CMC предоставляет моделям RMM высокую гибкость в использовании данных, используемых для оценки параметров. Приведенные ниже ссылки отображают опубликованные результаты сравнений между моделями RMM и существующими моделями. Эти сравнения демонстрируют эффективность свойства CMC.

Примеры моделей RMM

Игнорирование ошибок RMM (игнорируйте термины cz, дз, и е в перцентильной модели), мы получаем следующие модели RMM, представленные в порядке возрастания монотонной выпуклости:

${\displaystyle {\begin{aligned}&{\text{linear: }}y=\eta &&(\alpha =1,\lambda =0);\\[5pt]&{\text{power: }}y=\eta ^{\alpha },&&(\alpha \neq 1,\lambda =0);\\[5pt]&{\text{exponential-linear: }}y=k\exp(\eta ),&&(\alpha \neq 1,\lambda =1);\\[5pt]&{\text{exponential-power: }}y=k\exp(\eta ^{\lambda }),&&(\alpha \neq 1,\lambda \neq 1;k{\text{ is a non-negative parameter}}.)\end{aligned}}}$

Добавление двух новых параметров путем введения для η (в перцентильной модели): ${\displaystyle \exp \left[\left({\frac {\beta }{\kappa }}\right)(\eta ^{\kappa }-1)\right]}$, новый цикл «линейно-степенно-экспоненциальный» повторяется для создания моделей с более сильной монотонной выпуклостью (Shore, 2005a,^[2] 2011,^[3] 2012^[4]):

${\displaystyle {\begin{aligned}&{\text{exponential-power: }}y=k\exp(\eta ^{\lambda }),&&(\alpha \neq ,\lambda \neq 1,\beta =1,\kappa =0,\\&&&{\text{ restoring the former model}});\\[6pt]&{\text{exponential-exponential-linear: }}y=k_{1}\exp[k_{2}\exp(\eta )],&&(\alpha \neq 1,\lambda \neq 1,\beta =1,\kappa =1);\\[6pt]&{\text{exponential-exponential-power: }}y=k_{1}\exp[k_{2}\exp(\eta ^{\kappa })],&&(\alpha \neq 1,\lambda \neq 1,\beta =1,\kappa \neq 1).\end{aligned}}}$

Понятно, что эта серия монотонных выпуклых моделей, представленных в том виде, в каком они появляются в иерархическом порядке на «лестнице монотонных выпуклых функций» (Shore, 2011^[3]), сверху не ограничен. Однако все модели - это просто точки на непрерывном спектре, охваченном параметрами RMM.

Моменты

В k-й нецентральный момент из Y есть (при условии L = 0; Берег, 2005а,^[2] 2011^[3]):

${\displaystyle \operatorname {E} (Y^{k})=(M_{Y})^{k}\operatorname {E} \left\{\exp \left\{\left({\frac {k\alpha }{\lambda }}\right)[(\eta +cZ)^{\lambda }-1]+(kd)Z\right\}\right\}.}$

Расширение Y^k, как показано справа, в Серия Тейлор около нуля, с точки зрения степеней Z (стандартная нормальная вариация), а затем принимая ожидание с обеих сторон, предполагая, что cZ ≪ η так что η + cZ ≈ η, приближенное простое выражение для k-й нецентральный момент, основанный на первых шести членах в расширении, равен:

${\displaystyle \operatorname {E} (Y)^{k}\cong (M_{Y})^{k}e^{\alpha k\left(\eta ^{\lambda }-1\right)/\lambda }\left\{1+{\frac {1}{2}}(kd)^{2}+{\frac {1}{8}}(kd)^{4}\right\}.}$

Аналогичное выражение можно получить, не предполагая cZ ≪ η. Это приведет к получению более точного (хотя и длинного и громоздкого) выражения. cZ в приведенном выше выражении не учитывается, Y становится логнормальной случайной величиной (с параметрами, которые зависят отη).

Подгонка и оценка RMM

Модели RMM могут использоваться для моделирования случайный вариация (как общая платформа для подгонки распределения) или для моделирования систематический вариация (аналогично обобщенным линейным моделям, GLM).

В первом случае (нет систематической вариации, а именно: η = константа) функция квантиля RMM подбирается для известных распределений. Если основное распределение неизвестно, функция квантиля RMM оценивается с использованием доступных выборочных данных. Моделирование случайной вариации с помощью RMM рассматривается и демонстрируется в Shore (2011).^[3] и ссылки там).

В последнем случае (моделирование систематической вариации) модели RMM оцениваются в предположении, что вариация в линейном предикторе (генерируемом посредством вариации в регрессионных переменных) вносит вклад в общую вариацию моделируемой переменной отклика (Y). Этот случай рассмотрен и продемонстрирован в Shore (2005a,^[2] 2012^[4] и соответствующие ссылки в нем). Оценка проводится в два этапа. Сначала оценивается медиана путем минимизации суммы абсолютных отклонений (подобранной модели от точек выборки). На втором этапе оставшиеся два параметра (не оцениваемые на первом этапе, а именно {c,d}), оцениваются. Три подхода к оценке представлены в Shore (2012).^[4]): максимальное правдоподобие, совпадение моментов и нелинейная квантильная регрессия.

Литературный обзор

Текущая литература по RMM касается трех областей:

(1) Разработка INT, а затем и подхода RMM со смежными методами оценки;

(2) Изучение свойств RMM и сравнение эффективности RMM с другими текущими подходами к моделированию (для подгонки распределения или для моделирования систематической вариации);

(3) Приложения.

Берег (2003a)^[5]) разработал обратные нормализующие преобразования (INT) в первые годы 21 века и применил их к различным инженерным дисциплинам, таким как статистическое управление процессами (Shore, 2000a,^[1] б,^[6] 2001a,^[7] б,^[8] 2002a^[9]) и химического машиностроения (Шор на др., 2002^[10]). Впоследствии, по мере появления новой методологии моделирования отклика (RMM), которая превратилась в полноценную платформу для моделирования монотонных выпуклых отношений (в конечном итоге представленных в книге Shore, 2005a^[2]), Были изучены свойства RMM (Shore, 2002b,^[11] 2004a,^[12] б,^[13] 2008a,^[14] 2011^[3]), разработаны процедуры оценки (Shore, 2005a,^[2] б,^[15] 2012^[4]) и новую методологию моделирования по сравнению с другими подходами для моделирования случайных вариаций (Shore 2005c,^[16] 2007,^[17] 2010;^[18] Шор и Авад 2010^[19]), а также для моделирования систематической изменчивости (Shore, 2008b^[20]).

Одновременно RMM применялся к различным научным и инженерным дисциплинам и сравнивался с существующими моделями и подходами к моделированию, применяемыми в них. Например, химическая инженерия (Shore, 2003b;^[21] Бенсон-Кархи и другие., 2007;^[22] Шахам и другие., 2008;^[23] Шор и Бенсон-Кархи, 2010 г.^[24]), статистический контроль процессов (Shore, 2014;^[25] Берег и другие., 2014;^[26] Данох и Шор, 2016^[27]), инженерии надежности (Shore, 2004c;^[28] Ладани и Шор, 2007^[29]), прогнозирование (Shore and Benson-Karhi, 2007^[30]), экология (Шор, 2014^[25]) и врачей (Шор и другие., 2014;^[26] Бенсон-Кархи и другие., 2017^[31]).

Рекомендации

1. Шор, Хаим (2000-12-01). «Три подхода к анализу качественных данных, полученных из ненормальных популяций». Качественная инженерия. 13 (2): 277–291. Дои:10.1080/08982110108918651. ISSN  0898-2112. S2CID  120209267.
2. Haim., Shore (01.01.2006). Методология моделирования отклика: эмпирическое моделирование для инженерии и науки. World Scientific. ISBN  978-9812561022. OCLC  949697181.
3. Шор, Хаим (2011). «Методология моделирования отклика». WIREs Comput Stat. 3 (4): 357–372. Дои:10.1002 / wics.151.
4. Шор, Хаим (2012). «Оценка моделей методологии моделирования отклика». WIREs Comput Stat. 4 (3): 323–333. Дои:10.1002 / wics.1199.
5. Шор, Хаим (24 апреля 2003 г.). «Обратные нормализующие преобразования и расширенное нормализующее преобразование». Достижения по теоретическим и методологическим аспектам теории вероятностей и статистики. CRC Press. С. 131–145. Дои:10.1201 / 9780203493205.ch9. ISBN  9781560329817.
6. Шор, Хаим (1 мая 2000 г.). «Общие контрольные карты для переменных». Международный журнал производственных исследований. 38 (8): 1875–1897. Дои:10.1080/002075400188645. ISSN  0020-7543. S2CID  120647313.
7. Шор, Хаим (01.01.2001). «Управление процессом для ненормальных популяций на основе обратного нормализующего преобразования». Границы статистического контроля качества 6. Physica, Гейдельберг. С. 194–206. Дои:10.1007/978-3-642-57590-7_12. ISBN  978-3-7908-1374-6.
8. Шор, Х. (01.01.2001). «Моделирование ненормального ответа для улучшения качества». Международный журнал производственных исследований. 39 (17): 4049–4063. Дои:10.1080/00207540110072245. ISSN  0020-7543. S2CID  110083024.
9. Шор, Хаим (18.06.2002). «Моделирование реакции с собственными и внешними источниками вариации». Качественная инженерия. 14 (4): 563–578. Дои:10.1081 / QEN-120003559. ISSN  0898-2112. S2CID  120494823.
10. Шор, Хаим; Браунер, Нейма; Шахам, Мордехай (01.02.2002). «Моделирование физических и термодинамических свойств с помощью обратных нормирующих преобразований». Исследования в области промышленной и инженерной химии. 41 (3): 651–656. Дои:10.1021 / ie010039s. ISSN  0888-5885.
11. Шор, Хаим (31 декабря 2002). «Методология моделирования отклика (rmm) - изучение свойств предполагаемого распределения ошибок». Коммуникации в статистике - теория и методы. 31 (12): 2225–2249. Дои:10.1081 / STA-120017223. ISSN  0361-0926. S2CID  119599987.
12. Шор, Хаим (2004). «Методология моделирования отклика (RMM) - текущие распределения, преобразования и приближения как частные случаи распределения ошибок RMM». Коммуникации в статистике - теория и методы. 33 (7): 1491–1510. Дои:10.1081 / sta-120037256 (неактивно 10.09.2020).
13. Шор, Хаим (2004). «Методология моделирования отклика, подтверждающая свидетельства инженерии и науки». Qual. Надежный. Англ. Int. 20: 61–79. Дои:10.1002 / qre.547.
14. Шор, Хаим (01.01.2008). «Согласование распределения с методологией моделирования отклика (RMM) - некоторые недавние результаты». Американский журнал математических и управленческих наук. 28 (1–2): 3–18. Дои:10.1080/01966324.2008.10737714. ISSN  0196-6324. S2CID  119890008.
15. Шор, Хаим (15 июня 2005 г.). «Методология моделирования отклика (RMM) - процедуры оценки максимального правдоподобия». Вычислительная статистика и анализ данных. 49 (4): 1148–1172. Дои:10.1016 / j.csda.2004.07.006.
16. Шор, Хаим (1 марта 2005 г.). «Точные приближения на основе RMM для CDF нормального распределения». Коммуникации в статистике - теория и методы. 34 (3): 507–513. Дои:10.1081 / STA-200052102. ISSN  0361-0926. S2CID  122148043.
17. Шор, Хаим (9 ноября 2007 г.). «Сравнение обобщенного лямбда-распределения (GLD) и методологии моделирования отклика (RMM) в качестве общих платформ для распределения». Коммуникации в статистике - теория и методы. 36 (15): 2805–2819. Дои:10.1080/03610920701386885. ISSN  0361-0926. S2CID  121278971.
18. Шор, Хаим (01.10.2010). "Соответствие распределения квантильной функции методологии моделирования отклика (RMM)". Справочник по подгонке статистических распределений с R. Чепмен и Холл / CRC. С. 537–556. Дои:10.1201 / b10159-17. ISBN  9781584887119.
19. Шор, Хаим; Авад, Фатина (12 мая 2010 г.). «Статистическое сравнение качества соответствия, предоставленного пятью семействами распределений, используемых при согласовании распределения». Коммуникации в статистике - теория и методы. 39 (10): 1707–1728. Дои:10.1080/03610920902887707. ISSN  0361-0926. S2CID  121490873.
20. Шор, Хаим (2008). «Сравнение линейных предикторов, полученных путем преобразования данных, обобщенных линейных моделей (GLM) и методологии моделирования отклика (RMM)». Qual. Надежный. Англ. Int. 24 (4): 389–399. Дои:10.1002 / qre.898.
21. Шор, Хаим (15 мая 2003 г.). «Методология моделирования ответа (RMM) - новый подход к моделированию химиотерапии для монотонных выпуклых / вогнутых отношений». Компьютеры и химическая инженерия. 27 (5): 715–726. Дои:10.1016 / S0098-1354 (02) 00255-7.
22. Бенсон-Кархи, Диаманта; Шор, Хаим; Шахам, Мордехай (01.05.2007). «Моделирование зависимых от температуры свойств воды с помощью методологии моделирования отклика (RMM) и сравнение с приемлемыми моделями». Исследования в области промышленной и инженерной химии. 46 (10): 3446–3463. Дои:10.1021 / ie061252x. ISSN  0888-5885.
23. Шахам, Мордехай; Браунер, Нейма; Шор, Хаим; Бенсон-Кархи, Диаманта (1 июля 2008 г.). «Прогнозирование свойств, зависящих от температуры, с помощью корреляций на основе сходства молекулярных структур: приложение к плотности жидкости». Исследования в области промышленной и инженерной химии. 47 (13): 4496–4504. Дои:10.1021 / ie701766m. ISSN  0888-5885.
24. Шор, Хаим; Бенсон-Кархи, Диаманта (06.10.2010). «Моделирование температурно-зависимых свойств кислорода, аргона и азота с помощью методологии моделирования отклика (RMM) и сравнения с приемлемыми моделями». Исследования в области промышленной и инженерной химии. 49 (19): 9469–9485. Дои:10.1021 / ie100981y. ISSN  0888-5885.
25. Шор, Хаим (2014). «Моделирование и мониторинг экологических систем - подход к статистическому управлению процессами». Международная организация по качеству и надежности. 30 (8): 1233–1248. Дои:10.1002 / qre.1544.
26. Шор, Хаим; Бенсон-Кархи, Диаманта; Маламуд, Майя; Башири, Ашер (03.07.2014). «Индивидуальное моделирование и мониторинг роста плода - статистический подход к управлению процессом». Качественная инженерия. 26 (3): 290–310. Дои:10.1080/08982112.2013.830742. ISSN  0898-2112. S2CID  111061936.
27. Danoch, Revital; Шор, Хаим (2016). «Схема SPC для мониторинга линейных предикторов, встроенных в нелинейные профили». Qual. Надежный. Англ. Int. 32 (4): 1453–1466. Дои:10.1002 / qre.1856.
28. "Письмо редактору". Коммуникации в статистике - моделирование и вычисления. 33 (2): 537–539. 2004-01-02. Дои:10.1081 / SAC-120037902. ISSN  0361-0918. S2CID  218568529.
29. Ладани, Шауль; Шор, Хаим (2007). «Гарантийный период увеличения прибыли с продажами, выраженными функцией спроса». Qual. Надежный. Англ. Int. 23 (3): 291–301. Дои:10.1002 / qre.790.
30. Shore, H .; Бенсон-Кархи, Д. (01.06.2007). «Прогнозирование S-образных диффузионных процессов с помощью методологии моделирования отклика». Журнал Общества оперативных исследований. 58 (6): 720–728. Дои:10.1057 / palgrave.jors.2602187. ISSN  0160-5682. S2CID  205131178.
31. Бенсон-Кархи, Диаманта; Шор, Хаим; Маламуд, Майя (23.01.2017). «Моделирование биометрии роста плода с помощью методологии моделирования реакции (RMM) и сравнение с существующими моделями». Коммуникации в статистике - моделирование и вычисления. 0: 129–142. Дои:10.1080/03610918.2017.1280160. ISSN  0361-0918. S2CID  46801213.