Logit - Logit

Не путать с Logitech.

В этой статье обсуждается только функция двоичного логита. Увидеть дискретный выбор для обсуждения полиномиальный логит, условный логит, вложенный логит, смешанный логит, взорванный логит и заказанный логит. Для базовой техники регрессии, использующей функцию logit, см. логистическая регрессия.

Участок логита (п) в диапазоне от 0 до 1, где основание логарифма равно е.

В статистике логит (/ˈлoʊdʒɪт/ LOH-джит ) или функция логарифм это логарифм из шансы ${\displaystyle {\frac {p}{1-p}}}$ где п это вероятность.^[1] Это тип функции, которая создает карту значений вероятности из ${\displaystyle (0,1)}$ к ${\displaystyle (-\infty ,+\infty )}$^[2]. Это обратный из сигмовидный «логистическая» функция или логистическая трансформация используется в математика, особенно в статистика.

Определение

Если п это вероятность, тогда п/(1 − п) соответствующий шансы; то логит вероятности - это логарифм шансов, т.е.

${\displaystyle \operatorname {logit} (p)=\log \left({\frac {p}{1-p}}\right)=\log(p)-\log(1-p)=-\log \left({\frac {1}{p}}-1\right)\,.}$

Основа логарифм используемая функция не имеет большого значения в данной статье, если она больше 1, но натуральный логарифм с базой е является наиболее часто используемым. Выбор базы соответствует выбору логарифмическая единица для значения: основание 2 соответствует Шеннон, основаниее к «нац ”, И основание 10 в Хартли; эти единицы особенно используются в теоретико-информационных интерпретациях. Для каждого выбора базы функция логита принимает значения от отрицательной до положительной бесконечности.

В «Логистическая» функция любого числа ${\displaystyle \alpha }$ дается обратнымлогит:

${\displaystyle \operatorname {logit} ^{-1}(\alpha )=\operatorname {logistic} (\alpha )={\frac {1}{1+\operatorname {exp} (-\alpha )}}={\frac {\operatorname {exp} (\alpha )}{\operatorname {exp} (\alpha )+1}}}$

Разница между логитs двух вероятностей - это логарифм отношение шансов (р), таким образом, обеспечивая сокращение для записи правильной комбинации отношений шансов только добавлением и вычитанием:

${\displaystyle \operatorname {log} (R)=\log \left({\frac {{p_{1}}/(1-p_{1})}{{p_{2}}/(1-p_{2})}}\right)=\log \left({\frac {p_{1}}{1-p_{1}}}\right)-\log \left({\frac {p_{2}}{1-p_{2}}}\right)=\operatorname {logit} (p_{1})-\operatorname {logit} (p_{2})\,.}$

История

Было предпринято несколько попыток адаптировать методы линейной регрессии к области, где выходом является значение вероятности, ${\displaystyle (0,1)}$, вместо любого действительного числа ${\displaystyle (-\infty ,+\infty )}$. Во многих случаях такие усилия были сосредоточены на моделировании этой проблемы путем отображения диапазона ${\displaystyle (0,1)}$ к ${\displaystyle (-\infty ,+\infty )}$ а затем запустить линейную регрессию для этих преобразованных значений. В 1934 г. Честер Иттнер Блисс использовал кумулятивную функцию нормального распределения для выполнения этого сопоставления и назвал свою модель пробит сокращение для "проблемаспособность unЭто";^[3]. Однако это более затратно в вычислительном отношении. В 1944 г. Джозеф Берксон использовал журнал шансов и вызвал эту функцию логит сокращение для "бревноИстик ООНЭто"по аналогии с пробитом. Логарифмические коэффициенты широко использовались Чарльз Сандерс Пирс (конец 19 века).^[4]. Г. А. Барнард в 1949 г. ввел широко используемый термин логарифм;^[5] логарифм шансов события - это логит вероятности события.^[6]

Использование и свойства

• В логит в логистическая регрессия является частным случаем функции ссылки в обобщенная линейная модель: это канонический функция ссылки для Распределение Бернулли.
• В логит функция является отрицательной производная из бинарная функция энтропии.
• В логит также является центральным элементом вероятностного Модель раша за измерение, который, среди прочего, применяется в психологической и педагогической оценке.
• В обратный логит функция (т.е. логистическая функция ) также иногда называют истекать функция.^[7]
• В эпидемиология болезней растений Логит используется для соответствия данных логистической модели. В моделях Гомперца и мономолекулярных все три известны как модели семейства Ричардсов.
• Логарифмическая функция вероятностей часто используется в оценка состояния алгоритмы^[8] из-за его численных преимуществ в случае малых вероятностей. Вместо умножения очень маленьких чисел с плавающей запятой, вероятности логарифмических шансов можно просто суммировать для вычисления совместной вероятности (логарифмических шансов).^[9][10]

Сравнение с пробит

Сравнение функция logit с масштабированным пробитом (т.е. обратным CDF из нормальное распределение ), сравнивая ${\displaystyle \operatorname {logit} (x)}$ vs. ${\displaystyle {\tfrac {\Phi ^{-1}(x)}{\,{\sqrt {\pi /8\,}}\,}}}$, что делает уклоны одинаковыми на у-источник.

Тесно связан с логит функция (и логит модель ) являются пробит функция и пробит модель. В логит и пробит оба сигмовидные функции с доменом от 0 до 1, что делает их обоих квантильные функции - т.е. инверсии кумулятивная функция распределения (CDF) распределение вероятностей. Фактически, логит это квантильная функция из логистическая дистрибуция, в то время пробит квантильная функция нормальное распределение. В пробит функция обозначается ${\displaystyle \Phi ^{-1}(x)}$, где ${\displaystyle \Phi (x)}$ это CDF нормального распределения, как уже упоминалось:

${\displaystyle \Phi (x)={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x}e^{-{\frac {y^{2}}{2}}}dy.}$

Как показано на графике справа, логит и пробит функции очень похожи, когда пробит функция масштабируется, так что ее наклон на у = 0 совпадает с наклоном логит. Как результат, пробит модели иногда используются вместо модели logit потому что для некоторых приложений (например, в Байесовская статистика ) реализация проще.

Смотрите также

• Сигмовидная функция, обратная логит-функции
• Дискретный выбор для двоичного логита, полиномиального логита, условного логита, вложенного логита, смешанного логита, разнесенного логита и упорядоченного логита
• Ограниченная зависимая переменная
• Дэниел Макфадден, а Нобелевская премия по экономике победитель за разработку той или иной логит-модели, используемой в экономике^[3]
• Логит-анализ в маркетинге
• Полиномиальный логит
• Ogee, кривая аналогичной формы
• Перцептрон
• Пробит, другая функция с тем же доменом и диапазоном, что и логит
• Оценка ридита
• Преобразование данных (статистика)
• Arcsin (преобразование)

использованная литература

1. «КОЭФФИЦИЕНТ СЧЕТОВ ЛОГА». nist.gov.
2. «Логит / Пробит» (PDF).
3. Дж. С. Крамер (2003). «Истоки и развитие логит-модели» (PDF). Кембридж UP.
4. Стиглер, Стивен М. (1986). История статистики: измерение неопределенности до 1900 г.. Кембридж, Массачусетс: Belknap Press of Harvard University Press. ISBN  978-0-674-40340-6.
5. Хильбе, Джозеф М. (2009), Модели логистической регрессии, CRC Press, стр. 3, ISBN  9781420075779.
6. Крамер, Дж. С. (2003), Логит-модели из экономики и других областей, Cambridge University Press, стр. 13, ISBN  9781139438193.
7. «Архивная копия». Архивировано из оригинал на 2011-07-06. Получено 2011-02-18.
8. Трун, Себастьян (2003). «Изучение сеточных карт занятости с моделями переднего датчика». Автономные роботы. 15 (2): 111–127. Дои:10.1023 / А: 1025584807625. ISSN  0929-5593.
9. Стилер, Алекс (2012). «Статистические методы в робототехнике» (PDF). п. 2. Получено 2017-01-26.
10. Dickmann, J .; Appenrodt, N .; Klappstein, J .; Bloecher, H.L .; Muntzinger, M .; Sailer, A .; Hahn, M .; Бренк, К. (01.01.2015). "Заставить Берту увидеть еще больше: вклад радаров". Доступ IEEE. 3: 1233–1247. Дои:10.1109 / ACCESS.2015.2454533. ISSN  2169-3536.

дальнейшее чтение

• Эштон, Уинифред Д. (1972). Логит-трансформация: с особым упором на его использование в биотесте. Статистические монографии и курсы Гриффина. 32. Чарльз Гриффин. ISBN  978-0-85264-212-2.