Граница Чернова - Chernoff bound

В теория вероятности, то Граница Чернова, названный в честь Герман Чернов но благодаря Герману Рубину,^[1] дает экспоненциально убывающие оценки на хвостовые распределения сумм независимых случайных величин. Это более точная граница, чем известные хвостовые границы на основе первого или второго момента, такие как Неравенство Маркова или же Неравенство Чебышева, которые дают только степенные ограничения на затухание хвоста. Однако оценка Чернова требует, чтобы переменные были независимыми - условие, которое не требуется ни для неравенства Маркова, ни для неравенства Чебышева, хотя неравенство Чебышева требует, чтобы переменные были попарно независимыми.

Это связано с (исторически предшествующим) Неравенства Бернштейна и чтобы Неравенство Хёффдинга.

Общая оценка

Общая оценка Чернова для случайной величины Икс достигается применением Неравенство Маркова к е^tX.^[2] Для каждого ${\displaystyle t>0}$:

${\displaystyle \Pr(X\geq a)=\Pr(e^{t\cdot X}\geq e^{t\cdot a})\leq {\frac {\mathrm {E} \left[e^{t\cdot X}\right]}{e^{t\cdot a}}}.}$

Когда Икс это сумма п случайные переменные Икс₁, ..., Икс_п, получаем за любые т > 0,

${\displaystyle \Pr(X\geq a)\leq e^{-ta}\mathrm {E} \left[\prod _{i}e^{t\cdot X_{i}}\right].}$

В частности, оптимизация более т и предполагая, что Икс_я независимы, получаем,

${\displaystyle \Pr(X\geq a)\leq \min _{t>0}e^{-ta}\prod _{i}\mathrm {E} \left[e^{tX_{i}}\right].}$

(1)

По аналогии,

${\displaystyle \Pr(X\leq a)=\Pr \left(e^{-tX}\geq e^{-ta}\right)}$

и так,

${\displaystyle \Pr(X\leq a)\leq \min _{t>0}e^{ta}\prod _{i}\mathrm {E} \left[e^{-tX_{i}}\right]}$

Конкретные границы Чернова достигаются вычислением ${\displaystyle \mathrm {E} \left[e^{-t\cdot X_{i}}\right]}$ для конкретных экземпляров основных переменных ${\displaystyle X_{i}}$.

Пример

Позволять Икс₁, ..., Икс_п быть независимым Случайные величины Бернулли, сумма которого Икс, каждая из которых имеет вероятность п > 1/2 от 1. Для переменной Бернулли:

${\displaystyle \mathrm {E} \left[e^{t\cdot X_{i}}\right]=(1-p)e^{0}+pe^{t}=1+p(e^{t}-1)\leq e^{p(e^{t}-1)}}$

Так:

${\displaystyle \mathrm {E} \left[e^{t\cdot X}\right]\leq e^{n\cdot p(e^{t}-1)}}$

Для любого ${\displaystyle \delta >0}$, принимая ${\displaystyle t=\ln(1+\delta )>0}$ и ${\displaystyle a=(1+\delta )np}$ дает:

${\displaystyle \mathrm {E} \left[e^{t\cdot X}\right]\leq e^{\delta np}}$ и ${\displaystyle e^{-ta}={\frac {1}{(1+\delta )^{(1+\delta )np}}}}$

а общая граница Чернова дает:

${\displaystyle \Pr[X\geq (1+\delta )np]\leq {\frac {e^{\delta np}}{(1+\delta )^{(1+\delta )np}}}=\left[{\frac {e^{\delta }}{(1+\delta )^{1+\delta }}}\right]^{np}}$

Вероятность одновременного появления более п/ 2 мероприятий {Икс_k = 1} имеет точное значение:

${\displaystyle \Pr \left[X>{n \over 2}\right]=\sum _{i=\lfloor {\tfrac {n}{2}}\rfloor +1}^{n}{\binom {n}{i}}p^{i}(1-p)^{n-i}.}$

Нижнюю границу этой вероятности можно вычислить на основе неравенства Чернова:

${\displaystyle \Pr \left[X>{n \over 2}\right]\geq 1-e^{-{\frac {1}{2p}}n\left(p-{\frac {1}{2}}\right)^{2}}.}$

Действительно, заметив, что μ = нп, мы получаем мультипликативную форму оценки Чернова (см. ниже или следствие 13.3 в примечаниях Синклера к классу),^[3]

${\displaystyle {\begin{aligned}\Pr \left(X\leq \left\lfloor {\tfrac {n}{2}}\right\rfloor \right)&=\Pr \left(X\leq \left(1-\left(1-{\tfrac {1}{2p}}\right)\right)\mu \right)\\&\leq e^{-{\frac {\mu }{2}}\left(1-{\frac {1}{2p}}\right)^{2}}\\&=e^{-{\frac {n}{2p}}\left(p-{\frac {1}{2}}\right)^{2}}\end{aligned}}}$

Этот результат допускает различные обобщения, как показано ниже. Можно встретить много разновидностей границ Чернова: оригинал аддитивная форма (что дает оценку абсолютная ошибка ) или более практичный мультипликативная форма (что ограничивает относительная ошибка к среднему).

Аддитивная форма (абсолютная ошибка)

Следующая теорема связана с Василий Хёффдинг^[4] и поэтому называется теоремой Чернова – Хёффдинга.

Теорема Чернова – Хёффдинга. Предполагать Икс₁, ..., Икс_п находятся i.i.d. случайные величины, принимающие значения в {0, 1}. Позволять п = E [Икс]/ n и ε > 0.

${\displaystyle {\begin{aligned}\Pr \left({\frac {1}{n}}\sum X_{i}\geq p+\varepsilon \right)\leq \left(\left({\frac {p}{p+\varepsilon }}\right)^{p+\varepsilon }{\left({\frac {1-p}{1-p-\varepsilon }}\right)}^{1-p-\varepsilon }\right)^{n}&=e^{-D(p+\varepsilon \parallel p)n}\\\Pr \left({\frac {1}{n}}\sum X_{i}\leq p-\varepsilon \right)\leq \left(\left({\frac {p}{p-\varepsilon }}\right)^{p-\varepsilon }{\left({\frac {1-p}{1-p+\varepsilon }}\right)}^{1-p+\varepsilon }\right)^{n}&=e^{-D(p-\varepsilon \parallel p)n}\end{aligned}}}$

куда

${\displaystyle D(x\parallel y)=x\ln {\frac {x}{y}}+(1-x)\ln \left({\frac {1-x}{1-y}}\right)}$

это Дивергенция Кульбака – Лейблера между Бернулли распределил случайные величины с параметрами Икс и у соответственно. Если п ≥ 1/2, тогда ${\displaystyle D(p+\varepsilon \parallel p)\geq {\tfrac {\varepsilon ^{2}}{2p(1-p)}}}$ что значит

${\displaystyle \Pr \left(\sum X_{i}>np+x\right)\leq \exp \left(-{\frac {x^{2}}{2np(1-p)}}\right).}$

Более простая оценка получается ослаблением теоремы с помощью D(п + ε || п) ≥ 2ε², что следует из выпуклость из D(п + ε || п) и тот факт, что

${\displaystyle {\frac {d^{2}}{d\varepsilon ^{2}}}D(p+\varepsilon \parallel p)={\frac {1}{(p+\varepsilon )(1-p-\varepsilon )}}\geq 4={\frac {d^{2}}{d\varepsilon ^{2}}}(2\varepsilon ^{2}).}$

Этот результат является частным случаем Неравенство Хёффдинга. Иногда границы

${\displaystyle {\begin{aligned}D((1+x)p\parallel p)\geq {\frac {1}{4}}x^{2}p,&&&{-{\tfrac {1}{2}}}\leq x\leq {\tfrac {1}{2}},\\[6pt]D(x\parallel y)\geq {\frac {3(x-y)^{2}}{2(2y+x)}},\\[6pt]D(x\parallel y)\geq {\frac {(x-y)^{2}}{2y}},&&&x\leq y,\\[6pt]D(x\parallel y)\geq {\frac {(x-y)^{2}}{2x}},&&&x\geq y\end{aligned}}}$

которые сильнее для п < 1/8, также используются.

Мультипликативная форма (относительная ошибка)

Мультипликативная граница Чернова. Предполагать Икс₁, ..., Икс_п находятся независимый случайные величины, принимающие значения в {0, 1}. Позволять Икс обозначим их сумму и пусть μ = E [Икс] обозначают ожидаемое значение суммы. Тогда для любого δ > 0,

${\displaystyle \Pr(X>(1+\delta )\mu )<\left({\frac {e^{\delta }}{(1+\delta )^{1+\delta }}}\right)^{\mu }.}$

Аналогичную стратегию доказательства можно использовать, чтобы показать, что

${\displaystyle \Pr(X<(1-\delta )\mu )<\left({\frac {e^{-\delta }}{(1-\delta )^{1-\delta }}}\right)^{\mu }.}$

Приведенная выше формула на практике часто бывает громоздкой,^[5] поэтому часто используются следующие более свободные, но более удобные границы:

${\displaystyle \Pr(X\leq (1-\delta )\mu )\leq e^{-{\frac {\delta ^{2}\mu }{2}}},\qquad 0\leq \delta \leq 1,}$

${\displaystyle \Pr(X\geq (1+\delta )\mu )\leq e^{-{\frac {\delta ^{2}\mu }{2+\delta }}},\qquad 0\leq \delta ,}$

которые следуют из неравенства ${\displaystyle {\frac {2\delta }{2+\delta }}\leq \log(1+\delta )}$ из список логарифмических неравенств.Или еще послабее:

${\displaystyle \Pr(X\geq (1+\delta )\mu )\leq e^{-{\frac {\delta ^{2}\mu }{3}}},\qquad 0\leq \delta \leq 1.}$

Приложения

У оценок Чернова есть очень полезные приложения в установить балансировку и пакет маршрутизация в редкий сети.

Проблема балансировки множества возникает при проведении статистических экспериментов. Обычно при разработке статистического эксперимента, учитывая особенности каждого участника эксперимента, нам необходимо знать, как разделить участников на 2 непересекающиеся группы, чтобы каждая характеристика была как можно более сбалансирована между двумя группами. Обратитесь к этому раздел книги для получения дополнительной информации о проблеме.

Границы Чернова также используются для получения точных границ для задач маршрутизации с перестановками, которые уменьшают перегрузка сети при маршрутизации пакетов в разреженных сетях. Обратитесь к этому раздел книги для тщательного решения проблемы.

Границы Чернова используются в теория вычислительного обучения доказать, что алгоритм обучения наверное примерно правильно, т.е. с большой вероятностью алгоритм имеет небольшую ошибку на достаточно большом наборе обучающих данных.^[6]

Границы Чернова можно эффективно использовать для оценки «уровня устойчивости» приложения / алгоритма, исследуя его пространство возмущений с рандомизацией.^[7]Использование границы Чернова позволяет отказаться от гипотезы сильных и в большинстве случаев нереалистичных малых возмущений (величина возмущения мала). Уровень устойчивости может, в свою очередь, использоваться либо для подтверждения, либо для отклонения конкретного алгоритмического выбора, аппаратной реализации или соответствия решения, структурные параметры которого подвержены влиянию неопределенностей.

Граница матрицы

Основная статья: Матрица Граница Чернова

Рудольф Альсведе и Андреас Винтер ввел оценку Чернова для матричнозначных случайных величин.^[8] Следующая версия неравенства содержится в работе Троппа.^[9]

Позволять M₁, ..., M_т - независимые матричные случайные величины такие, что ${\displaystyle M_{i}\in \mathbb {C} ^{d_{1}\times d_{2}}}$ и ${\displaystyle \mathbb {E} [M_{i}]=0}$Обозначим через ${\displaystyle \lVert M\rVert }$ операторная норма матрицы ${\displaystyle M}$. Если ${\displaystyle \lVert M_{i}\rVert \leq \gamma }$ почти наверняка для всех ${\displaystyle i\in \{1,\ldots ,t\}}$, то для каждого ε > 0

${\displaystyle \Pr \left(\left\|{\frac {1}{t}}\sum _{i=1}^{t}M_{i}\right\|>\varepsilon \right)\leq (d_{1}+d_{2})\exp \left(-{\frac {3\varepsilon ^{2}t}{8\gamma ^{2}}}\right).}$

Обратите внимание, что для того, чтобы сделать вывод, что отклонение от 0 ограничено ε с большой долей вероятности нам нужно выбрать количество образцов ${\displaystyle t}$ пропорционально логарифму ${\displaystyle d_{1}+d_{2}}$. В общем, к сожалению, зависимость от ${\displaystyle \log(\min(d_{1},d_{2}))}$ неизбежно: возьмем, например, диагональную матрицу случайных знаков размерности ${\displaystyle d\times d}$. Операторная норма суммы т независимых выборок - это как раз максимальное отклонение среди d независимые случайные блуждания длины т. Легко видеть, что для достижения фиксированной границы максимального отклонения с постоянной вероятностью т должен расти логарифмически с d в этом сценарии.^[10]

Следующую теорему можно получить, полагая M имеет низкий ранг, чтобы избежать зависимости от размеров.

Теорема без зависимости от размерностей

Позволять 0 < ε < 1 и M - случайная симметричная вещественная матрица с ${\displaystyle \|\mathrm {E} [M]\|\leq 1}$ и ${\displaystyle \|M\|\leq \gamma }$ почти наверняка. Предположим, что каждый элемент на опоре M имеет самый высокий ранг р. Набор

${\displaystyle t=\Omega \left({\frac {\gamma \log(\gamma /\varepsilon ^{2})}{\varepsilon ^{2}}}\right).}$

Если ${\displaystyle r\leq t}$ держится почти наверняка, тогда

${\displaystyle \Pr \left(\left\|{\frac {1}{t}}\sum _{i=1}^{t}M_{i}-\mathrm {E} [M]\right\|>\varepsilon \right)\leq {\frac {1}{\mathbf {poly} (t)}}}$

куда M₁, ..., M_т i.i.d. копии M.

Теорема с матрицами, которые не являются полностью случайными

Гарг, Ли, Сонг и Шривастава ^[11] доказал оценку типа Чернова для сумм матричнозначных случайных величин, отобранных посредством случайного блуждания на расширителе, подтвердив гипотезу, выдвинутую Вигдерсоном и Сяо.

Кынг и Сонг ^[12] доказал оценку типа Чернова для сумм лапласовской матрицы случайных остовных деревьев.

Вариант отбора проб

Следующий вариант оценки Чернова может использоваться для ограничения вероятности того, что большинство в популяции станет меньшинством в выборке, или наоборот.^[13]

Предположим, что есть общая популяция А и часть населения B⊆А. Отметьте относительный размер подгруппы населения (|B|/|А|) автор р.

Предположим, мы выбрали целое число k и случайная выборка S⊂А размера k. Отметьте относительный размер подгруппы в выборке (|B∩S|/|S|) автор р_S.

Тогда для каждой дроби d∈[0,1]:

${\displaystyle \mathrm {Pr} \left(r_{S}<(1-d)\cdot r\right)<\exp \left(-r\cdot d^{2}\cdot k/2\right)}$

В частности, если B большинство в А (т.е. р > 0,5) можно оценить вероятность того, что B останется большинство в S (р_S> 0,5), взяв: d = 1 - 1 / (2 р):^[14]

${\displaystyle \mathrm {Pr} \left(r_{S}>0.5\right)>1-\exp \left(-r\cdot \left(1-{\frac {1}{2r}}\right)^{2}\cdot k/2\right)}$

Эта граница, конечно, совсем не жесткая. Например, когда р= 0,5 получаем тривиальную оценку Вероятно > 0.

Доказательства

Теорема Чернова – Хёффдинга (аддитивная форма)

Позволять q = п + ε. Принимая а = nq в (1), мы получаем:

${\displaystyle \Pr \left({\frac {1}{n}}\sum X_{i}\geq q\right)\leq \inf _{t>0}{\frac {E\left[\prod e^{tX_{i}}\right]}{e^{tnq}}}=\inf _{t>0}\left({\frac {E\left[e^{tX_{i}}\right]}{e^{tq}}}\right)^{n}.}$

Теперь, зная, что Pr (Икс_я = 1) = п, Pr (Икс_я = 0) = 1 − п, у нас есть

${\displaystyle \left({\frac {\mathrm {E} \left[e^{tX_{i}}\right]}{e^{tq}}}\right)^{n}=\left({\frac {pe^{t}+(1-p)}{e^{tq}}}\right)^{n}=\left(pe^{(1-q)t}+(1-p)e^{-qt}\right)^{n}.}$

Следовательно, мы можем легко вычислить нижнюю грань, используя исчисление:

${\displaystyle {\frac {d}{dt}}\left(pe^{(1-q)t}+(1-p)e^{-qt}\right)=(1-q)pe^{(1-q)t}-q(1-p)e^{-qt}}$

Обнуляя уравнение и решая, мы имеем

${\displaystyle {\begin{aligned}(1-q)pe^{(1-q)t}&=q(1-p)e^{-qt}\\(1-q)pe^{t}&=q(1-p)\end{aligned}}}$

так что

${\displaystyle e^{t}={\frac {(1-p)q}{(1-q)p}}.}$

Таким образом,

${\displaystyle t=\log \left({\frac {(1-p)q}{(1-q)p}}\right).}$

В качестве q = п + ε > п, Мы видим, что т > 0, поэтому наша оценка выполняется на т. Решив для т, мы можем вернуться к приведенным выше уравнениям и найти, что

${\displaystyle {\begin{aligned}\log \left(pe^{(1-q)t}+(1-p)e^{-qt}\right)&=\log \left(e^{-qt}(1-p+pe^{t})\right)\\&=\log \left(e^{-q\log \left({\frac {(1-p)q}{(1-q)p}}\right)}\right)+\log \left(1-p+pe^{\log \left({\frac {1-p}{1-q}}\right)}e^{\log {\frac {q}{p}}}\right)\\&=-q\log {\frac {1-p}{1-q}}-q\log {\frac {q}{p}}+\log \left(1-p+p\left({\frac {1-p}{1-q}}\right){\frac {q}{p}}\right)\\&=-q\log {\frac {1-p}{1-q}}-q\log {\frac {q}{p}}+\log \left({\frac {(1-p)(1-q)}{1-q}}+{\frac {(1-p)q}{1-q}}\right)\\&=-q\log {\frac {q}{p}}+\left(-q\log {\frac {1-p}{1-q}}+\log {\frac {1-p}{1-q}}\right)\\&=-q\log {\frac {q}{p}}+(1-q)\log {\frac {1-p}{1-q}}\\&=-D(q\parallel p).\end{aligned}}}$

Теперь у нас есть желаемый результат:

${\displaystyle \Pr \left({\tfrac {1}{n}}\sum X_{i}\geq p+\varepsilon \right)\leq e^{-D(p+\varepsilon \parallel p)n}.}$

Чтобы завершить доказательство для симметричного случая, мы просто определим случайную величину Y_я = 1 − Икс_я, примените то же доказательство и вставьте его в нашу оценку.

Мультипликативная форма

Набор Pr (Икс_я = 1) = п_я.В соответствии с (1),

${\displaystyle {\begin{aligned}\Pr(X>(1+\delta )\mu )&\leq \inf _{t>0}{\frac {\operatorname {E} \left[\prod _{i=1}^{n}\exp(tX_{i})\right]}{\exp(t(1+\delta )\mu )}}\\[4pt]&=\inf _{t>0}{\frac {\prod _{i=1}^{n}\operatorname {E} \left[e^{tX_{i}}\right]}{\exp(t(1+\delta )\mu )}}\\[4pt]&=\inf _{t>0}{\frac {\prod _{i=1}^{n}\left[p_{i}e^{t}+(1-p_{i})\right]}{\exp(t(1+\delta )\mu )}}\end{aligned}}}$

Третья строка выше следует, потому что ${\displaystyle e^{tX_{i}}}$ принимает значение е^т с вероятностью п_я и значение 1 с вероятностью 1 − п_я. Это идентично вычислению выше в доказательстве Теорема для аддитивной формы (абсолютная ошибка).

Перезапись ${\displaystyle p_{i}e^{t}+(1-p_{i})}$ в качестве ${\displaystyle p_{i}(e^{t}-1)+1}$ и напоминая, что ${\displaystyle 1+x\leq e^{x}}$ (со строгим неравенством, если Икс > 0), мы установили ${\displaystyle x=p_{i}(e^{t}-1)}$. Тот же результат можно получить, напрямую заменив а в уравнении для оценки Чернова с (1 + δ)μ.^[15]

Таким образом,

${\displaystyle \Pr(X>(1+\delta )\mu )<{\frac {\prod _{i=1}^{n}\exp(p_{i}(e^{t}-1))}{\exp(t(1+\delta )\mu )}}={\frac {\exp \left((e^{t}-1)\sum _{i=1}^{n}p_{i}\right)}{\exp(t(1+\delta )\mu )}}={\frac {\exp((e^{t}-1)\mu )}{\exp(t(1+\delta )\mu )}}.}$

Если мы просто установим т = журнал (1 + δ) так что т > 0 за δ > 0, мы можем заменить и найти

${\displaystyle {\frac {\exp((e^{t}-1)\mu )}{\exp(t(1+\delta )\mu )}}={\frac {\exp((1+\delta -1)\mu )}{(1+\delta )^{(1+\delta )\mu }}}=\left[{\frac {e^{\delta }}{(1+\delta )^{(1+\delta )}}}\right]^{\mu }}$

Это доказывает желаемый результат.

Смотрите также

• Неравенство концентраций - сводка хвостовых границ случайных величин.
• Энтропийная ценность под угрозой

Рекомендации

1. Чернов, Герман (2014). «Карьера в статистике» (PDF). Инь Линь, Сихун; Дженест, Кристиан; Бэнкс, Дэвид Л .; Моленбергс, Герт; Скотт, Дэвид В .; Ван, Джейн-Линг (ред.). Прошлое, настоящее и будущее статистики. CRC Press. п. 35. ISBN  9781482204964.
2. Этот метод был впервые применен Сергей Бернштейн доказать родственную Неравенства Бернштейна.
3. Синклер, Алистер (осень 2011 г.). «Классные заметки по курсу» Случайность и вычисление"" (PDF). Архивировано из оригинал (PDF) 31 октября 2014 г.. Получено 30 октября 2014.
4. Хёффдинг, В. (1963). «Вероятностные неравенства для сумм ограниченных случайных величин» (PDF). Журнал Американской статистической ассоциации. 58 (301): 13–30. Дои:10.2307/2282952. JSTOR  2282952.
5. Митценмахер, Майкл; Упфал, Эли (2005). Вероятность и вычисления: рандомизированные алгоритмы и вероятностный анализ. Издательство Кембриджского университета. ISBN  978-0-521-83540-4.
6. М. Кернс, У. Вазирани. Введение в теорию вычислительного обучения. Глава 9 (Приложение), страницы 190–192. MIT Press, 1994.
7. C.Alippi: глава "Рандомизированные алгоритмы" в Интеллект для встроенных систем. Springer, 2014 г., 283 стр., ISBN  978-3-319-05278-6.
8. Ahlswede, R .; Уинтер А. (2003). «Сильный разговор для идентификации через квантовые каналы». IEEE Transactions по теории информации. 48 (3): 569–579. arXiv:Quant-ph / 0012127. Дои:10.1109/18.985947.
9. Тропп, Дж. (2010). «Удобные хвостовые границы для сумм случайных матриц». Основы вычислительной математики. 12 (4): 389–434. arXiv:1004.4389. Дои:10.1007 / s10208-011-9099-z.
10. Маген, А.; Зузиас, А. (2011).«Матричные границы Чернова низкого ранга и приближенное матричное умножение». arXiv:1005.2724 [cs.DM ].
11. Гарг, Анкит; Ли, Инь Тат; Песня, Чжао; Шривастава, Нихил (2018). Матричный расширитель Граница Чернова. STOC '18 Труды пятидесяти ежегодного симпозиума ACM по теории вычислений. arXiv:1704.03864.
12. Кынг, Расмус; Песня, Чжао (2018). Матричная граница Чернова для сильно рэлеевских распределений и спектральных распределителей из нескольких случайных остовных деревьев. FOCS '18 Симпозиум IEEE по основам информатики. arXiv:1810.08345.
13. Гольдберг, А. В .; Хартлайн, Дж. Д. (2001). «Конкурсные аукционы по продаже множества цифровых товаров». Алгоритмы - ESA 2001. Конспект лекций по информатике. 2161. п. 416. CiteSeerX  10.1.1.8.5115. Дои:10.1007/3-540-44676-1_35. ISBN  978-3-540-42493-2.; лемма 6.1
14. См. Графики: оценка как функция р когда k изменения и оценка как функция k когда р изменения.
15. См. Доказательство выше

дальнейшее чтение

• Чернов, Х. (1952). «Мера асимптотической эффективности для проверки гипотезы на основе суммы наблюдений». Анналы математической статистики. 23 (4): 493–507. Дои:10.1214 / aoms / 1177729330. JSTOR  2236576. МИСТЕР  0057518. Zbl  0048.11804.
• Чернов, Х. (1981). «Замечание о неравенстве, связанном с нормальным распределением». Анналы вероятности. 9 (3): 533–535. Дои:10.1214 / aop / 1176994428. JSTOR  2243541. МИСТЕР  0614640. Zbl  0457.60014.
• Hagerup, T .; Руб, К. (1990). "Экскурсия по границам Чернова". Письма об обработке информации. 33 (6): 305. Дои:10.1016 / 0020-0190 (90) 90214-И.
• Нильсен, Ф. (2011). "Информация Чернова экспоненциальных семейств". arXiv:1102.2684 [cs.IT ].