Вектор релевантности - Relevance vector machine

Часть серии по
Машинное обучение
и
сбор данных

В математика, а Вектор релевантности (RVM) это машинное обучение техника, которая использует Байесовский вывод чтобы получить скупой решения для регресс и вероятностная классификация.[1]RVM имеет идентичную функциональную форму с Машина опорных векторов, но дает вероятностную классификацию.

Фактически это эквивалентно Гауссовский процесс модель с ковариационная функция:

куда это функция ядра (обычно гауссовский), - дисперсии априорного вектора весов, и являются входными векторами Обучающий набор.[2]

По сравнению с опорные векторные машины (SVM) байесовская формулировка RVM позволяет избежать набора свободных параметров SVM (которые обычно требуют пост-оптимизации на основе перекрестной проверки). Однако RVM используют максимизация ожидания (EM) -подобный метод обучения и поэтому подвержены риску локальных минимумов. Это не похоже на стандарт последовательная минимальная оптимизация (SMO) алгоритмы, используемые SVM, гарантирующие нахождение глобального оптимума (выпуклой задачи).

Машина векторов релевантности запатентовано в США к Microsoft (срок действия патента истек 4 сентября 2019 г.).[3]

Смотрите также

Рекомендации

  1. ^ Чаевые, Майкл Э. (2001). «Редкое байесовское обучение и вектор релевантности». Журнал исследований в области машинного обучения. 1: 211–244.
  2. ^ Кандела, Хоакин Киньонеро (2004). «Разреженные вероятностные линейные модели и RVM». Обучение с неопределенностью - гауссовские процессы и машины векторов релевантности (PDF) (Кандидат наук.). Технический университет Дании. Получено 22 апреля, 2016.
  3. ^ США 6633857, Майкл Э. Типпинг, "Векторная машина релевантности" 

Программного обеспечения

внешняя ссылка