Локтевой метод (кластеризация) - Elbow method (clustering) - Wikipedia

Объясненное отклонение. «Локоть» обозначен красным кружком. Таким образом, количество выбранных кластеров должно быть 4.

В кластерный анализ, то локтевой метод это эвристический используется в определение количества кластеров в наборе данных. Метод состоит в построении графика объяснил вариацию в зависимости от количества кластеров, и выбор изгиб кривой как количество используемых кластеров. Тот же метод можно использовать для выбора количества параметров в других моделях, управляемых данными, таких как количество основные компоненты для описания набора данных.

Этот метод можно проследить до предположений Роберт Л. Торндайк в 1953 г.[1]

Интуиция

Используя "локоть" или "колено кривой "в качестве точки отсечки - обычная эвристика в математическая оптимизация выбрать точку, где убывающая отдача больше не стоят дополнительных затрат. В кластеризации это означает, что нужно выбрать такое количество кластеров, чтобы добавление еще одного кластера не дало лучшего моделирования данных.

Интуиция заключается в том, что увеличение количества кластеров естественным образом улучшит соответствие (объяснит большее количество вариаций), поскольку есть больше параметров (больше кластеров) для использования, но в какой-то момент это переоснащение, и локоть отражает это. Например, учитывая данные, которые фактически состоят из k помеченные группы - например, k точки с шумом - кластеризация с более чем k кластеры будут «объяснять» большую часть вариации (поскольку он может использовать меньшие и более узкие кластеры), но это перебор, поскольку он разделяет помеченные группы на несколько кластеров. Идея состоит в том, что первые кластеры добавят много информации (объяснят множество вариаций), поскольку данные фактически состоят из такого количества групп (так что эти кластеры необходимы), но как только количество кластеров превысит фактическое количество групп в data добавленная информация резко упадет, потому что она просто разделяет фактические группы. Если предположить, что это произойдет, на графике объясненной вариации по сравнению с кластерами будет резкий изгиб: быстрый рост до k (недостаточно подогнанный области), а затем медленно увеличивается после k (область переоборудования).

На практике острого локтя может не быть, и как эвристический метод такой «локоть» не всегда можно однозначно идентифицировать.[2]

Меры вариации

Существуют различные меры "объяснил вариацию "используется в методе локтя. Чаще всеготион количественно оценивается ВариаNCE, а используемое соотношение - это отношение межгрупповой дисперсии к общей дисперсии. В качестве альтернативы можно использовать отношение дисперсии между группами к дисперсии внутри группы, что является односторонним. ANOVA F-тестовая статистика.[3]

Смотрите также

Рекомендации

  1. ^ Роберт Л. Торндайк (Декабрь 1953 г.). «Кто в семье?». Психометрика. 18 (4): 267–276. Дои:10.1007 / BF02289263.
  2. ^ См., Например, Кетчен младший, Дэвид Дж .; Шук, Кристофер Л. (1996). «Применение кластерного анализа в исследованиях стратегического управления: анализ и критика». Журнал стратегического управления. 17 (6): 441–458. Дои:10.1002 / (SICI) 1097-0266 (199606) 17: 6 <441 :: AID-SMJ819> 3.0.CO; 2-G.[мертвая ссылка ]
  3. ^ См., Например, рисунок 6 в