Кластерный анализ. Иерархическая кластеризация. Метод k-средних.

• Тема видео: многомерная классификация, разделённая на две части.  

• Кластерный анализ: разделение множества объектов на однородные группы.  

• Примеры объектов: страны, предприятия, люди и т.д.  

• Классификация помогает понять и исследовать группы объектов.  

• Объекты характеризуются набором свойств, называемых признаками или атрибутами.  

• Цель: понять особенности групп, прогнозировать поведение и классифицировать новые объекты.  

• Экономика: сегментация потребителей.  

• Производство: выявление производственных ситуаций с браком.  

• Медицина: классификация симптомов и пациентов.  

• Социология: разбиение респондентов на группы.  

• Банковское дело: разделение заемщиков на благонадежных и неблагонадежных.  

• Быт: классификация автомобилей перед покупкой.  

• Работа с изображениями: сегментация и сжатие.  

• Классификация без обучения: кластерный анализ.  

• Классификация с обучением: дискриминантный анализ.  

• Программные продукты: Excel, Statistica, SPSS, R.  

• Введение в кластерный анализ: расстояние между объектами и кластерами.  

• Евклидово расстояние: формула и реализация в Excel.  

• Манхэттенское расстояние: формула и особенности.  

• Квадрат евклидова расстояния: формула и особенности.  

• Расстояние Чебышева: формула и особенности.  

• Центроидный метод: расчет расстояния между центроидами кластеров.  

• Метод ближайшего соседа: нахождение ближайших точек и измерение расстояния между ними.  

• Матрица расстояний: определение ближайшего соседа.  

• Расстояние ближайшего соседа формирует цепочечные кластеры.  

• Расстояние дальнего соседа формирует шаровидные кластеры.  

• Метод средней связи формирует эллипсоидные кластеры.  

• Выбор метода зависит от предположений о форме кластеров.  

• Важно быть осторожным, чтобы не навязывать данные структуру.  

• Универсальные методы, такие как попарное среднее, подходят для различных типов кластеров.  

• Стандартизация данных необходима для уравнивания разброса значений.  

• Центрирование и нормирование: вычитание среднего и деление на стандартное отклонение.  

• Разброс от нуля до единицы: вычитание минимального значения и деление на максимальное.  

• Метод объединяет ближайшие кластеры на каждом шаге.  

• Пример с семью объектами и двумя показателями.  

• Использование центроидного метода для измерения расстояний.  

• Определение матрицы расстояний и объединение ближайших объектов.  

• Вычисление координат центроиды для каждого кластера.  

• Процедура повторяется до слияния всех объектов в один большой кластер.  

• Объяснение процедуры слияния в виде древовидной диаграммы.  

• Горизонтальная ось показывает расстояния, вертикальная ось - номера объектов.  

• Объяснение объединения объектов на разных шагах.  

• Объяснение процесса слияния кластеров.  

• Наглядное представление процесса слияния объектов.  

• Пример использования специализированных программ для построения древовидных диаграмм.  

• Метод локтя для определения оптимального количества кластеров.  

• График зависимости числа кластеров от расстояния объединения.  

• Пример с тремя кластерами и их характеристиками.  

• Наглядность и точность результатов.  

• Проблемы с производительностью при большом количестве объектов.  

• Переход к методу k-средних для кластеризации.  

• Назначение количества кластеров k.  

• Выбор центроидов и распределение точек по кластерам.  

• Геометрическая интерпретация разбиения точек на кластеры.  

• Расчет величины C для оценки качества разбиения.  

• Обновление координат центроидов и повторное распределение точек.  

• Итоговая картина разбиения на три кластера.  

• Оценка качества разбиения по величине суммы квадратов расстояний до ближайшего кластера.  

• Оптимальное значение составляет 55, что указывает на лучшее разбиение при выбранном методе кластеризации.  

• Метод k-средних прост в вычислительной реализации и не требует хранения матрицы расстояний.  

• Высокая скорость работы и низкое потребление памяти по сравнению с агломеративной процедурой.  

• Чувствительность к выбросам: выбросы могут привести к тому, что одна точка будет представлять весь кластер.  

• Влияние начального выбора центроидов на результат кластерного анализа.  

• Центроиды выбираются произвольно и затем перемещаются, захватывая точки.  

• Изменение расположения центроидов может изменить результат кластерного анализа.  

• Рассмотрены основы кластерного анализа, определение расстояний и стандартизация данных.  

• Описаны иерархическая агломеративная процедура и метод k-средних k-means.