Кластеризация в Python (KMeans и иерархическая)

Sdílet
Vložit
  • čas přidán 28. 06. 2020
  • В данном примере рассмотрены подходы к кластеризации методами KMeans и иерархической кластеризации. Использовался Python и блокноты Jupyter. Пример можно использовать как шаблон для решения практических задач. Исходных код примера можно найти по ссылке github.com/aikula/DataDriven/...

Komentáře • 28

  • @user-yl1ub2dr2g
    @user-yl1ub2dr2g Před 6 měsíci

    Очень хорошее видео и прекрасный блокнот. Для меня как новичка были очень полезны ваши комментарии про нормировку. Было очень полезно посмотреть на графики падения расстояния и дендрограммы.

  • @greteost4706
    @greteost4706 Před 3 lety +6

    Андрей, спасибо вам за ваш труд, вы прекрасны! Мне очень нравятся ваши подача материала и дикция :)

  • @Dmitrykholodov
    @Dmitrykholodov Před 3 lety +1

    Спасибо Вам большое! Материал просто ну очень полезный. Вы нас очень выручаете

  • @igtijd1039
    @igtijd1039 Před 2 lety

    Спасибо вам за такой подробный, качественный, полноценный кластерный анализ. Очень помогли в написании проекта.

  • @user-uy2gz9vi9x
    @user-uy2gz9vi9x Před 2 lety

    Вы просто супер, спасибо большое!

  • @user-nw9dx4fj9s
    @user-nw9dx4fj9s Před 3 lety +2

    автор немного оговорился, 50% процентиль (медиана) в описательной статистике которую выдает метод describe() показывает наиболее вероятное количество обзоров лишь в том случает, если это нормальное распределение, ну это так, по сути больше придирка, я сам вчера только узнал, вот и выпендрился для закрепления инфы =) А подача очень доступная, лайк!

    • @aikula999
      @aikula999  Před 3 lety +2

      Не оговорился. :-) Медиана в любом распределении - это линия, выше и ниже которой (условно) по 50% значений. А вот среднее значение (mean) действительно не равно медиане в смещенных распределениях. Надо пересмотреть, конечно, возможно, я оговорился имя в виду моду (наиболее часто встречаемое значение) - тогда да, она будет также совпадать с медианной и средний только в нормальном (или треугольном) распределении.
      Спасибо за отзыв! Ценно!

  • @user-jb2nn3on2d
    @user-jb2nn3on2d Před 3 lety +1

    Андрей спасибо за видео! Посоветуйте пожалуйста методы визуализации данных средствами Python в многомерном пространстве.

    • @user-dl1ch7dt9p
      @user-dl1ch7dt9p Před 3 lety +1

      pyplot.hist2d - отображает гистограмму в трёх осях - xy, а цветом z

    • @user-jb2nn3on2d
      @user-jb2nn3on2d Před 3 lety

      @@user-dl1ch7dt9p спасибо

  • @kirillbelyi6459
    @kirillbelyi6459 Před 3 lety

    Здравствуйте, подскажите пожалуйста как действовать, если необходимо произвести кластерный анализ и разделение на кластеры, при этом необходимо учитывать более 2-3 столбцов в качестве атрибутов объекта(большой размерности). Спасибо

    • @aikula999
      @aikula999  Před 3 lety

      Если достаточно памяти и вычислительных ресурсов - то точно так же. Как вариант, можно использовать сжатие признаков методом главных компонент pca или все таки выделить только наиболее значимые признаки.

  • @Poluna510
    @Poluna510 Před 3 lety

    Здравствуйте, Андрей! можете подсказать, импортирую csv файл в юпитер, но датафрейм не красивый) получается. Съезжают столбцы, между названиями столбцов появляются ; как это можно исправить. Спасибо

    • @aikula999
      @aikula999  Před 3 lety

      Елена, скорее всего, это ошибки самого файла. Не везде, например, стоят разделители. Возможно, есть также пустые строки в заголовке. В этом случае, надо или удалить, или указать на их наличие при импорте.

  • @maestrox8
    @maestrox8 Před 3 lety

    Здравствуйте, не подскажете как средствами python проверить кластеризацию функционалом качества например через формулу Сумма средних внутрикластерных расстояний стремится к минимуму?

    • @aikula999
      @aikula999  Před 3 lety

      Здравствуйте, такой метод оценки называется методом "Силуэта". Например, описание и пример habr.com/ru/company/jetinfosystems/blog/467745/

    • @maestrox8
      @maestrox8 Před 3 lety

      @@aikula999 огромное спасибо вам!

  • @user-si5lj4kd2e
    @user-si5lj4kd2e Před 3 lety

    Добрый вечер. Подскажите пожалуйста, занимаетесь ли вы репетиторством по теме анализа данных. Или может быть есть курсы.

    • @aikula999
      @aikula999  Před 3 lety

      Анна, к сожалению, не занимаюсь. Курсов большой выбор. Например, praktikum.yandex.ru или geekbrains.ru

    • @user-si5lj4kd2e
      @user-si5lj4kd2e Před 3 lety

      @@aikula999 спасибо

  • @romanomacroni4903
    @romanomacroni4903 Před 2 lety

    Скажите а если в датасэте есть числа с минусом. Их нормализация проходит по том же принципе.

    • @aikula999
      @aikula999  Před 2 lety +1

      Да, абсолютно также.

  • @romanomacroni4903
    @romanomacroni4903 Před 2 lety +1

    А почему сума cluster size больше чем елементов в датафрейме. Заранее спасибо за ответ.

    • @aikula999
      @aikula999  Před 2 lety +1

      Посмотрел блокнот. Не нашел такого. Можете более детально описать в какой части кода встретили такое? Естественно, что сумма размеров кластеров не может быть больше количества элементов в выборке.

    • @romanomacroni4903
      @romanomacroni4903 Před 2 lety

      @@aikula999 Спасибо уже разобрался

  • @annchebb
    @annchebb Před rokem

    Добрый день, Андрей! Можно ли к Вам обратиться для выполнения кластеризации? Массив данных предоставлю

    • @aikula999
      @aikula999  Před rokem

      Добрый день, Анна! Да, можно. Напишите в телеграмме. Мой ник @aikula