Scribd Logo
Cargar

¡Te damos la bienvenida a Scribd!

  • 25 vistas

    Dia5 IntroML

    Cargado por

    jesus_larrazabal_salas
    El documento resume la agenda del día 5 del curso, que incluye una discusión sobre clusterización y métodos de ensamble. La agenda incluye una sección sobre clusterización no supervisada utilizando el algoritmo k-medias y una práctica aplicando k-medias a datos económicos. También cubre conceptos básicos de métodos de ensamble como bagging, boosting y stacking. El día concluye con una rifa de libros.

    Copyright:

    © All Rights Reserved
    Descargue como PDF, TXT o lea en línea desde Scribd

    Dia5 IntroML

    Cargado por

    jesus_larrazabal_salas
    25 vistas30 páginas
    El documento resume la agenda del día 5 del curso, que incluye una discusión sobre clusterización y métodos de ensamble. La agenda incluye una sección sobre clusterización no supervisada utilizando el algoritmo k-medias y una práctica aplicando k-medias a datos económicos. También cubre conceptos básicos de métodos de ensamble como bagging, boosting y stacking. El día concluye con una rifa de libros.

    Descripción original:

    lknlñknlkn

    Título original

    Dia5_IntroML

    Derechos de autor

    © © All Rights Reserved

    Formatos disponibles

    PDF, TXT o lea en línea desde Scribd

    ¿Le pareció útil este documento?

    ¿Este contenido es inapropiado?

    El documento resume la agenda del día 5 del curso, que incluye una discusión sobre clusterización y métodos de ensamble. La agenda incluye una sección sobre clusterización no supervisada utilizando el algoritmo k-medias y una práctica aplicando k-medias a datos económicos. También cubre conceptos básicos de métodos de ensamble como bagging, boosting y stacking. El día concluye con una rifa de libros.

    Copyright:

    © All Rights Reserved
    Descargue como PDF, TXT o lea en línea desde Scribd
    Descargar como pdf o txt
    25 vistas30 páginas

    Dia5 IntroML

    Cargado por

    jesus_larrazabal_salas
    El documento resume la agenda del día 5 del curso, que incluye una discusión sobre clusterización y métodos de ensamble. La agenda incluye una sección sobre clusterización no supervisada utilizando el algoritmo k-medias y una práctica aplicando k-medias a datos económicos. También cubre conceptos básicos de métodos de ensamble como bagging, boosting y stacking. El día concluye con una rifa de libros.

    Copyright:

    © All Rights Reserved
    Descargue como PDF, TXT o lea en línea desde Scribd
    Descargar como pdf o txt
    de 30

    Día 5 - 19/11/21 (Viernes)

    Clusterización y
    Métodos de ensamble

    Lic. Ronaldo Armando Canizales Turcios


    Agenda Día 5

    Bloque A

    ● Aprendizaje no supervisado: Bloque B


    clusterización.
    ● Agrupación no supervisada de ● Aplicando clusterización
    perfiles económicos: k-medias. mediante k-medias. [Práctica]

    ● Clusterización utilizando ● Métodos de ensamble:


    datos generados en tiempo real. modelos y conceptos.
    ● Cierre del curso: concurso (rifa
    de libros) y siguientes pasos.
    Clusterización
    01 Intro. al aprendizaje no supervisado (continuación)
    Clusterización
    Pertenece al aprendizaje no supervisado, es una técnica que nos permite
    descubrir estructuras ocultas en los datos.

    Ambos algoritmos (reducción de la dimensionalidad y clusterización)


    permiten resumir nuestros datos.

    ● PCA comprime nuestros datos mediante la representación de ellos en


    nuevas (y menor cantidad) de características, mientras que
    simultáneamente captura la mayor cantidad de información relevante.
    ● De forma similar, la clusterización, es una forma de reducir el volumen
    de datos y encontrar patrones. Lo logra mediante la categorización de
    la data, no mediante la creación de nuevas variables.
    Clusterización
    El objetivo de la clusterización es encontrar una forma natural de agrupar nuestros
    datos, de tal manera que los datos que pertenecen a un subgrupo (llamado clúster)
    son más similares entre sí que con los datos de los demás subgrupos.

    Es un algoritmo no supervisado, ya que


    no se sabe de antemano cuántos subgrupos
    (clústers) se formarán, ni cuántos datos
    pertenecerán a cada uno de ellos.

    También permite la categorización automática


    de nuevos datos mediante la regla que ha
    aprendido.
    Algoritmo de k-medias
    El objetivo es encontrar k centroides y asignar uno de ellos a cada registro, de tal forma
    que se minimice la varianza intra-clúster (llamada inercia).

    Usualmente se utiliza la distancia Euclidiana (distancia entre dos puntos), pero es posible
    ocupar otras métricas.

    K-medias se encarga de encontrar un mínimo para una “k” dada, se procede de la


    siguiente manera:

    1. Se elige una cantidad de clústers.


    2. Algunos puntos se eligen aleatoriamente como los centroides de los clústers.
    3. Cada dato se asigna al clúster de cuyo centro esté más cercano.
    4. El centroide del clúster se actualiza con la media de los puntos asignados a él.
    5. Los pasos 3 al 4 se repiten hasta que todos los centroides se mantengan sin
    cambios.
    Hiperparámetros de k-medias
    Cantidad de clústers

    ● Clústers (y centroides) a generar.

    Cantidad máxima de iteraciones

    ● Para una ejecución del algoritmo.

    “Número inicial”

    ● Cantidad de veces que el algoritmo se ejecutará, utilizando diferentes semillas


    para la generación de los centroides. El resultado final será el que mejor
    rendimiento haya tenido (en términos de la inercia).
    ● En la librería sklearn, el algoritmo se ejecuta al menos 10 veces, con diferentes
    valores iniciales.
    Características de k-medias
    Ventajas

    ● Su principal ventaja radica en su simplicidad, su amplio rango de


    aplicabilidad, rápida velocidad de convergencia y su escalabilidad
    para conjuntos grandes de datos.

    Desventajas

    ● Falta de garantía para encontrar el mínimo


    global (sin tener que ejecutar el algoritmo
    una considerable cantidad de veces).
    ● Puede ser sensible a valores atípicos.
    Clusterización
    02 Utilizando datos generados en tiempo real
    Agrupación
    no supervisada
    03 Aplicación de k-medias: perfiles económicos
    El objetivo del ejercicio es
    clusterizar individuos
    Crear subconjuntos de personas
    similares entre ellas y diferentes
    a las personas de otros grupos

    Con cada clúster, se podrán crear


    de forma personalizadas:
    ● Estrategias de negocios.
    ● Campañas de publicidad.
    ● Descuentos, planes, etc.
    Existen 12 variables. Ojo: no hay una “variable objetivo”,
    pues se trata de un algoritmo no supervisado.
    La decisión
    dependerá
    de los datos…
    ¡o del negocio!
    Visualizando cada centroide (clúster)
    ¿Con cuál te identificas?
    Aplicando k-medias
    04 ¡Manos a la obra: clusterización! [Práctica]
    Métodos de ensamble
    05 Modelos y conceptos
    Idea
    intuitiva
    Supongamos que tenemos una moneda ligeramente sesgada que tiene un 51% de
    posibilidades de salir cara y un 49% de probabilidad de salir cruz. Si la lanza 1.000 veces,
    generalmente obtendrá más o menos 510 caras y 490 cruz, y por tanto una mayoría de caras.

    Es posible calcular que la probabilidad de obtener una mayoría de caras después de 1.000
    lanzamientos es cercana al 75%. Cuanto más se lance la moneda, mayor será la probabilidad
    (por ejemplo con 10.000 lanzamientos, la probabilidad supera el 97%).

    Esto se debe a la ley de


    los grandes números: a
    medida que se lanza la
    moneda, la proporción de
    caras se acerca cada vez
    más a la probabilidad de
    salir cara (51%).
    Métodos de ensamble
    Del mismo modo, suponga que se construye un conjunto que contiene 1.000
    clasificadores que, individualmente, sólo aciertan el 51\% de las veces
    (apenas mejor que la adivinación aleatoria). Si predice la clase
    mayoritariamente votada, puede esperar una precisión de hasta el 75%.

    Sin embargo, esto sólo es cierto si todos los clasificadores son perfectamente
    independientes, cometiendo errores no correlacionados, lo que claramente
    no es el caso ya que están entrenados con los mismos datos. Es probable que
    cometan los mismos tipos de errores, por lo que habrá muchos votos
    mayoritarios para la clase equivocada, reduciendo la precisión del conjunto.
    ¡Muy
    bien!
    Tipos de métodos de
    ensamble más utilizados
    Utiliza el mismo algoritmo de
    entrenamiento para cada
    predictor, pero entrenarlos en
    diferentes subconjuntos
    aleatorios del conjunto de
    entrenamiento.
    Cuando el muestreo se realiza
    con reemplazo, este método se
    denomina bagging
    (abreviatura de bootstrap
    aggregating).

    Bagging
    Una vez entrenados todos los predictores, el conjunto puede hacer una
    predicción para una nueva instancia simplemente agregando las predicciones
    de todos los predictores.

    La función de agregación suele ser el modo estadístico (es decir, la predicción


    más frecuente, como un clasificador de voto duro) para la clasificación, o la
    media para la regresión. Cada predictor individual tiene un sesgo mayor que si
    se entrenara con el conjunto de entrenamiento original, pero la agregación
    reduce tanto el sesgo como la varianza. En general, el resultado neto tiene un
    sesgo similar pero una varianza menor que un predictor individual
    entrenado en el conjunto de entrenamiento original.
    Boosting
    El refuerzo (originalmente llamado
    refuerzo de hipótesis) se refiere a cualquier
    método de ensamble que pueda
    combinar varios aprendices débiles en un
    aprendiz fuerte.

    La idea general de la mayoría de los


    métodos de refuerzo es entrenar
    predictores de forma secuencial, cada uno
    de los cuales intenta corregir a su
    predecesor.

    Existen muchos métodos de boosting,


    pero los más populares son AdaBoost
    (abreviatura de Adaptive Boosting) y
    Gradient Boosting.
    Una forma de que un nuevo predictor
    corrija a su predecesor es prestar un
    poco más de atención a las instancias
    de entrenamiento que el predecesor
    infravaloró. Esto hace que los nuevos
    predictores se centren cada vez más en
    los casos difíciles. Esta es la técnica
    utilizada por Ada-Boost.

    Por ejemplo, para construir un clasificador AdaBoost, se entrena un primer clasificador


    base (como un árbol de decisión) y se utiliza para hacer predicciones sobre el conjunto
    de entrenamiento. A continuación, se aumenta el peso relativo de las instancias de
    entrenamiento mal clasificadas.

    Se entrena un segundo clasificador utilizando los pesos actualizados y, de nuevo, realiza


    predicciones sobre el conjunto de entrenamiento, se actualizan los pesos, y así
    sucesivamente.
    Otro algoritmo de Boosting muy popular es el Gradient
    Boosting. Al igual que AdaBoost, Gradient Boosting funciona
    añadiendo secuencialmente predictores a un conjunto, cada
    uno de los cuales corrige a su predecesor.

    Sin embargo, en lugar de ajustar los


    pesos de las instancias en cada
    iteración, como hace AdaBoost, este
    método intenta ajustar el nuevo
    predictor a los errores residuales
    cometidos por el predictor anterior.
    Stacking
    Stacking (abreviatura de stacked
    generalization). Se basa en una idea
    sencilla: en lugar de utilizar funciones
    triviales (como el voto duro) para
    agregar las predicciones de todos los
    predictores en un conjunto, ¿por qué
    no entrenamos un modelo para
    realizar esta agregación?

    La figura muestra un conjunto de


    este tipo realizando una tarea de
    regresión sobre una nueva instancia.
    Cierre del curso
    06 Rifa de libros: mini copa del conocimiento
    ¡Muchas gracias!
    Ha sido un honor y un
    gusto visitar Granada

    Espero volver a España algún día, Dios mediante

    También podría gustarte