Análisis de Componentes Principales (PCA)

Flashcards de vocabulario sobre el Análisis de Componentes Principales (PCA), incluyendo conceptos de reducción de dimensionalidad, autovalores, varianza y criterios de selección.

Reducción de dimensionalidad

Proceso que busca simplificar conjuntos de datos complejos sin perder información relevante, mitigando dificultades como el coste computacional y la dificultad de visualización.

Variables redundantes

Variables que aportan la misma información que otras, como los ingresos promedios semanales frente a los mensuales en una empresa.

Selección de características

Enfoque para reducir dimensiones consistente en la eliminación de ciertas características dejando las otras sin modificar.

Extracción de características

Proceso de combinar o transformar variables ya existentes para crear otras nuevas, por ejemplo, calcular la carga física como $\text{minutos jugados} \times \text{sprints}$.

Análisis de componentes principales (PCA)

Técnica lineal de reducción de dimensionalidad que asume que la variabilidad es lo más relevante para describir los datos.

Varianza ($V[X]$)

Medida de la variación de una variable $X$ definida matemáticamente como $V[X] = (X - E[X])^2 = E[X^2] - (E[X])^2$, donde $E[X]$ es el valor esperado.

Autovector de la matriz de covarianza

Dirección matemática que maximiza la varianza de los datos en el proceso de proyección de PCA.

Matriz de covarianza ($C_X$)

Matriz utilizada en PCA calculada como $C_X = \frac{1}{d} X^t X$, asumiendo que el valor medio de los datos es $0$.

Estandarización de datos

Procedimiento necesario en PCA para sustraer el efecto de las distintas escalas dividiendo cada dimensión por su desviación estándar.

Traza de una matriz

Suma de los elementos de la diagonal de una matriz que es invariante bajo cambios de base; en PCA, la suma de los autovalores es igual a la suma de las varianzas de las variables originales.

Varianza retenida

Razón entre un autovalor y la traza de la matriz, representada por $\frac{\lambda_i}{\sum_{j=1}^d \lambda_j}$, que indica cuánta información original mantiene la nueva variable.

Método del codo

Método visual donde se grafican los autovalores de mayor a menor; el punto donde la curva se vuelve plana indica el número óptimo de componentes.

Varianza explicada acumulada

Criterio de selección que mantiene componentes hasta alcanzar una suma de varianza de corte, usualmente entre $0.7$ y $0.9$.

Criterio de Kaiser

Consiste en seleccionar aquellas componentes principales que tienen un autovalor superior a $1$, pues contienen más varianza que una variable original.

Efecto de ruido

Factor que PCA intenta mitigar al quedarse con la mayor varianza, asumiendo que el efecto del ruido es menor que el de la variable.