Optimización, Machine Learning, Ensambles y Simulación

0.0(0)
Studied by 0 people
call kaiCall Kai
learnLearn
examPractice Test
spaced repetitionSpaced Repetition
heart puzzleMatch
flashcardsFlashcards
GameKnowt Play
Card Sorting

1/30

flashcard set

Earn XP

Description and Tags

Flashcards completas para el repaso de optimización (método del gradiente), soporte de vectores (SVM), redes neuronales, ensambles (Bagging, Random Forest, AdaBoost) y simulación de eventos discretos.

31 Terms

1
New cards

¿Cómo se define la convexidad y la concavidad de una función en un punto a partir de su segunda derivada?

Una función es convexa en un punto si su segunda derivada es positiva, y es cóncava si su segunda derivada es negativa.

2
New cards

¿Cuáles son los cuatro pasos del principio general iterativo para la búsqueda del óptimo?

  1. Punto Inicial: escoger un punto de partida inicial en Rn\mathbb{R}^n.
  2. Dirección: determinar una dirección de movimiento óptima.
  3. Actualización: moverse en esa dirección bajo un criterio para hallar un nuevo punto.
  4. Parada: verificar el criterio de parada; si no se cumple, repetir desde el paso 2.
3
New cards

¿Cuál es la fórmula de actualización de un nuevo punto en el método del gradiente descendente?

xk+1=xk−α∇f(xk)x_{k+1} = x_k - \alpha \nabla f(x_k), donde xkx_k es el punto anterior, α\alpha es el tamaño del paso (learning rate) y ∇f(xk)\nabla f(x_k) es el vector gradiente.

4
New cards

Si el gradiente de una función es ∇f=(ab)\nabla f = \begin{pmatrix} a \\ b \end{pmatrix}, ¿cuál es la dirección de máximo descenso?

La dirección de máximo descenso es el negativo del vector gradiente: (−a−b)\begin{pmatrix} -a \\ -b \end{pmatrix}.

5
New cards

¿Qué posibles puntos puede indicar un gradiente igual a 00 en optimización?

Puede indicar un mínimo local, un máximo local o un punto silla. El método de gradiente descendente no siempre encuentra el mínimo global, pues depende del punto inicial y del comportamiento de la función.

6
New cards

¿Cuáles son ejemplos de criterios de parada en el método del gradiente?

Gradiente muy pequeño, cambio en la función objetivo muy pequeño, cambio en las variables muy pequeño o haber alcanzado el número máximo de iteraciones.

7
New cards

¿Cómo clasifica una Máquina de Vectores de Soporte (SVM) y cuál es su frontera de decisión?

Calcula f(x)=wTx+bf(x) = w^T x + b y clasifica según el signo: y^=+1\hat{y} = +1 si f(x)>0f(x) > 0, y y^=−1\hat{y} = -1 si f(x)<0f(x) < 0. La frontera de decisión es el hiperplano donde wTx+b=0w^T x + b = 0.

8
New cards

¿Cómo se define el margen geométrico en SVM y cómo se formula su problema de optimización para restricciones duras?

El margen es 2∥w∥\frac{2}{\|w\|}. Maximizar el margen equivale matemáticamente a minimizar 12∥w∥2\frac{1}{2}\|w\|^2, sujeto a yi(wTxi+b)≥1y_i(w^T x_i + b) \ge 1 para i=1,…,Ni = 1, \dots, N.

9
New cards

¿Qué papel cumplen las variables de holgura ξi\xi_i y el parámetro CC en una SVM de margen suave?

Las variables ξi\xi_i miden cuánto se viola la condición ideal del margen (ξi=0\xi_i = 0: bien clasificado; 0<ξi≤10 < \xi_i \le 1: violación del margen; ξi>1\xi_i > 1: mal clasificado). El parámetro CC penaliza los errores: un CC pequeño permite ignorar restricciones (margen amplio), un CC grande dificulta ignorarlas (margen estrecho) y C=∞C = \infty impone un margen duro.

10
New cards
<p>¿Qué efecto produce variar el parámetro $$s^2$$ en el Kernel Gaussiano (RBF) según la figura?</p>

¿Qué efecto produce variar el parámetro s2s^2 en el Kernel Gaussiano (RBF) según la figura?

Un s2s^2 grande hace que la distancia entre puntos importe menos, produciendo una influencia más amplia y una frontera más suave. Un s2s^2 pequeño hace que la distancia importe más, creando una zona de influencia reducida con una frontera más flexible y compleja, lo cual puede provocar overfitting.

11
New cards

¿Cuál es la diferencia entre los esquemas multiclase One-Versus-One y One-Versus-All en SVM?

En One-Versus-One se generan (K2)\binom{K}{2} clasificadores y la predicción final es la clase más votada por frecuencia. En One-Versus-All se generan KK clasificadores (uno por clase contra las demás) y se selecciona la clase con el mayor valor de wTx+bw^T x + b (mayor confianza).

12
New cards

¿Cuáles son las diferencias entre aprendizaje supervisado, no supervisado y por refuerzo?

El supervisado usa datos con etiquetas para predecir (ej. clasificar pacientes); el no supervisado trabaja con datos sin etiquetas para descubrir patrones o agrupaciones (ej. segmentar clientes); y el aprendizaje por refuerzo optimiza decisiones a través de recompensas (ej. juegos, robótica).

13
New cards

¿Qué representa el sesgo (bias) en una neurona y cuál es su función geométrica?

Representado por bb o w0w_0, es un peso multiplicado por una entrada fija igual a 11. Desplaza la suma ponderada permitiendo que la frontera de decisión se traslade en el espacio en lugar de estar obligada a pasar por el origen.

14
New cards

¿Por qué una sola neurona simple no puede resolver la compuerta lógica XOR?

Porque la compuerta XOR es un problema linealmente no separable; sus clases no pueden dividirse con una sola frontera lineal, requiriendo una o más capas ocultas.

15
New cards

¿Cuál es la fórmula matemática y la derivada de la función de activación Sigmoide?

Su fórmula es g(z)=11+e−zg(z) = \frac{1}{1 + e^{-z}} y su derivada es g′(z)=g(z)(1−g(z))g'(z) = g(z)(1 - g(z)). Mapea entradas a un rango entre 00 y 11.

16
New cards

¿Cómo operan las funciones de activación ReLU y Softmax?

ReLU se define como g(z)=max⁡(0,z)g(z) = \max(0, z); devuelve 00 si z<0z < 0 y el mismo zz si z≥0z \ge 0. Softmax calcula Pi=ezi∑j=1KezjP_i = \frac{e^{z_i}}{\sum_{j=1}^K e^{z_j}}, transformando un conjunto de valores en probabilidades que suman 11 para clasificación multiclase.

17
New cards

¿Cuáles son las diferencias clave entre la función Sigmoidal y la función Softmax?

Sigmoidal se usa en clasificación binaria (normalmente 11 salida entre 00 y 11, decidida por umbral como 0.50.5) y sus probabilidades son independientes. Softmax se usa en multiclase mutuamente excluyente (11 salida por clase, todas entre 00 y 11, suman exactamente 11) y aumentar la probabilidad de una clase reduce la de las demás.

18
New cards

¿Qué función de pérdida (loss function) se utiliza habitualmente según el tipo de problema?

Para regresión se usa el Error Cuadrático Medio (MSE); para clasificación binaria se usa Entropía Cruzada Binaria (BCE); y para clasificación multiclase se usa Entropía Cruzada Categórica.

19
New cards

¿Cuál es la distinción técnica entre muestra, batch, iteración y epoch?

Muestra: una observación individual del dataset. Batch (lote): grupo de muestras procesadas juntas. Iteración: un paso de cálculo de gradiente y actualización de parámetros. Epoch: una pasada completa por la totalidad de los datos de entrenamiento.

20
New cards

¿Qué mecanismos emplean los optimizadores Momentum, Nesterov, RMSprop y Adam?

Momentum acumula gradientes anteriores para dar inercia y acelerar la convergencia; Nesterov evalúa el gradiente en una posición adelantada para corregir el paso; RMSprop adapta el tamaño del paso según la magnitud reciente de los gradientes; y Adam combina las ideas de momentum y escalamiento adaptativo.

21
New cards

¿Qué acciones se recomiendan para reducir el sesgo (bias) alto versus la varianza (variance) alta?

Para reducir bias alto: usar una red más grande (más capas o neuronas), entrenar más epochs, usar mejores algoritmos de optimización o cambiar de arquitectura. Para reducir variance alta: conseguir más datos, aplicar regularización (Dropout, L2L_2, etc.) o cambiar de arquitectura.

22
New cards

¿Cuál es la principal ventaja y la principal desventaja del aprendizaje con ensambles?

La principal ventaja es una mayor precisión predictiva, menor error y menor overfitting (al reducir el sesgo o la varianza). La desventaja es la pérdida de explicabilidad, ya que resulta difícil interpretar el conjunto consolidado de modelos.

23
New cards
<p>¿Qué diferencias de diseño presentan los esquemas de Bagging y Boosting según el diagrama?</p>

¿Qué diferencias de diseño presentan los esquemas de Bagging y Boosting según el diagrama?

Bagging entrena modelos independientes en paralelo utilizando muestras de los datos para reducir varianza. Boosting entrena modelos de manera secuencial, donde cada modelo posterior se enfoca en corregir los errores o residuos generados por el modelo previo.

24
New cards

¿Por qué Random Forest suele superar a Bagging convencional?

Porque Random Forest introduce aleatoriedad seleccionando un subconjunto aleatorio de variables en cada nodo. Al evitar que todos los árboles elijan siempre las mismas variables, genera árboles con estructuras diferentes y errores descorrelacionados.

25
New cards

¿Qué representan los parámetros de sincronización BB, λ\lambda y dd en Boosting?

BB es la cantidad de árboles (aumentarlo eleva el riesgo de sobreajuste); λ\lambda es el parámetro de contracción o velocidad de aprendizaje (entre más bajo, más árboles se requieren); y dd es el número de divisiones (splits) de cada árbol (normalmente d=1d = 1 para formar árboles pequeños o 'stumps').

26
New cards

¿Cómo se define y calcula el índice de impureza de Gini para un nodo con proporciones pkp_k?

Gini=1−∑k=1Kpk2\text{Gini} = 1 - \sum_{k=1}^K p_k^2. Vale 00 si todas las observaciones pertenecen a la misma clase (nodo puro) y toma valores altos cuando existe mayor mezcla de clases.

27
New cards

¿Cómo se calculan el peso del árbol α\alpha y la actualización de pesos de las observaciones en AdaBoost?

El peso del árbol es α=12ln⁡(1−ErrorError)\alpha = \frac{1}{2} \ln\left(\frac{1 - \text{Error}}{\text{Error}}\right). Los pesos de las observaciones se actualizan como wnuevo=wactual×e+αw_{\text{nuevo}} = w_{\text{actual}} \times e^{+\alpha} si se clasificó mal (aumenta importancia), o wnuevo=wactual×e−αw_{\text{nuevo}} = w_{\text{actual}} \times e^{-\alpha} si se clasificó bien (disminuye importancia), normalizándose luego para que sumen 11.

28
New cards

¿Cuál es la diferencia entre 'Actividad' y 'Demora' dentro del modelado de sistemas de simulación?

Una actividad es una espera incondicional cuya duración se conoce desde el momento en que comienza (ej. el tiempo de una operación de servicio). Una demora es una espera condicional cuya duración solo se conoce cuando termina (ej. el tiempo de espera en cola).

29
New cards

¿Cuál es la diferencia conceptual entre Verificación y Validación en simulación?

Verificación responde a '¿Construimos bien el modelo?' (revisa lógica, software y ausencia de errores de programación). Validación responde a '¿Construimos el modelo correcto?' (comprueba que el modelo represente adecuadamente el sistema real contrastándolo con datos reales).

30
New cards

¿Cómo opera la simulación síncrona frente a la simulación asíncrona en eventos discretos?

La simulación síncrona avanza el reloj en intervalos fijos Δt\Delta t actualizando el sistema en cada paso. La simulación asíncrona salta el reloj directamente al instante del próximo suceso programado en la lista de eventos.

31
New cards

¿Qué establece la Ley de Little y cómo se calcula el número promedio de entidades en el sistema (LL)?

Establece que L=λ×WL = \lambda \times W, donde LL es el número promedio de partes en el sistema, λ\lambda es la tasa media de llegadas y WW es el tiempo promedio que una entidad pasa en el sistema.