Font size
WorksheetsCuestionario sobre IA y Ética
Total questions: 83
Worksheet time: 47mins
¿Qué es XAI?
Un tipo de modelo lineal
Técnicas para hacer la IA explicable y comprensible
Algoritmos para optimizar hiperparámetros
Un método de regularización
¿Qué significa interpretabilidad?
Que el modelo sea 100% preciso
Que un humano pueda entender por qué el modelo decide lo que decide
Que el modelo procese datos más rápido
Que el modelo sea lineal
¿Cuál de estos es un modelo altamente interpretable?
Redes neuronales profundas
Random Forest
Regresión logística
SVM con kernel
¿Qué caracteriza a un modelo con alta precisión pero baja interpretabilidad?
Es lineal
Tiene relaciones suaves
Se basa en interacciones complejas o no lineales
No requiere entrenamiento
LIME se utiliza para:
Explicaciones globales
Explicaciones locales
Normalización de datos
Entrenamiento de redes neuronales
SHAP se basa en:
Teoría de juegos
Series temporales
Regresión polinómica
Clustering jerárquico
PDP (Partial Dependence Plot) muestra:
La importancia global de las features
El efecto promedio de una variable sobre la predicción
La interacción entre tres variables
La matriz de confusión
¿Qué tipo de método es SHAP?
Específico de redes neuronales
Específico de regresión logística
Agnóstico al modelo
Solo válido para árboles
¿Qué significa “modelo agnóstico”?
Que no se entrena
Que no depende del tipo de modelo interno
Que es lineal
Que usa regularización L2
En Python, la librería estándar para ML es:
pandas
numpy
scikit-learn
keras únicamente
¿Qué ocurre en la fase de Pre-ciclo?
Entrenamiento del modelo
Concientización y análisis de riesgo
Evaluación de curvas ROC
Selección de hiperparámetros
El "premortem" sirve para:
Analizar errores después de implementado
Anticipar riesgos antes de construir la IA
Valorar hiperparámetros óptimos
Reducir el underfitting
¿En qué fase se entrenan modelos?
Uso
Operación
Diseño / Datos / Modelo
Verificación regulatoria
¿En qué fase se auditaba ética y trazabilidad?
Implementación
Diseño
Pre-ciclo
Uso final
¿En qué consiste la verificación y validación?
Evitar sesgos en la toma de datos
Probar el modelo con todos los actores involucrados
Crear dashboards
Implementar la API
¿Qué significa trazabilidad en IA?
El modelo entrena más rápido
Cada acción del sistema queda registrada
La IA usa datos trazados
Solo aplica a modelos lineales
¿Cuál de estas es una recomendación de UNESCO 2021?
Maximizar la precisión a cualquier costo
Promover IA centrada en el ciudadano y derechos humanos
Prohibir todos los modelos no interpretables
Usar exclusivamente modelos open source
El riesgo moral ocurre cuando:
El modelo tiene mala performance
Las personas cambian su comportamiento con incentivos perversos
Se entrena un modelo con pocos datos
El score no se actualiza
La explicabilidad en crédito es crucial porque:
Mejora la eficiencia computacional
Permite comprender por qué se acepta o rechaza un préstamo
Garantiza 100% de equidad
Reduce los plazos de pago
La falta de explicabilidad puede generar:
La falta de explicabilidad puede generar:
Menor velocidad
Riesgo ético y discriminación
Más precisión
Más datos
La IA aporta a los modelos crediticios:
Peor precisión
Mayor velocidad y análisis masivo de datos
Eliminación total del riesgo moral
Menos estabilidad
Un modelo de crédito responsable debe incluir:
Explicabilidad
Sesgo permitido
Criterios arbitrarios
Variables sensibles
AUC mide:
Errores absolutos
Separación entre clases
Varianza del modelo
Interpretabilidad
KS se usa principalmente en:
Segmentación
Modelos crediticios
Clustering
Redes neuronales convolucionales
El índice Gini es:
Una medida inversa de la precisión
Una transformación lineal del AUC
Una métrica para redes recurrentes
Un indicador de overfitting
La matriz de confusión permite ver:
Importancia de variables
Verdaderos positivos, falsos positivos, etc.
Correlación entre features
Longitud de las series
¿Cuál es un método para dividir train/test?
SMOTE
Grid Search
Train_test_split
StandardScaler
¿Qué modelo es inherentemente interpretable?
Random Forest
Deep Learning
Árboles de decisión simples
XGBoost
Los métodos post-hoc sirven para:
Modificar el modelo
Explicar un modelo ya entrenado
Eliminar variables
Hiperparametrizar modelos
La regresión logística es útil porque:
Es totalmente no interpretable
Permite obtener odds y coeficientes explicables
Es un modelo no supervisado
No sirve para crédito
SHAP summary plot muestra:
Solo la predicción individual
Efectos globales de cada variable
Solo valores totales
Solo interacciones de segundo orden
LIME funciona generando:
Modelos pequeños y lineales alrededor del punto a explicar
Redes neuronales simplificadas
Árboles profundos
Más datos sintéticos
¿Cuál es un ejemplo de sesgo en datos?
Valores faltantes
Datos históricos discriminatorios
Escalado incorrecto
Sobreajuste
¿Cuál NO es una forma ética de IA?
Transparencia
Explicabilidad
Equidad
Opacidad intencional
¿Qué rol cumple la explicabilidad en ética?
Permite auditar decisiones
Mejora la velocidad
Reduce costo computacional
Hace innecesario el consentimiento
En operación se realiza:
Entrenamiento del modelo
Monitoreo y detección de incidentes éticos
Normalización de datos
Hyperparameter tuning
El “control de usuarios internos” implica:
Que cualquiera puede usar la IA
Limitar accesos según roles
Aumentar el dataset
Eliminar auditorías
La reversibilidad implica:
Que el usuario puede pedir una vía no tecnológica
Que el modelo se entrena al revés
Que se borran logs automáticamente
Que se elimina la IA
En la fase de uso, un riesgo es:
Overfitting
Falta de responsabilidad ante daño
Problemas de sintaxis
Poca memoria RAM
Una IA responsable debe ser:
Precisa pero opaca
Explicable, justa, transparente y auditada
Exclusivamente basada en SHAP
Siempre lineal
¿Qué es
Una IA responsable debe ser:
Precisa pero opaca
Explicable, justa, transparente y auditada
Exclusivamente basada en SHAP
Siempre lineal
¿Qué es XAI?
Un tipo de modelo lineal
Técnicas para hacer la IA explicable y comprensible
Algoritmos para optimizar hiperparámetros
Un método de regularización
Interpretabilidad significa:
Que el modelo sea 100% preciso
Que un humano pueda entender la decisión
Que el modelo procese datos rápido
Que sea lineal
Modelo altamente interpretable:
Redes neuronales
Random Forest
Regresión logística
SVM con kernel
Modelo preciso pero poco interpretable:
Lineal
Suave
No lineal y complejo
Sin entrenamiento
LIME sirve para:
Explicaciones globales
Explicaciones locales
Normalizar datos
Entrenar redes
SHAP se basa en:
Teoría de juegos
Series temporales
Regresión polinómica
Clustering
PDP muestra:
Importancia
Efecto promedio de una variable
Interacciones
Matriz de confusión
SHAP es:
Específico para redes
Para regresión
Agnóstico al modelo
Solo para árboles
“Modelo agnóstico” significa:
Depende del tipo de modelo interno
No depende del tipo de modelo interno
Librería estándar ML Python:
TensorFlow
Keras
scikit-learn
PyTorch
En Pre-ciclo se hace:
Desarrollo de modelos
Concientización y análisis de riesgo
Entrenamiento de IA
Evaluación de resultados
Premortem:
Evaluar resultados después del proyecto
Anticipar riesgos antes del proyecto
Entrenamiento ocurre en:
Pre-ciclo
Implementación
Diseño/Datos/Modelo
Auditoría
Auditoría y trazabilidad:
Implementación
Diseño
Entrenamiento
Evaluación
Validación:
Probar el modelo con actores
Revisar resultados
Ajustar parámetros
Entrenar el modelo
Trazabilidad =
Registrar todas las acciones
Evaluar resultados
Ajustar parámetros
Entrenar el modelo
UNESCO promueve:
IA centrada en la eficiencia
IA centrada en derechos humanos
IA centrada en la rentabilidad
IA centrada en la velocidad
Riesgo moral:
Conducta cambia por incentivos
Falta de transparencia
Desinformación
Incertidumbre
Explicabilidad en crédito:
Entender por qué se aprueba/rechaza
Aumentar la velocidad
Reducir costos
Mejorar la precisión
Falta de explicabilidad genera:
Mejoras en el modelo
Riesgo ético y discriminación
Aumento de la confianza
Reducción de costos
IA aporta:
Menos velocidad
Más velocidad y análisis masivo
Menos análisis
Más errores
Modelo crediticio responsable incluye:
Explicabilidad
Velocidad
Precisión
Complejidad
AUC mide:
Precisión
Separación entre clases
Velocidad
Complejidad
KS se usa en:
Modelos de regresión
Modelos de clasificación
Modelos crediticios
Modelos de clustering
Gini =
Transformación cuadrática del AUC
Transformación lineal del AUC
Transformación cúbica del AUC
Transformación logarítmica del AUC
Matriz de confusión muestra:
TP, FP, TN, FN
Precisión y recall
Falsos positivos y negativos
Errores de clasificación
Dividir train/test:
train_test_split
split_data
train_test
data_split
Modelo interpretable:
Redes neuronales
Modelos complejos
Árbol simple
Modelos de caja negra
Método post-hoc:
Explicar un modelo ya entrenado
Entrenar un nuevo modelo
Ajustar parámetros
Evaluar resultados
Regresión logística:
Permite interpretar odds
Es un modelo no lineal
Es un modelo de caja negra
No es interpretable
SHAP summary:
Efectos locales
Efectos globales
Efectos específicos
Efectos de entrenamiento
LIME crea:
Modelos locales lineales
Modelos globales
Modelos complejos
Modelos de caja negra
Sesgo en datos:
Discriminación histórica
Falta de datos
Incertidumbre
Complejidad
NO es ética:
Transparencia
Justicia
Responsabilidad
Opacidad intencional
Explicabilidad permite:
Auditar decisiones
Aumentar la velocidad
Reducir costos
Mejorar la precisión
En operación:
Monitoreo e incidentes éticos
Entrenamiento
Evaluación
Desarrollo
Control de usuarios internos:
Limitar accesos
Aumentar accesos
Monitorear usuarios
Auditar usuarios
Reversibilidad:
Alternativa no tecnológica
Alternativa tecnológica
Reversibilidad total
Reversibilidad parcial
Riesgo en uso:
Falta de responsabilidad ante daño
Aumento de costos
Falta de datos
Incertidumbre
IA responsable:
Explicable, justa, transparente
Compleja y opaca
Rápida y eficiente
Barata y accesible
