Casos Éticos IA DIAN – Sesión 3

La DIAN usa una IA que asigna más auditorías a empresas con nombres asiaticos, basada en datos históricos de jurisdicciones usadas para evadir impuestos. ¿Qué tipo de sesgo se evidencia en este caso?

• Sesgo del diseñador

• Sesgo de entrenamiento

• Sesgo de algortimo

• Sesgo de confirmación

La DIAN usa una IA que asigna más auditorías a empresas con nombres asiaticos, basada en datos históricos de jurisdicciones usadas para evadir impuestos. ¿Cuál es una posible consecuencia legal de este sesgo?

• Multas desproporcionadas

• Demandas por discriminación étnica

• Sanciones internacionales

• Represalias comerciales

Un inspector fiscal usa solo informes de IA que confirman su sospecha de evasión en restaurantes, ignorando datos que muestran cumplimiento. ¿Qué sesgo está presente?

• Sesgo de confirmación

• Sesgo de entrenamiento

• Sesgo de diseñador

• Sesgo de implementación

Un inspector fiscal usa solo informes de IA que confirman su sospecha de evasión en restaurantes, ignorando datos que muestran cumplimiento. ¿Qué consecuencia práctica puede generarse?

• Exoneración de culpables

• Persecución injusta del sector gastronómico

• Mejora en eficiencia

• Sesgo de selección óptima

El equipo que diseñó un modelo de priorización de fiscalizaciones está compuesto solo por ingenieros. No participaron ni abogados, ni expertos en ética ni funcionarios de fiscalización. ¿Qué tipo de sesgo se podría presentar?

• Sesgo de diseño

• Sesgo de retroalimentación

• Sesgo de entrenamiento

• Sesgo de algoritmo

El equipo que diseñó un modelo de priorización de fiscalizaciones está compuesto solo por ingenieros. No participaron ni abogados, ni expertos en ética ni funcionarios de fiscalización. ¿Qué solución estructural podría mitigar este riesgo?

• Entrenar con más datos históricos

• Limitar el uso de IA

• Contratar con una consultora externa

• Incluir perfiles multidisciplinarios en el desarrollo

Una IA en la DIAN marca como “bajo riesgo” a contribuyentes que usan estructuras offshore complejas. Los funcionarios, confiando 100% en la IA, omiten revisarlos. ¿Qué falla ética se evidencia?

• Discriminación

• No observación de la política de seguridad de la información

• Sesgo de entrenamiento

• Falta de supervisión humana

Una IA en la DIAN marca como “bajo riesgo” a contribuyentes que usan estructuras offshore complejas. Los funcionarios, confiando 100% en la IA, omiten revisarlos. ¿Qué falla ética se evidencia?

• Control humano sobre las decisiones

• Transparencia

• Honestidad

• Justicia

“Una IA usada por la DIAN detecta riesgo fiscal en empresas que hacen donaciones frecuentes. El modelo aprendió de casos históricos donde algunas donaciones eran ficticias, pero ahora clasifica erróneamente a muchas entidades solidarias.” ¿Qué tipo de sesgo se presenta en este caso?

• Sesgo de implementación

• Sesgo de sobreajuste

• Sesgo de diseñador

• Sesgo de algoritmo