Uso De La IA de Forma Ética y Responsable

¿Cuál es la principal preocupación ética al desarrollar sistemas de IA que toman decisiones críticas (ej. diagnóstico médico, préstamos bancarios)?

• El costo de desarrollo y mantenimiento.

• La dificultad de programar interfaces de usuario amigables.

• El sesgo algorítmico y la falta de transparencia en la toma de decisiones.

• La velocidad de procesamiento de los datos.

Answer explanation

El sesgo algorítmico puede llevar a decisiones injustas o discriminatorias, y la falta de transparencia (caja negra) dificulta entender por qué se tomó una decisión, lo cual es crucial en contextos críticos.

Un sistema de IA es entrenado con datos históricos que reflejan desigualdades sociales. ¿Qué riesgo ético principal surge de esto?

• El sistema será demasiado lento para procesar nuevas solicitudes.

• El sistema perpetuará y amplificará las desigualdades existentes.

• El sistema requerirá una gran cantidad de energía para funcionar.

• El sistema generará resultados aleatorios e inútiles.

Answer explanation

Si los datos de entrenamiento contienen sesgos, el sistema de IA aprenderá y replicará esos sesgos, lo que puede llevar a resultados discriminatorios y perpetuar las desigualdades sociales.

El principio de 'Transparencia y Explicabilidad (XAI)' en la ética de la IA se refiere a la capacidad de un sistema de IA para ser comprendido por los humanos en su proceso de toma de decisiones.

• Verdadero

• Falso

Answer explanation

La transparencia y explicabilidad (XAI) son fundamentales para que los usuarios y reguladores puedan entender cómo y por qué un sistema de IA llega a una conclusión, especialmente en aplicaciones de alto impacto.

La privacidad de los datos es crucial al trabajar con IA principalmente para evitar que la IA se vuelva demasiado inteligente.

• Verdadero

• Falso

Answer explanation

La privacidad de los datos es crucial para proteger la información personal sensible de los individuos y evitar usos indebidos, como la discriminación o la vigilancia masiva, no para limitar la 'inteligencia' de la IA.

La ______ es una responsabilidad clave de los desarrolladores de IA para garantizar un uso ético, asegurando la privacidad de los datos y considerando el impacto social.

Answer explanation

Realizar auditorías de sesgo, asegurar la privacidad de los datos y considerar el impacto social son responsabilidades fundamentales de los desarrolladores para el uso ético de la IA

El término 'responsabilidad algorítmica' implica que debe haber un mecanismo para atribuir la responsabilidad por los resultados de la IA, especialmente si son _______.

Answer explanation

La responsabilidad algorítmica se refiere a la necesidad de establecer quién es responsable cuando un sistema de IA causa un daño o un error, lo que implica trazabilidad y rendición de cuentas humanas.

La privacidad de los datos es crucial al trabajar con IA principalmente para evitar que la IA se vuelva demasiado inteligente.

• Verdadero

• Falso

Answer explanation

La privacidad de los datos es crucial para proteger la información personal sensible de los individuos y evitar usos indebidos, como la discriminación o la vigilancia masiva, no para limitar la 'inteligencia' de la IA.

Un chatbot de IA utilizado para brindar apoyo psicológico no presenta preocupaciones éticas si su idioma es el correcto.

• Verdadero

• Falso

Answer explanation

En áreas sensibles como la salud mental, la falta de empatía genuina y la posibilidad de dar consejos inadecuados o dañinos por parte de la IA son preocupaciones éticas significativas, más allá del idioma.

La ______ de sesgo es un examen para identificar y mitigar sesgos injustos en los datos o algoritmos de IA.

Answer explanation

La auditoría de sesgo es un paso crítico para asegurar que los sistemas de IA no perpetúen o amplifiquen discriminaciones basadas en género, raza, edad, etc., revisando tanto los datos como el comportamiento del modelo.

Si un sistema de IA comete un error grave con consecuencias negativas, la responsabilidad siempre recae únicamente en el usuario final.

• Verdadero

• Falso

Answer explanation

La responsabilidad en la IA es compleja y puede recaer en múltiples actores: los desarrolladores por el diseño, la empresa por la implementación y supervisión, o incluso los reguladores por la falta de normativas adecuadas, no solo en el usuario final.