Prueba 11: Gestión del riesgo de la IA

1. ¿Qué principio de gestión del riesgo de la IA siguen las organizaciones que garantizan la participación adecuada y oportuna de las partes interesadas?

• A. Integrado

• B. Inclusivo

• C. Factores humanos y culturales

Answer explanation

Para aplicar eficazmente el principio de “inclusión”, las organizaciones deberían implicar a diversos grupos internos y externos en el diálogo para identificar riesgos en los datos para el aprendizaje automático, abordar los retos de transparencia y definir criterios de equidad para la toma de decisiones automatizada.

2. ¿Cómo puede una organización aplicar el principio de “integración”?

• A. Desarrollando el marco de gestión del riesgo (incluidas la evaluación y la mejora)

• B. Aplicando del proceso de gestión del riesgo para la toma de decisiones y actividades conexas.

• C. Tanto A como B

Answer explanation

Los dos métodos principales de aplicación del principio “integrado” son: el desarrollo del marco de gestión del riesgo (incluidas la evaluación y la mejora) y la aplicación del proceso de gestión del riesgo a la toma de decisiones y las actividades relacionadas.

3. Según lSO/IEC 23894, cláusula 6.3.1 Alcance, contexto y criterios, ¿cuál de los siguientes es un paso crucial para las organizaciones que utilizan la IA en su proceso de gestión del riesgo?

• A. Ampliar el alcance, el contexto y los criterios del proceso de gestión del riesgo de la IA para incluir un inventario de los lugares en los que se están desarrollando o utilizando sistemas de la IA dentro de la organización.

• B. Crear un comité ético independiente para revisar y aprobar todos los proyectos de inteligencia artificial antes de su aplicación.

• C. Realizar revisiones anuales del rendimiento de los sistemas de la IA, centrándose en su eficacia y precisión.

Answer explanation

De acuerdo con esta cláusula, además de la orientación proporcionada en ISO 31000:2018, para las organizaciones que utilizan la gestión del riesgo de la IA, el alcance, el contexto y los criterios para evaluar la importancia del riesgo para apoyar los procesos de toma de decisiones deberían ampliarse para identificar dónde se están desarrollando o utilizando sistemas de la IA en la organización.

4. ¿Por qué una organización debe tener en cuenta el entorno de sus partes interesadas a la hora de formar y establecer el contexto del proceso de gestión del riesgo?

• A. Para garantizar que todos los sistemas de la IA se actualizan periódicamente y cumplen las normas tecnológicas más recientes.

• B. Para mantener una ventaja competitiva en el mercado centrándose en el avance tecnológico de los sistemas de la IA.

• C. Para abordar adecuadamente el potencial de que los sistemas de la IA afecten a los seres humanos, los servicios esenciales, los derechos humanos y el medio ambiente, y alinearse con las expectativas de responsabilidad social y medioambiental.

Answer explanation

ISO/IEC 23894, cláusula 6.3.3 destaca la necesidad de que las organizaciones consideren el amplio impacto de los sistemas de la IA en las partes interesadas y el medio ambiente en sus procesos de gestión del riesgo. Esto implica evaluar el daño potencial a las personas, los servicios esenciales, los derechos humanos y el daño medioambiental, al tiempo que se cumplen las expectativas de responsabilidad social y medioambiental según las directrices de la norma ISO 26000:2010. Este enfoque garantiza una integración responsable y éticamente sólida de la IA en la gestión del riesgo de las organizaciones.

5. ¿Cuáles son los requisitos clave de un proceso de evaluación del riesgo de la IA según ISO/IEC 42001, cláusula 6.1.2 Evaluación del riesgo de la IA?

• A. La evaluación del riesgo de la IA debe realizarse anualmente y centrarse exclusivamente en el aspecto tecnológico de los sistemas de la IA.

• B. El proceso de evaluación del riesgo de la IA debe alinearse con las políticas de la IA de la organización, identificar y evaluar de forma coherente los riesgos que afectan a los objetivos de la IA.

• C. La evaluación del riesgo de la IA requiere un enfoque cuantitativo que se base únicamente en modelos estadísticos para la predicción del riesgo.

Answer explanation

ISO/IEC 42001 especifica que un proceso de evaluación del riesgo de la IA debe estar alineado con la política y los objetivos de la IA de la organización. Debería producir sistemáticamente resultados válidos e identificar riesgos que ayuden o impidan la consecución de los objetivos de la IA.