Escenario 1:

Situada en Silicon Valley, California, NanoS se ha ganado la reputación de fusionar a la perfección la síntesis de nanomateriales de última generación con sistemas avanzados de la IA. La exclusiva plataforma NanoAI de NanoS utiliza la IA especializada diseñada para tareas específicas, revolucionando la personalización de nanomateriales para aplicaciones.

NanoS también emplea un enfoque único de aprendizaje automático que hace uso de datos etiquetados y no etiquetados durante el entrenamiento, lo que pone de relieve su dedicación a ampliar los límites de la innovación al tiempo que defiende las prácticas éticas de la IA.

Reconociendo la importancia del uso responsable de la IA, la empresa ha decidido implementar un sistema de gestión de la inteligencia artificial (SGIA) basado en la norma ISO/IEC 42001, fomentando una cultura de utilización responsable y eficaz de la IA en todos los procedimientos, procesos y actividades.

La responsabilidad de garantizar que el SGIA cumpla los requisitos de la norma ISO/IEC 42001 se asignó a Emily, la directora de tecnología. Sin embargo, no se asignó ninguna función específica para informar de los resultados del SGIA a la alta dirección.

El proceso de implementación del SGIA comenzó con la definición de un enfoque para la implementación del SGIA. Como parte de este proceso, la empresa trabajó diligentemente para crear un caso de negocio que le permitiera decidir y justificar sus decisiones sobre si iniciar una acción o una secuencia de acciones basándose en la evaluación del riesgo y beneficios. El caso de negocio incluía varios elementos esenciales, tales como un análisis de los factores ambientales del proyecto, una declaración clara de su propósito y objetivo, un resumen conciso del proyecto, los beneficios previstos, incluidos los escenarios financieros y los riesgos, un esbozo del plan del proyecto con definiciones de fases, plazos e hitos, funciones y responsabilidades, necesidades de recursos y planes financieros, todo ello abordando las limitaciones previstas y aportando posibles soluciones.

Al elaborar el plan del proyecto del SGIA en NanoS, Emily tuvo en cuenta el entorno altamente competitivo de la empresa en Silicon Valley. Para minimizar el coste de los retrasos, dio prioridad a la velocidad de comercialización por sobre una planificación previa exhaustiva, aceptando la posibilidad de volver a hacer el trabajo.

De acuerdo con el escenario anterior, responda las siguientes preguntas:

QuantumLogix es una empresa de tecnología que se especializa en proveer soluciones impulsadas por la IA para diversas industrias. Se centra en desarrollar e implementar tecnología de inteligencia artificial para optimizar procesos tales como la gestión de la cadena de suministro, la fabricación y el mantenimiento predictivo. La empresa opera en el sector tecnológico y empresarial, aprovechando el poder de la IA para impulsar la eficiencia, la innovación y el cambio transformador en el dinámico panorama empresarial digital actual.

La empresa decidió obtener la certificación ISO/IEC 42001 con el fin de establecer un marco sólido para el uso responsable y eficaz de la IA en la empresa. Mediante el cumplimiento de los requisitos de esta norma y el establecimiento de un sistema de gestión de inteligencia artificial (SGIA), QuantumLogix pretende generar confianza entre clientes y partes interesadas.

El proceso de implementación del SGIA comenzó con una comprensión exhaustiva de la organización y su contexto y una definición clara del alcance del SGIA. QuantumLogix llevó a cabo un análisis exhaustivo para identificar a las principales partes interesadas, incluidos empleados, inversores, organismos reguladores, clientes y la comunidad en general, que abarca comunidades locales y organizaciones no gubernamentales. QuantumLogix decidió mantener informados únicamente a los empleados y a los organismos reguladores sobre las acciones emprendidas en relación con el SGIA, el impacto de estas acciones y la responsabilidad compartida a la hora de garantizar prácticas éticas de la IA.

El proceso de comprensión de la organización y su contexto implicó determinar el alcance preliminar teniendo en cuenta los mandatos internos, incluidas las políticas y directrices internas, para la gestión de la IA y las obligaciones externas relacionadas con los sistemas de la IA. La empresa evaluó cómo se comunicarían los documentos pertenecientes al SGIA a lo largo de la organización y si el sistema de gestión podría soportar de forma adecuada las necesidades de la organización relacionadas con la IA.

El proceso de implementación continuó con un análisis del sistema existente. En un primer momento, la empresa determinó el estado actual, que abarcaba un análisis de los procesos y los controles de gestión de la IA existentes. Posteriormente, la empresa fijó los objetivos de cada control de la IA comparándolos con los de otras empresas del mismo sector. Por último, la empresa identificó la brecha existente entre los controles de la IA implementados y los requisitos de la norma ISO/IEC 42001.

La empresa creó y redactó una política de la IA alineada con los requisitos de la norma ISO/IEC 42001. Jonathan, figura clave del equipo directivo, aprobó la política antes de su publicación. La política de la IA se puso a disposición de las partes interesadas como información documentada y se comunicó dentro de la organización a través del correo electrónico.

Reconociendo los riesgos inherentes a la implementación de la IA, la empresa aplicó rigurosamente los principios de riesgo de la IA. El énfasis en la gestión de las entradas a la gestión del riesgo, combinado con una doble confianza en la información histórica y la actual, fortificó la resiliencia de la empresa. La empresa supervisa activamente los usos futuros, y los usuarios mantienen registros exhaustivos del uso del sistema de la IA. Consciente de la naturaleza dinámica de la IA, la empresa tiene en cuenta las limitaciones de los datos históricos y permanece atenta a la evolución de las expectativas.

Corporación de Transformación Sinérgica (STC) se ha consolidado como una fuerza pionera en avances tecnológicos desde hace muchos años. Se distingue por su experiencia en el diseño con los sistemas de la IA más avanzados. Notablemente, STC ha iniciado recientemente un cambio de paradigma transformador en el sector de la salud, donde sus innovadores sistemas de la IA se integran de manera fluida con hospitales y clínicas, abordando con habilidad desafíos comunes como los silos de información y las ineficiencias operativas. Para seguir manteniendo el título de pionero en el sector y preservar la confianza de sus clientes, STC decidió ejemplificar su compromiso con el uso responsable de los sistemas de la IA iniciando la implementación de un sistema de gestión de la inteligencia artificial (SGIA) basado en ISO/IEC 42001.

Consciente de la importancia de una infraestructura cohesionada y adaptable, STC puso en marcha un plan global para integrar el SGIA sin fisuras en sus operaciones. En primer lugar, STC incorporó la información documentada necesaria de conformidad con ISO/IEC 42001. El alcance de la información documentada se determinó considerando factores como el tamaño de la corporación, el tipo de actividades y procesos, su complejidad, interacción y la competencia del personal.

En segundo lugar, STC empezó a seleccionar y diseñar controles. La corporación estableció un equipo de gobernanza y cumplimiento de la IA dedicado a planificar, implementar, mantener y mejorar continuamente los procesos y controles necesarios para cumplir con los requisitos de gestión de la IA. Después de seleccionar los controles apropiados del Anexo A de ISO/IEC 42001, la corporación tomó medidas significativas para integrarlos en sus operaciones. En concreto, se centró en cambiar y organizar su estructura interna para adaptarla a estos controles. Otras acciones clave fueron definir y asignar funciones y responsabilidades relacionadas con la IA y adaptarlas a las necesidades específicas de la empresa. Además, STC estableció un proceso exhaustivo para que los empleados pudieran expresar sus preocupaciones sobre cualquier aspecto de los sistemas de la IA a lo largo de todo el ciclo de vida, desde el desarrollo hasta la implementación y el mantenimiento. Este proceso tenía por objeto garantizar un uso responsable de la IA según los controles seleccionados.

Sin embargo, a pesar de identificar objetivos para guiar el desarrollo de sistemas de la IA fiables e integrar medidas para alcanzarlos en el ciclo de vida del desarrollo, STC se quedó corto a la hora de definir y documentar los procesos específicos para el diseño y desarrollo responsables del sistema de la IA.

Tras implementar los controles, STC  determinó las comunicaciones internas y externas pertinentes para el SGIA, incluido qué comunicar, con quién comunicar y cómo comunicar. A raíz de ello, STC elaboró un completo plan de capacitación obligatorio para todos los empleados que participan en el desarrollo, la implementación y el mantenimiento de sistemas de la IA. Estas sesiones de capacitación están diseñadas para mantener al personal al día de las últimas directrices éticas, estrategias de gestión del riesgo y normas de cumplimiento en materia de la IA.

Tras completar el proceso de implementación del SGIA, STC decidió poner en pausa los procesos empresariales hasta que el SGIA sea plenamente operativo. Esta decisión se tomó para alinear los flujos de trabajo existentes con las funcionalidades del nuevo sistema y aprovechar las capacidades mejoradas para un mejor rendimiento del SGIA.

Fundada en 2010, NebulAI es una empresa tecnológica global con una sólida presencia en los Estados Unidos y el Reino Unido. Atiende a diversos sectores, incluyendo telecomunicaciones, logística y educación. NebulAI ha establecido una excelente reputación al desarrollar algoritmos de inteligencia artificial sofisticados, modelos avanzados de aprendizaje automático y aplicaciones de procesamiento de lenguaje natural.

NebulAI ha implementado un sistema de gestión de inteligencia artificial (SGIA) integral basado en la norma ISO/IEC 42001 para asegurar el desarrollo y uso responsable de la IA. Como parte de su compromiso con la calidad y la mejora continua, la empresa realiza auditorías en intervalos planificados para validar su SGIA. La empresa define cuidadosamente los objetivos, criterios y el alcance de cada auditoría, asegurando un examen exhaustivo de los aspectos clave dentro del SGIA. Para seleccionar a los auditores, NebulAI tiene en cuenta la participación de los auditores y en el proceso y los controles auditados. Los objetivos de la auditoría, aprobados por la alta dirección de la empresa, abarcan los objetivos de la IA, la gobernanza del SGIA, la gestión del riesgo, la eficacia de los procesos y controles, la gestión del ciclo de vida del SGIA y otros aspectos clave. El equipo de auditoría evita deliberadamente coordinar la auditoría interna con las auditorías de terceros. Este enfoque estratégico garantiza un examen específico de las actividades directamente relacionadas con el SGIA, adaptando el alcance de la auditoría al tamaño, sector de actividad y misión de NebulAI.

Como parte de su compromiso para garantizar un SGIA eficaz, NebulAI lleva a cabo revisiones periódicas de la gestión, identificando tendencias en no conformidades y acciones correctivas, resultados de seguimiento y medición, y resultados de auditorías. Los resultados de estas revisiones ayudan a la dirección a tomar decisiones informadas relacionadas con oportunidades de mejora continua e implementar los cambios necesarios en el SGIA.

NebulAI ha determinado diligentemente los aspectos de su SGIA que necesitan supervisión y medición y, para garantizar resultados válidos, ha determinado los métodos de supervisión, medición, análisis y evaluación. Sin embargo, no ha determinado cuándo se deben analizar y evaluar los resultados de la supervisión y la medición.