Con el auge de la tecnología de IA, la ISO 42001 emerge como el primera norma para sistemas de gestión de IA del mundo.
La ISO 42001 se publicó en diciembre de 2023 por la Organización Internacional de Normalización (ISO) y la Comisión Electrotécnica Internacional (IEC), y su foco principal es establecer un sistema de gestión de IA (AIMS) que mitigue los riesgos asociados con el desarrollo, la implementación y la gestión de la IA. Asimismo, detalla directrices y requisitos para establecer, implementar, mantener y mejorar de forma continua las prácticas de gestión de la IA.
Entre los componentes clave de la ISO 42001 se incluyen:
Directrices para el uso y la gobernanza éticos de la lA, lo que garantiza que los sistemas de IA se diseñan, implementan y utilizan de manera responsable.
Requisitos de transparencia y responsabilidad proactiva en las operaciones de IA, lo que promueve la confianza entre los usuarios y las partes interesadas.
Normas para los procesos de gestión de riesgos (en concreto, para abordar los riesgos únicos que estén asociados con las tecnologías de IA).
Quién debe cumplir con la norma ISO 42001
Aunque las normas ISO son voluntarias, la ISO 42001 se aplica a organizaciones de cualquier tamaño, tipo y naturaleza que participen en el desarrollo, suministro o uso de productos o servicios basados en IA. Esta norma es relevante en todos los sectores, incluidos organismos del sector público, empresas u organizaciones sin ánimo de lucro.
Ventajas del cumplimiento de la norma ISO 42001
Ciertos aspectos de la IA, como la falta de transparencia en la toma de decisiones o su capacidad para aprender y adaptarse de forma continua, exigen un enfoque diferente a la hora de gestionar el riesgo de forma efectiva. La norma ISO 42001 se diseñó para ayudar a las organizaciones a encontrar el equilibrio adecuado entre la innovación en IA y la gobernanza de esta. Además, la adopción de esta norma puede proporcionar los siguientes beneficios clave:
Gestión de la reputación: mejora la confianza, la trazabilidad, la transparencia y la fiabilidad en las aplicaciones de IA.
Gobernanza de la IA: apoya el cumplimiento de las normas jurídicas y regulatorias.
Orientación práctica: identifica y gestiona los riesgos y oportunidades específicos de la IA.
Identificación de oportunidades: fomenta la innovación dentro de un marco estructurado.
Ajuste de normas: garantiza la consistencia con otras normas del sistema de gestión en cuanto a la calidad, la seguridad, la protección y la privacidad.
¿Qué diferencia a la norma ISO 42001?
Aunque la ISO 42001 es la primera norma internacional para sistemas de gestión de IA, existen otros marcos y regulaciones que están diseñados para gestionar el riesgo y el uso de la IA en las organizaciones. Dicho esto, abajo se compara la norma ISO 42001 con otras normas similares.
La ISO vs. el marco de gestión de riesgos de IA del NIST
La ISO 42001 y el marco de gestión de riesgos de IA del NIST son dos normas relativamente nuevas que abordan las preocupaciones en materia de seguridad, privacidad y ética con respecto al uso de la IA. Sin embargo, cada uno ofrece un enfoque distinto sobre cómo se aplica a las organizaciones.
La ISO 42001 se centra en ayudar a las organizaciones que desarrollan, proporcionan o utilizan aplicaciones de IA a que puedan realizar su trabajo de forma responsable y eficaz. Proporciona un enfoque integrado y directrices para gestionar proyectos de IA, lo que cubre aspectos como el compromiso del equipo directivo, la evaluación de riesgos, la planificación operativa, la evaluación del rendimiento y la mejora continua.
Las organizaciones pueden optar por obtener la certificación ISO 42001, lo que implica una auditoría por parte de organismos externos acreditados. La certificación es válida durante tres años y requiere auditorías anuales de supervisión.
El marco de gestión de riesgos de IA del NIST adopta un enfoque más amplio para gestionar los riesgos y promover sistemas de IA fiables en todos los sectores y partes interesadas. Consta de cuatro funciones —controlar, asignar, medir y gestionar— y prioriza la reducción de amenazas y la mitigación de daños a través de sistemas de IA que sean éticos, justos, transparentes y fiables.
Aunque el marco de gestión de riesgos de IA del NIST no ofrece certificaciones, muchas organizaciones a menudo adoptan este marco para mejorar sus prácticas de gestión de riesgos de IA existentes.
ISO 42001 vs. otras normas ISO
La ISO cuenta con múltiples normas que están diseñadas para ayudar a mitigar los riesgos y maximizar las recompensas de la IA. ISO 22989:2022: incluye terminología sobre IA y describe conceptos del campo de la IA.
ISO 23053:2022: establece un marco de IA y aprendizaje automático para describir un sistema de IA genérico a partir de tecnología de aprendizaje automático.
ISO 23894:2023: proporciona orientación sobre cómo las organizaciones que desarrollan, producen, implementan o utilizan productos, sistemas y servicios que utilizan IA pueden gestionar sus riesgos.
ISO/DIS 42005: aunque actualmente se encuentra en fase de borrador, este documento proporciona orientación para las organizaciones que realizan evaluaciones de impacto del sistema de IA para individuos y sociedades que puedan verse afectadas por un sistema de IA y sus aplicaciones previstas y previsibles.
Lo que distingue a la ISO 42001 de estas normas es que se trata de una norma para sistemas de gestión, que incluye los requisitos para políticas y procedimientos no solo para aplicaciones de IA específicas, sino para una gestión integral de los riesgos de IA en toda la organización.
