En los últimos meses, la inteligencia artificial se ha convertido cada vez más en uno de los temas de debate más candentes. El auge de los chatbots de IA de acceso gratuito y los generadores de imágenes ha propulsado y puesto en bajo el foco las conversaciones sobre el contenido generado por IA, sus riesgos y sus beneficios. De hecho, el uso de IA y contenido generado por IA se está generalizando tanto que en la Cumbre de privacidad global de la IAPP, Nina Schick, experta en IA generativa, predijo que el 90 % del contenido en línea será generado por IA para 2025.

Esta rápida adopción ha tenido una respuesta mixta, como era predecible en cierto modo. En Italia, la autoridad de protección de datos (Garante) prohibió ChatGPT recientemente por cuestiones de privacidad, mientras que en los EE. UU., el centro de IA y políticas digitales también presentó una queja ante la Comisión Federal de Comercio por el chatbot de modelo de lenguaje especializado. Sin embargo, esto no ha impedido que esta tecnología haya atraído a más de 100 millones de usuarios en poco más de seis meses. Y esto no es más que tan solo un ejemplo, puesto que hay desarrolladores de software en todo el mundo que están creando nuevas tecnologías de IA y aprendizaje automático a diario que, sin la regulación adecuada, podrían poner en riesgo la privacidad de los individuos.

No hay duda de que los sistemas de IA están revolucionando sectores enteros y creando oportunidades de crecimiento sin precedentes. No obstante, estos beneficios vienen de la mano de riesgos y desafíos que requieren un enfoque sólido de gestión de riesgos. El 26 de enero de 2023, el Instituto Nacional de Estándares y Tecnología (NIST) introdujo su marco de gestión de riesgos de IA, lo que ayudó a las organizaciones a desarrollar tecnologías de IA de manera responsable y a gestionar el riesgo que supone para las personas y la sociedad, de forma más amplia. Sigue leyendo para saber más sobre el marco de gestión de riesgos de IA del NIST, además de sobre cómo puedes operacionalizar este marco con respecto a tus sistemas de IA.

¿Qué es el marco de gestión de riesgos de IA del NIST?

El marco de gestión de riesgos de IA fue desarrollado por el NIST, junto con otras partes interesadas clave y en línea con otros esfuerzos legislativos, con el fin de proporcionar a las organizaciones que desarrollan sistemas y tecnologías de IA un marco práctico y adaptable para medir y proteger contra posibles daños para las personas y la sociedad. El enfoque que se describe en el marco de gestión de riesgos de IA del NIST tiene por objeto ayudar a que las organizaciones puedan mitigar el riesgo, desbloquear oportunidades y aumentar la fiabilidad de sus sistemas de IA desde su diseño hasta su implementación.

El NIST divide su marco en dos partes. La primera parte se centra en la planificación y la comprensión, y guía a las organizaciones a la hora de analizar los riesgos y beneficios de la IA, y cómo pueden definir sistemas de IA que sean fiables. El NIST destaca las siguientes características para que las organizaciones puedan medir la fiabilidad de sus sistemas:

• Validez y fiabilidad
• Seguridad, protección y resiliencia
• Responsabilidad y transparencia
• Explicabilidad y interpretabilidad
• Mejora de la privacidad
• Prudencia a la hora de gestionar sesgos perjudiciales

La segunda parte aporta las directrices a seguir, lo que el NIST describe como el «núcleo» del marco. Sienta cuatro medidas principales (gobernar, registrar, medir y gestionar) para que las organizaciones trabajen en el desarrollo de sistemas de IA. La medida de «gobierno» es el pilar central del esfuerzo continuo y tiene como objetivo crear una cultura de gestión de riesgos. La medida de «registro» tiene como objetivo reconocer el contexto en que se pueden identificar y registrar los riesgos. El paso de «medir» analiza, evalúa y lleva un seguimiento de los riesgos identificados. Y, por último, la medida de «gestión» prioriza los riesgos en función de su impacto para que se apliquen las medidas de mitigación adecuadas.

¿Cómo pueden las organizaciones abordar el marco de gestión de riesgos de IA del NIST?

Para garantizar que las organizaciones desarrollan e implementan sistemas de IA de forma responsable, OneTrust ha creado una plantilla de evaluación integral dentro de la solución Gobernanza de la IA. La plantilla de evaluación del marco de gestión de riesgos de IA del NIST se basa en el cuaderno de estrategias de este mismo marco y se trata de un recurso complementario. La plantilla del marco de gestión de riesgos de IA del NIST tiene por objeto ayudarte a abordar un aspecto crítico de la gestión de riesgos de IA. Analicemos cada sección con más detalle.

Recopilación de información

El primer paso a la hora de gestionar los riesgos de IA es comprender los datos y el contexto en torno a tus sistemas de IA. En esta sección, las organizaciones recopilan información clave sobre sus sistemas de IA, como el ID, la descripción y la fecha límite del proyecto.

Gobernanza

La gestión efectiva de riesgos de IA requiere una cultura de gobernanza bien sólida en toda la jerarquía de la organización y el ciclo de vida del sistema de IA. La fase de gobernanza enfatiza la importancia de establecer una cultura de gestión de riesgos para apoyar el resto de funciones del marco de gestión de riesgos de IA.

Registro

El contexto es vital para identificar y administrar los riesgos de IA. La fase de registro establece el contexto para enmarcar los riesgos que estén relacionados con un sistema de IA. Al comprender los factores que contribuyen de manera más amplia, las organizaciones pueden mejorar su capacidad para identificar riesgos y crear una base sólida para las funciones de medición y gestión.

Medición

En la fase de medición, las organizaciones sacan provecho de herramientas cuantitativas, cualitativas o de métodos mixtos para analizar, evaluar, comparar y monitorizar el riesgo de la IA y los impactos relacionados. Aprovechando el conocimiento de los riesgos de IA que se han identificado en la función de registro, las organizaciones pueden informar mejor de sus esfuerzos de supervisión y respuesta ante riesgos en la función de gestión.

Gestión

La función de gestión se vale de prácticas de documentación sistemáticas que se establecieron durante la fase de gobernanza, información contextual de la fase de registro y datos empíricos de la medición para abordar los riesgos identificados y reducir la probabilidad de fallos del sistema e impactos negativos. Esta sección se centra en el tratamiento del riesgo, incluidos los planes para responder, recuperarse y comunicar sobre incidentes o acontecimientos.

Nuestra nueva plantilla de evaluación que se basa en el marco del NIST permite que las organizaciones puedan navegar la gestión de riesgos de IA con confianza. Al seguir la plantilla, las organizaciones pueden comprender mejor sus sistemas de IA, identificar posibles riesgos y desarrollar estrategias para mitigarlos. Este enfoque integral de la gestión de riesgos de IA contribuirá en última instancia a un desarrollo e implementación de IA más responsables.

Habla con un experto hoy mismo para ver cómo la OneTrust Platform puede ayudarte a hacer lo que es bueno para las personas y el planeta con el foco en tu negocio.