Aunque la IA se está convirtiendo en el pilar central de las operaciones empresariales modernas para muchas organizaciones, muy pocas de estas están creando sus propios sistemas de IA. Con mayor frecuencia, las organizaciones confían en proveedores externos para integrar soluciones de IA en sus operaciones diarias.

Este paso a soluciones de terceros requiere una transformación integral en la forma en que las empresas evalúan y gestionan los riesgos asociados con el uso de la IA dentro de su organización. 

En este artículo, profundizaremos en la importancia de adoptar un enfoque integral para con las evaluaciones de proveedores y explicaremos cómo la gobernanza de la IA puede desempeñar un papel clave a la hora de mitigar riesgos y fomentar prácticas responsables en cuanto a la IA. 

El cambio de paradigma en la evaluación de proveedores

La mayoría de las empresas cuentan con estrategias de gestión de riesgos de terceros que aplican a sus proveedores; sin embargo, estos flujos de trabajo tradicionales de gestión de riesgos de terceros necesitan evolucionar para seguirle el ritmo a la integración dinámica de la IA. 

Hemos visto cómo un enfoque aislado de los aspectos más tradicionales del riesgo de terceros (p. ej., la privacidad, la seguridad, la ética, la continuidad del negocio, la resiliencia, etc.) ya no funciona demasiado bien para las organizaciones. Esto también se aplica a la adopción de la IA por parte de terceros, lo que subraya la necesidad de que las organizaciones redefinan su enfoque con respecto a las evaluaciones de terceros para que sean más integrales con el fin de tener en cuenta el uso de la IA.

El factor técnico: Evaluación de sistemas y componentes de IA

Comprender las complejidades técnicas de los sistemas de IA que los proveedores han implementado es la base de una evaluación sólida. El análisis de la tecnología subyacente revela posibles riesgos que están asociados con los componentes de IA en las soluciones de terceros como, por ejemplo:

• Atributos de conjuntos de datos 
  Los sistemas de IA requieren un exceso de datos, por lo que debes tener una idea clara sobre los atributos que tienen esos conjuntos de datos. Tus evaluaciones deben aclarar la calidad de los datos, la formación de las fuentes de datos, la propiedad de los datos, el control de las versiones, la trazabilidad de los datos, etc.
  
  
• Atributos del modelo
  Cuando haya transparencia sobre los conjuntos de datos que vayas a usar, tendrás que disponer de una transparencia similar en cuanto al propio modelo. ¿El modelo que estás utilizando es un modelo fundacional? ¿Qué método de aprendizaje utilizas? ¿Qué sesgos pueden estar presentes y cuál es el ratio de paridad demográfica? ¿Cuál es el nivel de autonomía del modelo y cuánta supervisión humana se requiere?

Este factor técnico de los atributos de los conjuntos de datos y del modelo constituye la primera capa de la evaluación integral de tu sistema de IA de tercero. 

Aunque es posible que tu organización no esté desarrollando ni proporcionando el sistema, al implementar un sistema de IA de terceros, seguirás teniendo obligaciones y responsabilidades con respecto a los datos y modelos que utilices, por lo que es importante tener las respuestas a estas preguntas bien documentadas. 

Marcos de gobernanza de la IA cumplimiento normativo y requisitos

Las prácticas de gobernanza de la IA son un componente crítico en el uso responsable de la IA, y no solo de cara a tu propia gobernanza interna de la IA. Cada vez es más importante que también evalúes el marco de gobernanza de la IA de tu proveedor, puesto que te dará más información sobre el cumplimiento normativo y las dimensiones jurídicas y éticas en cuanto a tus prácticas de IA.

Los marcos globales, como la Ley de IA de la UE, están introduciendo cada vez más requisitos específicos sobre las partes responsables, dependiendo de su función, como evaluaciones de conformidad por parte de proveedores de sistemas de IA de alto riesgo. 

Aunque las empresas que utilizan IA de terceros no se incluirán en esta categoría de proveedores, las organizaciones aún deben ser conscientes de sus responsabilidades como implementadores de estos sistemas y deben ajustarse a estos marcos con el fin de garantizar el cumplimiento normativo y las prácticas de IA responsable por parte de sus proveedores.

Operacionalización de un enfoque de evaluación integral

Los beneficios de un enfoque de evaluación integral van más allá del mero cumplimiento normativo. Evitar los obstáculos jurídicos y éticos que se asocian con los sistemas de IA utilizados por terceros es crucial para generar confianza y mantener la transparencia en el ecosistema del proveedor.

Puede parecer abrumador tener que evaluar a los proveedores además de tus propias responsabilidades de gobernanza de la IA, pero este proceso no tiene por qué hacerse desde cero. La puesta en marcha de las evaluaciones de gobernanza de la IA implica medidas prácticas y a menor escala, como la integración de la gobernanza de la IA en los flujos de trabajo existentes de gestión de riesgos de terceros.

Herramientas como las soluciones Gobernanza de la IA y Gestión de riesgos de terceros de OneTrust ayudan a las organizaciones a la hora de simplificar este proceso, además de garantizar una visión más completa de las iniciativas relacionadas con la incorporación de componentes de IA en todo tu negocio.

Gestión del riesgo de terceros para generar confianza

A medida que el panorama relativo a los riesgos de la IA de terceros continúa evolucionando, las organizaciones deben adoptar un enfoque integral para las evaluaciones de terceros. 

La incorporación del riesgo de la IA en estas evaluaciones es un pilar estratégico y una medida proactiva hacia las prácticas de gestión de riesgos de terceros y el uso responsable de la IA. 

La creación de un marco integral no solo apoya la mitigación de los riesgos asociados con la adopción de la IA de terceros, sino que también fomenta un ecosistema de transparencia, confianza e innovación. 

Las organizaciones deben adaptar sus flujos de trabajo de gestión de riesgos de terceros para navegar las complejidades de la IA, a la vez que se garantiza un futuro donde la IA se aprovecha de forma responsable para el crecimiento sostenible del negocio.