Usamos cookies en nuestro sitio web para brindarte la experiencia más relevante recordando tus preferencias y visitas repetidas. Haz clic en "Aceptar todas las cookies" para disfrutar de esta web con todas las cookies, configura tus preferencias antes de aceptarlas, o utiliza el botón "Rechazar todas las cookies" para continuar sin aceptar.

Gestión de Cookies
 
 
Formulario
de contacto
Formulario
de contacto
 
Formulario
de contacto
He leído y acepto la Política de Protección de Datos
Deseo suscribirme al Boletín Electrónico
 
 

Transparencia y explicabilidad en ISO/IEC 42001 (con ejemplos)

La norma ISO/IEC 42001 establece que los sistemas de gestión de IA deben garantizar niveles adecuados de transparencia y explicabilidad, dos principios esenciales para asegurar confianza, control y responsabilidad en el uso de modelos de inteligencia artificial.

La transparencia implica que la organización proporcione información clara sobre el propósito del sistema, los datos utilizados, los riesgos identificados y los mecanismos de supervisión. No se trata solo de publicar documentación técnica, sino de permitir que las partes interesadas comprendan cómo se gobierna el sistema y qué límites tiene.

La explicabilidad, por su parte, exige que los resultados generados por la IA puedan ser entendidos y justificados. La norma subraya que el nivel de explicabilidad debe ser proporcional al impacto del sistema, especialmente cuando afecta a derechos, seguridad o cumplimiento normativo.

Ejemplo 1

Una entidad financiera utiliza un sistema de IA para detectar operaciones potencialmente fraudulentas.

  • Transparencia: La organización informa a los auditores y a los usuarios internos sobre qué tipos de datos analiza el sistema (patrones de gasto, ubicación, frecuencia de transacciones,…) y qué umbrales de riesgo se han definido. También documenta quién supervisa el sistema y cómo se revisan los falsos positivos.
  • Explicabilidad: Cuando la IA marca una operación como sospechosa, debe poder justificarlo con criterios comprensibles, por ejemplo: “actividad inusual respecto al historial del cliente y discrepancia geográfica significativa”. Esto permite al analista validar o descartar la alerta.

Ejemplo 2

Una administración pública emplea IA para priorizar solicitudes de ayudas o subvenciones.

  • Transparencia: La institución publica los criterios generales del modelo, las variables consideradas (ingresos, situación familiar, historial de solicitudes,…) y las medidas adoptadas para evitar sesgos. Además, documenta los mecanismos de revisión humana.
  • Explicabilidad: Si una solicitud recibe una puntuación baja, el sistema debe ofrecer una explicación clara, como “la renta declarada supera el umbral establecido” o “no se cumplen los requisitos mínimos de antigüedad en el registro”. Esto permite al ciudadano comprender la decisión y facilita la trazabilidad en auditorías posteriores.

Autor: Carlos Pérez – CEO STAREGISTER





 
Algunos de nuestros clientes
Algunos de nuestros clientes