Implementar inteligencia artificial en una empresa requiere integrar gobernanza, cumplimiento normativo, protección de datos y supervisión humana desde el diseño. En esta guía analizo cómo hacerlo aplicando los principios de IA responsable.
La Inteligencia Artificial (IA) ha trascendido la frontera de la innovación tecnológica para situarse en el centro de la estrategia corporativa y el cumplimiento normativo.
En este contexto, se publicó recientemente la Guía de buenas prácticas en el uso de la Inteligencia Artificial Ética, un documento de referencia impulsado por OdiseIA y presentado por la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA), cuyo objetivo es proporcionar a las organizaciones un marco práctico para adoptar inteligencia artificial de forma responsable.
He tenido el privilegio de participar como uno de los principales investigadores, analistas y redactores de la sección troncal de esta Guía (págs. 22 a 70), dedicada a los principios éticos de una IA responsable. Este trabajo, desarrollado bajo la coordinación del Director de OdiseIA y el Socio responsable de Inteligencia Artificial de PwC España, ha contado con la colaboración de figuras de la máxima relevancia técnica y jurídica, incluyendo al actual Director de la Agencia Española de Protección de Datos (AEPD) y a la Socia EMEA MLS de PwC, entre otros destacados profesionales con quienes compartí equipo de trabajo.
1. Iniciativas internacionales
La solidez de este framework reside en su metodología. Coordinamos una exhaustiva labor de lectura y evaluación de 150 iniciativas internacionales, seleccionando 27 referentes globales (incluyendo las metodologías de Google, Microsoft e IBM) para destilar un modelo que garantice la inclusión de tecnología con pleno respeto a la normativa y a la ética empresarial.
Entre las principales referencias analizadas destacan las siguientes:
1. Organismos gubernamentales e iniciativas internacionales
- Opinion of the Data Ethics Commission, de la Data Ethics Commission (Alemania)
- G20 Ministerial Statement on Trade and Digital Economy, del G20
- OECD Principles on Artificial Intelligence, de la OCDE
- Australia’s Artificial Intelligence Ethics Framework, del Departamento de Industria, Ciencia, Energía y Recursos del Gobierno de Australia
- Draft Recommendation on the Ethics of Artificial Intelligence, de UNESCO
- Algorithm Charter for Aotearoa New Zealand, del Gobierno de Nueva Zelanda
- Data Ethics Framework, del Gobierno del Reino Unido
2. Asociaciones independientes y comunidad académica
- Asilomar AI Principles, del Future of Life Institute
- Benefits and Risks of Artificial Intelligence, de Asilomar
- Universal Guidelines for Artificial Intelligence, de The Public Voice Coalition
- Top 10 Principles for Ethical Artificial Intelligence, de UNI Global Union
- Ethical Guidelines for Artificial Intelligence, de la Japanese Society for Artificial Intelligence
3. Iniciativas del sector privado
- AI Principles, de Google
- Policy Principles for Artificial Intelligence, de Connected Health
- Microsoft AI Principles, de Microsoft
- Responsible AI Framework, de PwC
El análisis de estas iniciativas permitió identificar patrones comunes que hoy constituyen la base de los marcos de gobernanza de la inteligencia artificial, así como los principios que progresivamente están consolidándose en el ámbito regulatorio internacional.
De ese análisis emergen ocho pilares fundamentales para una inteligencia artificial responsable.
2. Los ocho pilares de la inteligencia artificial responsable
1. Privacidad y gobierno de datos
La IA depende de los datos. Por tanto, cualquier arquitectura responsable debe garantizar que su uso respete los derechos de las personas durante todo el ciclo de vida del sistema.
En términos operativos, esto implica:
- identificar y mapear los tratamientos de datos.
- activar evaluaciones de impacto cuando exista alto riesgo.
- aplicar minimización y seudonimización en los pipelines de datos.
- evitar decisiones exclusivamente automatizadas sin supervisión humana efectiva.
En la práctica, la gobernanza de datos se convierte en el primer nivel de control de la IA.
2. Seguridad, fiabilidad y robustez
Los sistemas de IA deben ser técnicamente resilientes y capaces de mantener un comportamiento estable incluso ante condiciones adversas.
Entre las medidas habituales destacan:
- integración de controles de ciberseguridad.
- pruebas de estrés y testing adversarial.
- mecanismos de parada segura y rollback del sistema.
La robustez técnica es un requisito imprescindible para generar confianza.
3. Responsabilidad y rendición de cuentas (Accountability)
Un principio fundamental: la responsabilidad nunca es de la máquina.
Siempre debe existir una persona o una organización responsable de las decisiones tomadas con apoyo de sistemas de IA.
Para ello es necesario establecer:
- modelos de responsabilidad claros (por ejemplo, matrices RACI).
- trazabilidad de inferencias y decisiones.
- auditorías internas o externas periódicas.
Este enfoque conecta directamente con la lógica de responsabilidad proactiva del RGPD.
4. Transparencia y explicabilidad
Cuando un sistema de IA afecta a personas, sus resultados deben poder ser comprendidos.
No se trata necesariamente de revelar todos los detalles técnicos del algoritmo, sino de ofrecer explicaciones proporcionales al riesgo y comprensibles para los afectados.
Entre las herramientas más utilizadas destacan:
- model cards.
- data sheets de datasets.
- sistemas de información y canales de apelación.
La transparencia es uno de los factores clave para mantener la legitimidad social de la IA.
5. Justicia algorítmica (equidad y no discriminación)
Los sistemas de IA pueden reproducir o amplificar sesgos presentes en los datos.
Por ello es imprescindible evaluar y mitigar posibles efectos discriminatorios, especialmente en ámbitos sensibles como empleo, crédito, seguros o servicios públicos.
Algunas medidas prácticas incluyen:
- evaluaciones de impacto antidiscriminación.
- análisis de representatividad de datasets.
- supervisión humana en decisiones críticas.
6. Foco en el ser humano
La inteligencia artificial debe diseñarse como una herramienta al servicio de las personas, no como un sustituto opaco de la toma de decisiones.
Esto exige incorporar mecanismos de supervisión humana efectiva, especialmente en sistemas de alto impacto.
En la práctica, esto implica:
- definir niveles adecuados de control humano según el riesgo
- formar a los supervisores del sistema
- establecer mecanismos claros de impugnación de decisiones automatizadas
7. Respeto de los derechos humanos.
Más allá del cumplimiento normativo, la IA debe alinearse con valores fundamentales como la dignidad, la autonomía y la justicia social.
Esto requiere integrar evaluaciones de impacto en derechos fundamentales y estructuras de gobernanza ética dentro de las organizaciones, como comités o ethics boards.
8. Sostenibilidad
Para este informe nos centramos únicamente en la sostenibilidad medioambiental, aunque el principio ético se extiende a la dimensión social y económica, garantizando que el desarrollo tecnológico respete los límites planetarios y contribuya activamente a la reducción de brechas de desigualdad y a la viabilidad del modelo de negocio a largo plazo.
Ciñéndonos solo a la parte analizada, concluimos que la inteligencia artificial también tiene un impacto ambiental significativo, especialmente en procesos de entrenamiento de modelos.
Por ello, las organizaciones deben empezar a medir y gestionar:
- la huella de carbono asociada al entrenamiento e inferencia.
- el consumo energético de infraestructuras de IA.
- la proporcionalidad tecnológica de cada solución.
La sostenibilidad se está convirtiendo rápidamente en un nuevo criterio de gobernanza tecnológica.
3. Ética, regulación y ventaja competitiva
Existe una percepción bastante extendida de que la ética y la regulación son frenos a la innovación tecnológica.
La realidad apunta más bien en la dirección contraria.
Las organizaciones que integran gobernanza, ética y cumplimiento desde el diseño desarrollan sistemas de inteligencia artificial más robustos, más fiables y, en última instancia, más sostenibles desde el punto de vista empresarial.
En un contexto en el que Europa avanza hacia marcos regulatorios cada vez más exigentes —como el AI Act—, la adopción temprana de prácticas de IA responsable no es solo una cuestión reputacional o ética.
Es, cada vez más, una cuestión de estrategia empresarial.
Pablo Fdez. Burgueño 