Medir la ética de un sistema de inteligencia artificial supone definir qué se evalúa, con qué criterios y según qué umbrales. Desde la entrada en vigor progresiva de la AI Act europea, la cuestión ya no es un debate filosófico abstracto. Las obligaciones de transparencia del artículo 50, aplicables desde el 2 de agosto de 2026, imponen un etiquetado detectable por máquina para los contenidos sintéticos y los deepfakes. La ética de la IA se traduce ahora en pruebas documentales, auditorías y controles operativos.
Obligaciones de transparencia de la AI Act: lo que cambia concretamente desde agosto de 2026
El calendario de aplicación de la AI Act distingue varias fases. La más reciente transforma los principios éticos en restricciones verificables por los reguladores.
| Obligación | Ámbito | Entrada en aplicación |
|---|---|---|
| Notificación de interacciones con una IA (chatbots) | Cualquier sistema conversacional accesible al público | 2 de agosto de 2026 |
| Etiquetado de contenidos sintéticos y deepfakes | Contenidos generados o modificados por IA | 2 de agosto de 2026 |
| Poderes de control de la AI Office | Supervisión de modelos de uso general | 2 de agosto de 2026 |
| Códigos de práctica para modelos GPAI | Proveedores de modelos de IA de uso general | En proceso de finalización |
Esta tabla destaca un cambio: la ética de la IA pasa de una lógica de principios a una lógica de prueba. Las empresas ya no pueden contentarse con cartas internas. Deben documentar sus procesos, hacer que sus sistemas sean auditables y asegurar la trazabilidad de las decisiones algorítmicas.
Los recursos disponibles en botagora.fr permiten observar cómo algunas industrias tecnológicas integran estas restricciones regulatorias en sus prácticas de desarrollo.
Sesgos algorítmicos y datos de entrenamiento: el déficit se sitúa en la implementación
La investigación reciente identifica una paradoja. Los principios éticos aplicables a la inteligencia artificial existen en abundancia (equidad, transparencia, explicabilidad, respeto a la privacidad). En cambio, el principal déficit se refiere a la implementación operativa de estos principios, no a su formulación.
Los sesgos algorítmicos ilustran esta discrepancia. Un modelo entrenado con datos históricos reproduce los desequilibrios presentes en esos datos. El desafío técnico radica en la detección y corrección de estos sesgos antes del despliegue, no después.
- La auditoría de los conjuntos de datos de entrenamiento requiere un análisis de la representatividad de las poblaciones cubiertas, lo que implica competencias en estadísticas y ciencias sociales, no solo en informática
- Las pruebas de robustez deben incluir escenarios de estrés sobre subgrupos minoritarios, donde los errores de clasificación son a menudo más frecuentes
- La documentación de las decisiones de diseño (qué algoritmos, qué umbrales de decisión, qué datos excluidos) constituye un requisito de la AI Act para los sistemas clasificados como de alto riesgo
Producir un modelo “equitativo” no se resume a aplicar un filtro post-hoc. La equidad se construye desde la fase de recolección de datos, antes de cualquier aprendizaje.
Cosecha de datos personales: un tema regulatorio en sí mismo
El entrenamiento de modelos de IA generativa se basa en volúmenes masivos de datos, a menudo recolectados mediante cosecha automatizada de la web. Esta práctica plantea cuestiones jurídicas distintas de las que plantean los sesgos.
El scraping de datos personales se convierte en un tema regulatorio específico dentro del marco europeo. Las responsabilidades difieren según si la empresa recolecta los datos en línea por sí misma o si recurre a conjuntos de datos preexistentes proporcionados por terceros.
El cruce entre el RGPD y la AI Act crea una zona de tensión. El derecho al borrado garantizado por el RGPD se enfrenta a la dificultad técnica de retirar datos específicos de un modelo ya entrenado. Ninguna solución técnica resuelve plenamente este problema hasta la fecha.
Transparencia de los modelos GPAI
Los códigos de práctica en proceso de finalización para los modelos de IA de uso general (GPAI) buscan enmarcar esta zona gris. Los proveedores deberán documentar las fuentes de datos utilizadas, los métodos de filtrado aplicados y las medidas tomadas para respetar los derechos de autor.
La conformidad voluntaria con los códigos de práctica condiciona la conformidad regulatoria. Un proveedor que se adhiere a los códigos se beneficia de una presunción de conformidad con las obligaciones de la AI Act. Aquellos que no se adhieran deberán demostrar por otros medios que cumplen con los mismos requisitos.
Impacto en el empleo y transformación de las competencias éticas en la empresa
La transformación relacionada con la inteligencia artificial no se limita a los puestos directamente automatizados. También afecta a las competencias esperadas en los equipos de desarrollo. Diseñar un sistema de IA conforme a la AI Act requiere perfiles híbridos, capaces de navegar entre técnica, derecho y ciencias humanas.
- Los equipos de desarrollo diversos (formación, género, origen) producen sistemas cuyos sesgos se detectan más temprano en el ciclo de diseño
- La gobernanza ética de la IA en la empresa no puede basarse en un comité consultivo aislado: debe integrarse en los procesos de validación técnica, al igual que las pruebas de seguridad
- La ética por diseño integra las restricciones éticas desde el diseño, no como una capa añadida después
El principal riesgo para las empresas no es la sanción regulatoria. Es la pérdida de confianza de los usuarios ante sistemas percibidos como opacos o discriminatorios.
La AI Act estructura ahora un marco donde la ética de la inteligencia artificial se mide, documenta y controla. Las obligaciones de transparencia aplicables desde agosto de 2026 marcan el paso de una ética declarativa a una ética auditable. Las empresas que aún no han alineado sus prácticas con estos requisitos disponen de un plazo limitado antes de que las próximas fases de aplicación cubran los sistemas de alto riesgo.
