Las obligaciones sobre transparencia que se contienen en el Reglamento Europeo de IA, se articulan sobre la siguiente idea: resulta fundamental garantizar que cualquier persona sepa cuando trata con una máquina, o cuándo un contenido ha sido fabricado o alterado por ella.
Estas garantías se han incorporado al artículo 50 del Reglamento, como obligaciones y previsiones concretas de transparencia que serán plenamente aplicables a partir del 2 de agosto de 2026 (2 de diciembre de 2026 para determinadas medidas técnicas de etiquetado, marcado legible por máquina y detección, para sistemas introducidos en el mercado antes del 2 de agosto de 2026).
Como primer paso, la clave está en determinar el papel que desempeña la organización en relación con los sistemas de Inteligencia Artificial, es decir, a) el de proveedor, que será quien desarrolla o pone en el mercado el sistema, o b) el de responsable del despliegue, que será quien lo utiliza bajo su autoridad.
Para entender la distinción consideraremos, por ejemplo, responsable del despliegue a quien se limita a usar una herramienta generativa contratada a un tercero, y como proveedor, a ese tercero que la desarrolla o la pone a disposición del usuario.
El propio Reglamento reparte las obligaciones entre ambas figuras, y toma en cuenta la circunstancia de que una misma empresa pueda ser proveedor de un sistema y al mismo tiempo, responsable del despliegue de otro.
En este punto resulta necesario precisar que las obligaciones de transparencia del art. 50, aplican y alcanzan a herramientas tan cotidianas como los chatbots de atención al cliente o a herramientas de IA generativa que todos hemos utilizado alguna vez, no solo a sistemas catalogados como de “alto riesgo”.
SUPUESTOS:
- Interacción directa con personas (art. 50.1 — proveedor).Quien desarrolla un sistema concebido para interactuar directamente con personas debe diseñarlo de modo que el usuario sepa que se comunica con una IA y no con un ser humano.
La obligación decae cuando la ello resulta evidente para una persona razonablemente informada, observadora y perspicaz, atendiendo a las circunstancias y el contexto de la interacción.
- Marcado de contenido sintético (art. 50.2 — proveedor).Quien provee un sistema que genera audio, imagen, vídeo o texto sintéticos debe marcar esas salidas en un formato legible, por medios técnicos, de manera que pueda detectarse que el contenido ha sido generado o manipulado artificialmente.
Esta es una obligación técnica, no se cumple con un mero aviso al usuario. Esta previsión, impone que el marcado debe ser eficaz, interoperable, robusto y fiable.
Quedarán fuera de esta obligación de marcado los usos meramente asistenciales o de edición estándar que no alteran sustancialmente la entrada del usuario.
- Reconocimiento de emociones y categorización biométrica (art. 50.3 — responsable del despliegue).Quien utiliza sistemas de reconocimiento de emociones o de categorización biométrica debe informar de su funcionamiento a las personas expuestas y tratar sus datos conforme al RGPD.
La obligación no se aplica a determinados usos autorizados por ley para fines de seguridad pública, con las garantías correspondientes.
- Ultrasuplantaciones y textos de interés público (art. 50.4 — responsable del despliegue).Quien emplea un sistema para generar o manipular imágenes, audio o vídeo que constituyan una ultrasuplantación (deepfake) debe revelar que el contenido es artificial.
Para los textos destinados a informar sobre asuntos de interés público, debe revelarse su origen artificial, salvo que haya mediado revisión humana o control editorial, y exista una persona física o jurídica que asuma la responsabilidad de la publicación.
Una vez que sean plenamente aplicables las previsiones del art. 50 del RIA, las empresas que crean o integran chatbots y asistentes conversacionales, que generan o editan texto, imágenes, audio o vídeo con herramientas de IA, y las que incorporan estas soluciones en atención al cliente, marketing, comunicación o creación de contenidos, deberán haber revisado ya su situación y haberse adaptado al nuevo régimen.
En cualquier adaptación a un sistema normativo, es tan importante cumplir con las obligaciones impuestas por la norma, como crear evidencias de cumplimiento. Por ello, además de cumplir con la norma, se considera recomendable implementar en la organización una serie de “buenas prácticas” tendentes a facilitar la trazabilidad de los Sistemas de IA. En concreto:
- Crear un inventario de los sistemas de IA en uso, e identificar cuáles entran en alguno de los cuatro supuestos del art. 50 RIA.
- Determinar el papel de la organización en cada sistema; revisar interfaces, canales y flujos de publicación para incorporar los avisos donde sean exigibles.
- Conservar la evidencia documental del cumplimiento y su cadena de custodia.
- Gestión y control de los proveedores tecnológicos mediante previsiones contractuales y exigencias de la norma.
- Formación y concienciación a los equipos de tecnología, legal, compliancey comunicación, que tendrán que coordinarse para que el etiquetado funcione.
A destacar el reciente Código de Buenas Prácticas sobre la transparencia del contenido generado por IA de la Comisión Europea, cuya adhesión es voluntaria, aunque todo apunta a que se convertirá en uno de los estándares de referencia con el que reguladores y tribunales evaluarán el cumplimiento de las normas.
Desde DELOYERS, te planteamos estas cuestiones:
- ¿Identificas todos los sistemas de IA que desarrolla y/o utiliza la organización y los supuestos de riesgo en los que encaja cada una de ellas?
- ¿Se ha previsto cómo marcar, informar y etiquetar las herramientas y sus salidas?
- ¿Se han clasificado los sistemas de IA en función de la posición como proveedor vs. responsable del despliegue que ocupa la organización?
- ¿Se cuenta con políticas, asignación de responsables y documentación del proceso de la IA con evidencias válidas?
- ¿Existe supervisión humana sobre los contenidos o salidas de la IA?
En tus respuestas encontrarás un primer filtro sobre el punto en el que se encuentra tu organización.
DELOYERS te acompaña en el proceso de adaptación a las nuevas obligaciones del Reglamento Europeo y a las normas nacionales de desarrollo, y en los siguientes pasos para lograr un sistema de gobierno de la IA eficaz, trazable, y que posicione mejor a la empresa ante sus competidores.
Juan Marín Múrez
juan@deloyers.com
