Proveedor o responsable del despliegue de IA conectada al ERP según el Reglamento de IA de la UE

Descubre cuándo usar, encargar o modificar IA conectada al ERP puede generar obligaciones de proveedor y qué hechos determinan tu papel según el Reglamento de IA.

DigiventiÚltima revisión · 8 min de lectura
En este artículo

Comprar acceso a un modelo de IA no resuelve quién es responsable del sistema conectado al ERP que se construye a su alrededor. La empresa puede estar utilizando una funcionalidad terminada de un suministrador, encargando su propio asistente o creando una nueva aplicación a partir de un modelo, datos empresariales y conexiones con flujos de trabajo. Cada situación requiere un análisis jurídico diferente.

El punto de partida útil es identificar el sistema que se suministra o se pone en servicio, su finalidad prevista y la organización bajo cuyo nombre entra en funcionamiento. Saber si el asistente está dentro de la interfaz del ERP o se conecta desde fuera ayuda a describir la solución. Por sí solo, no determina el papel que corresponde según el Reglamento de IA de la UE.

El proveedor y el responsable del despliegue realizan actividades distintas

Las definiciones del Reglamento de IA distinguen entre un proveedor que desarrolla un sistema de IA, o encarga su desarrollo, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca, y un responsable del despliegue que utiliza un sistema de IA bajo su autoridad. La definición de proveedor abarca tanto el suministro remunerado como el gratuito.

Por eso importa quién encarga el desarrollo. Pagar a una empresa de desarrollo para que escriba el software no la convierte automáticamente en el proveedor del sistema resultante. Hay que examinar quién encarga el desarrollo del sistema y bajo qué nombre se suministra o se utiliza por primera vez. La puesta en servicio incluye expresamente el primer uso para fines propios de una organización en la Unión, por lo que el uso interno no excluye automáticamente la condición de proveedor.

También conviene separar el modelo de la aplicación. El Reglamento reconoce al proveedor posterior que integra un modelo de IA suministrado por otra entidad. Por tanto, una empresa puede ser proveedora de un sistema de IA conectado al ERP sin haber desarrollado el modelo subyacente. Integrar un modelo de terceros no basta, por sí solo, para establecer que la empresa sea proveedora de un modelo de IA de uso general.

La pregunta práctica no es solo «¿Quién nos vendió la IA?», sino «¿Qué ha desarrollado o suministrado cada parte y qué sistema estamos poniendo ahora en servicio?».

La arquitectura ayuda a delimitar el sistema

El webinario sobre agentes y ERP contrapone la IA integrada en el software ERP con la IA externa conectada mediante interfaces como API y servidores MCP. Son patrones de arquitectura útiles para trazar la cadena de integración, no una base para asignar una condición jurídica.

Pensemos en un asistente al que se le pide tramitar una factura. La conversación sobre transformación empresarial contrapone los agentes probabilísticos con la ejecución determinista de flujos de trabajo: en lugar de improvisar la tramitación de una factura, un agente puede invocar un flujo ya construido. Esa distinción permite visualizar los límites. Interpretar la solicitud, seleccionar una herramienta y ejecutar el flujo contable pueden ser partes separadas de la solución.

Para asignar los distintos papeles, dibuja esas partes e identifica quién las suministra. ¿El proveedor del ERP suministra el asistente completo y documenta su uso? ¿Un integrador suministra una aplicación independiente? ¿O tu empresa encarga la orquestación, la recuperación de información y la interfaz como un sistema propio? Un agente externo podría ser un producto terminado de un suministrador; una interfaz integrada podría dar acceso a un sistema encargado por tu empresa. La ubicación no es el factor decisivo.

Las ventajas y desventajas de invertir en IA integrada en el ERP o agentes externos siguen siendo una cuestión distinta. La arquitectura elegida también necesita su propio análisis de responsabilidades.

Las reglas de la cadena de valor para sistemas de alto riesgo son más específicas

No hay que confundir la definición general de proveedor con las reglas especiales para sistemas de alto riesgo existentes. Las disposiciones del artículo 25 sobre la cadena de valor identifican las circunstancias en las que un distribuidor, importador, responsable del despliegue u otro tercero se considera proveedor de un sistema de IA de alto riesgo y queda sujeto a las obligaciones del proveedor previstas en el artículo 16.

  • Poner su nombre o marca en un sistema de alto riesgo existente, sin perjuicio de los acuerdos contractuales que asignen las obligaciones de otro modo.
  • Modificar sustancialmente un sistema de alto riesgo existente de manera que siga siendo de alto riesgo.
  • Cambiar la finalidad prevista de un sistema existente que antes no era de alto riesgo, de manera que pase a serlo.

No se trata de una regla general por la que toda integración con un ERP transfiera la responsabilidad del proveedor. Tampoco debe calificarse cualquier cambio técnico como una modificación sustancial. El texto sobre la aplicación del Reglamento alojado por la Comisión describe el criterio jurídico en relación con cambios no previstos o planificados en la evaluación inicial de la conformidad que afecten al cumplimiento de los requisitos para sistemas de alto riesgo o modifiquen la finalidad prevista para la que se evaluó el sistema.

Crear un sistema nuevo a partir de componentes es una vía distinta. Ese mismo texto distingue entre ensamblar y suministrar un nuevo sistema de IA y modificar un sistema existente de otro proveedor. Su explicación atribuye al integrador la responsabilidad como proveedor del nuevo sistema en su conjunto. La información sobre el cumplimiento de los componentes ayuda a asumir esa responsabilidad, pero no la sustituye.

Al revisar un cambio, establece primero si estás configurando un sistema existente, modificándolo o creando uno nuevo. Después examina la definición o el supuesto específico para sistemas de alto riesgo que corresponda. Empezar por «hemos cambiado algo de código» pasa por alto la distinción importante.

Ejemplos de asignación de responsabilidades en IA conectada al ERP

Ejemplo ilustrativo: utilizar una funcionalidad tal como la suministra el proveedor

Una empresa activa un asistente con la marca del suministrador para resumir registros de compras, dentro de la finalidad y las condiciones documentadas por este. El punto de partida es el uso del sistema del suministrador bajo la autoridad de la empresa, lo que apunta a la definición de responsable del despliegue.

Confirma qué suministra realmente el proveedor. Comprueba si la empresa se ha limitado a configurar la funcionalidad o ha encargado un sistema adicional a su alrededor, si la marca identifica al suministrador y si el uso previsto se mantiene dentro de la finalidad documentada. Una suscripción al ERP no responde por sí sola a esas preguntas.

Ejemplo ilustrativo: encargar un asistente de uso interno con marca propia

Una empresa encarga un asistente bajo su propio nombre. Un contratista conecta un modelo de terceros con los registros de compras y un flujo de facturas establecido, y los empleados utilizan internamente la aplicación resultante.

En este caso, «hemos comprado el modelo» y «lo ha construido el contratista» son respuestas incompletas. Encargar el desarrollo de un sistema de IA y ponerlo en servicio bajo el nombre de la empresa puede encajar en la definición general de proveedor, incluso cuando se destina a uso propio. Examina el entregable encargado, el primer uso previsto y la identidad bajo la que entra en servicio el sistema completo. Si la solución reúne componentes para crear un sistema nuevo, analiza ese nuevo sistema en lugar de dar por hecho que se trata de una modificación sustancial del producto del proveedor del modelo.

Ejemplo ilustrativo: reutilizar un asistente para selección de personal

Una empresa toma un sistema de IA de uso general de un tercero, no clasificado como de alto riesgo, y lo integra en un proceso interno para filtrar candidaturas. El ejemplo de selección de personal del texto sobre la aplicación del Reglamento alojado por la Comisión considera que este cambio de finalidad crea un sistema de alto riesgo y convierte al responsable del despliegue en su proveedor conforme al artículo 25, apartado 1, letra c).

Se trata de un uso concreto en selección de personal, no de una clasificación de toda la asistencia en recursos humanos o de toda la IA del ERP. Examina si el asistente está filtrando candidaturas, qué influencia tienen sus resultados y cómo se clasifica el sistema resultante. Ponerle la etiqueta «asistente de recursos humanos» no describe la decisión a la que presta apoyo.

En todos estos ejemplos, la finalidad prevista va más allá del nombre interno del proyecto. La definición legal incluye el contexto y las condiciones específicos descritos en las instrucciones, los materiales y declaraciones promocionales o comerciales y la documentación técnica. Compara esos documentos con el uso que pretendes introducir.

Deja clara la responsabilidad antes de encargar el desarrollo

Reúne en una misma revisión la descripción del sistema, el alcance del desarrollo, la marca, la finalidad prevista y los cambios propuestos. Pide a cada suministrador que identifique qué aporta y qué documentación respalda esos límites. Determina el papel jurídico a partir de los hechos y después alinea el acuerdo de ejecución y la entrega con esa conclusión.

Cuando concurren los supuestos de la cadena de valor para sistemas de alto riesgo, la consecuencia son las obligaciones del proveedor previstas en el artículo 16, no un simple cambio de etiqueta del proyecto. Antes de aprobar ese alcance, establece cómo obtendrá la organización responsable la información y el apoyo técnico necesarios para el sistema completo.

Mantén separadas la asignación del papel jurídico y la autoridad operativa. La distinción entre redactar, aprobar y ejecutar acciones en Odoo sigue siendo útil: el permiso para preparar contenido no debería implicar permiso para hacer efectivo un cambio. Pero un control de aprobación humana no responde por sí solo a quién ha desarrollado o suministrado el sistema. Del mismo modo, planifica la alfabetización en IA según las funciones junto con el trabajo sobre el sistema, en lugar de tratar la formación de los empleados como sustituto del análisis del papel de la organización.

Si tu proyecto de IA para el ERP implica un desarrollo por encargo o un cambio de finalidad empresarial, comenta los límites del sistema y el trabajo técnico necesario con los consultores del Reglamento de IA de la UE y especialistas en IA de Digiventi antes de cerrar el alcance de la ejecución.

¿Necesitas ayuda con datos e IA?

Proporcionamos consultores IT para proyectos y trabajo técnico continuo. Cuéntanos qué ayuda necesitas.

Contáctanos
Volver a todos los artículos