Fornitore e deployer nell’AI Act UE per le integrazioni AI con l’ERP

Quando usare, commissionare o modificare l’AI collegata all’ERP può creare obblighi da fornitore e quali fatti determinano il ruolo secondo l’AI Act UE.

DigiventiUltima revisione · 8 min di lettura
In questo articolo

Acquistare l’accesso a un modello AI non chiarisce chi sia responsabile del sistema collegato all’ERP che viene costruito attorno a quel modello. L’azienda potrebbe utilizzare una funzionalità completa del fornitore, commissionare un proprio assistente oppure assemblare una nuova applicazione combinando un modello, dati aziendali e collegamenti ai flussi operativi. Queste situazioni richiedono analisi giuridiche diverse.

Il punto di partenza utile è identificare il sistema fornito o messo in servizio, la sua finalità prevista e l’organizzazione sotto il cui nome entra in servizio. Sapere se l’assistente si trova nell’interfaccia ERP o si collega dall’esterno aiuta a descrivere la soluzione. Da solo, però, questo elemento non determina il ruolo ai sensi dell’AI Act UE.

Fornitore e deployer descrivono attività diverse

Le definizioni dell’AI Act distinguono il fornitore, che sviluppa un sistema di AI o lo fa sviluppare e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio, dal deployer, che utilizza un sistema di AI sotto la propria autorità. La definizione di fornitore comprende sia la fornitura a pagamento sia quella gratuita.

Per questo, commissionare lo sviluppo è un elemento importante. Pagare una società di sviluppo perché realizzi il software non rende automaticamente quella società il fornitore del sistema risultante. Occorre esaminare chi fa sviluppare il sistema e sotto quale nome viene fornito o utilizzato per la prima volta. La messa in servizio di un sistema di AI comprende espressamente il primo utilizzo per uso proprio nell’Unione: l’uso interno, quindi, non esclude automaticamente il ruolo di fornitore.

Tenete separati anche il modello e l’applicazione. Il regolamento riconosce la figura del fornitore a valle, che integra in un sistema di AI un modello fornito da un altro soggetto. Un’azienda può quindi essere il fornitore di un sistema di AI collegato all’ERP senza aver sviluppato il modello sottostante. Integrare un modello di terzi non basta, di per sé, a rendere l’azienda un fornitore di modelli di AI per finalità generali.

La domanda pratica non è soltanto «Chi ci ha venduto l’AI?», ma «Che cosa ha sviluppato o fornito ciascuna parte e quale sistema stiamo mettendo in servizio?».

L’architettura aiuta a individuare il perimetro del sistema

Il webinar sugli agenti AI per l’ERP mette a confronto l’AI integrata nel software ERP con l’AI esterna collegata tramite interfacce come API e server MCP. Sono schemi architetturali utili per ricostruire la catena di integrazione, non una base per assegnare un ruolo giuridico.

Considerate un assistente a cui viene chiesto di elaborare una fattura. La discussione sulla trasformazione aziendale contrappone gli agenti probabilistici all’esecuzione deterministica dei flussi: anziché improvvisare l’elaborazione della fattura, un agente può richiamare un flusso già costruito. Questa distinzione rende concreto il perimetro. Interpretare la richiesta, scegliere uno strumento ed eseguire il flusso contabile possono essere parti separate della soluzione.

Per attribuire i ruoli, rappresentate queste parti e identificate chi le fornisce. Il fornitore ERP mette a disposizione l’assistente completo e ne documenta l’uso? Un integratore fornisce un’applicazione separata? Oppure è la vostra azienda a commissionare l’orchestrazione, il recupero delle informazioni e l’interfaccia come sistema proprio? Un agente esterno potrebbe essere un prodotto completo di un fornitore; un’interfaccia incorporata nell’ERP potrebbe dare accesso a un sistema commissionato dalla vostra azienda. La collocazione non è il fattore decisivo.

I compromessi di investimento tra AI integrata nell’ERP e agenti esterni restano una questione distinta. Anche l’architettura preferita richiede una propria analisi dei ruoli.

Le regole per la catena del valore dei sistemi ad alto rischio sono più specifiche

Non confondete la definizione generale di fornitore con le regole speciali per i sistemi ad alto rischio già esistenti. Le disposizioni dell’articolo 25 sulla catena del valore individuano le circostanze in cui un distributore, importatore, deployer o altro terzo è considerato fornitore di un sistema di AI ad alto rischio ed è soggetto agli obblighi del fornitore previsti dall’articolo 16.

  • Apporre il proprio nome o marchio su un sistema ad alto rischio già esistente, fatti salvi gli accordi contrattuali che ripartiscono diversamente gli obblighi.
  • Apportare una modifica sostanziale a un sistema ad alto rischio già esistente, in modo tale che rimanga ad alto rischio.
  • Modificare la finalità prevista di un sistema già esistente, precedentemente non classificato ad alto rischio, in modo tale che diventi ad alto rischio.

Queste disposizioni non costituiscono una regola generale secondo cui qualsiasi integrazione con l’ERP trasferisce la responsabilità del fornitore. Né ogni cambiamento tecnico va definito modifica sostanziale. Il testo sull’attuazione pubblicato sul sito della Commissione descrive il criterio giuridico facendo riferimento a cambiamenti non previsti o pianificati nella valutazione iniziale della conformità che incidono sul rispetto dei requisiti per i sistemi ad alto rischio, oppure modificano la finalità prevista per la quale il sistema è stato valutato.

Creare un nuovo sistema a partire da componenti è un percorso diverso. Lo stesso testo distingue l’assemblaggio e la fornitura di un nuovo sistema di AI dalla modifica di un sistema già esistente di un altro fornitore. La spiegazione attribuisce all’integratore la responsabilità come fornitore del nuovo sistema nel suo complesso: le informazioni sulla conformità dei componenti aiutano ad adempiere tale responsabilità, ma non la sostituiscono.

Nel valutare un cambiamento, stabilite prima se state configurando un sistema esistente, modificandolo oppure creandone uno nuovo. Esaminate poi la definizione pertinente o la condizione che fa scattare le regole per l’alto rischio. Partire da «abbiamo modificato del codice» significa saltare la distinzione che conta.

Esempi di attribuzione dei ruoli per l’AI collegata all’ERP

Esempio illustrativo: usare una funzionalità del fornitore così come viene fornita

Un’azienda attiva un assistente con il marchio del fornitore per riepilogare i dati sugli acquisti, rispettando la finalità e le condizioni documentate dal fornitore. Il punto di partenza è l’utilizzo del sistema del fornitore sotto l’autorità dell’azienda, una situazione che orienta verso la definizione di deployer.

Verificate che cosa fornisce effettivamente il fornitore. Controllate se l’azienda ha semplicemente configurato la funzionalità o ha commissionato un sistema aggiuntivo attorno a essa, se il marchio identifica il fornitore e se l’uso previsto rimane entro la finalità documentata. Un abbonamento ERP, da solo, non risponde a queste domande.

Esempio illustrativo: commissionare un assistente con il nome dell’azienda

Un’azienda commissiona un assistente con il proprio nome. Un incaricato collega un modello di terzi ai dati sugli acquisti e a un flusso consolidato di gestione delle fatture; i dipendenti utilizzano internamente l’applicazione risultante.

In questo caso, «abbiamo acquistato il modello» e «lo ha costruito l’incaricato» sono risposte incomplete. Far sviluppare un sistema di AI e metterlo in servizio con il nome dell’azienda può soddisfare la definizione generale di fornitore, anche per uso proprio. Esaminate il risultato dello sviluppo commissionato, il primo utilizzo previsto e l’identità sotto cui il sistema completo entra in servizio. Se la soluzione assembla componenti per creare un nuovo sistema, analizzate quel nuovo sistema anziché presumere che si tratti di una modifica sostanziale del prodotto del fornitore del modello.

Esempio illustrativo: destinare un assistente alla selezione del personale

Un’azienda prende un sistema di AI per finalità generali di terzi, non classificato ad alto rischio, e lo integra in un processo interno per vagliare le candidature. L’esempio sulla selezione del personale nel testo sull’attuazione pubblicato sul sito della Commissione considera questo cambiamento di finalità come la creazione di un sistema ad alto rischio, che rende il deployer il relativo fornitore ai sensi dell’articolo 25, paragrafo 1, lettera c).

Si tratta di uno specifico uso nella selezione del personale, non di una classificazione di tutta l’assistenza AI alle risorse umane o di tutta l’AI nell’ERP. Esaminate se l’assistente vaglia effettivamente le candidature, quale influenza hanno i suoi risultati e come viene classificato il sistema risultante. La semplice etichetta «assistente HR» non descrive la decisione che il sistema supporta.

In tutti questi esempi, la finalità prevista è più di un nome interno del progetto. La definizione normativa comprende il contesto e le condizioni specifiche descritti nelle istruzioni, nei materiali promozionali o di vendita, nelle dichiarazioni e nella documentazione tecnica. Confrontate questi documenti con l’uso che intendete introdurre.

Chiarire le responsabilità prima di commissionare lo sviluppo

Esaminate insieme la descrizione del sistema, il perimetro dello sviluppo, il nome o marchio utilizzato, la finalità prevista e i cambiamenti proposti. Chiedete a ciascun fornitore di identificare che cosa fornisce e quale documentazione ne supporta il perimetro. Determinate il ruolo previsto dalla normativa sulla base dei fatti, poi allineate l’accordo di realizzazione e il passaggio di consegne a tale conclusione.

Quando ricorrono le condizioni previste per la catena del valore dei sistemi ad alto rischio, la conseguenza è l’applicazione degli obblighi del fornitore ai sensi dell’articolo 16, non un semplice cambiamento di etichetta del progetto. Prima di approvare quel perimetro, stabilite come l’organizzazione responsabile otterrà le informazioni e il supporto tecnico necessari per il sistema completo.

Tenete distinta l’attribuzione dei ruoli giuridici dall’autorità operativa. La distinzione tra preparare bozze, approvare ed eseguire azioni in Odoo rimane utile: il permesso di preparare contenuti non dovrebbe implicare quello di rendere effettiva una modifica. Tuttavia, un passaggio di approvazione umana non chiarisce, da solo, chi abbia sviluppato o fornito il sistema. Allo stesso modo, pianificate l’alfabetizzazione in materia di AI specifica per ruolo insieme al lavoro sul sistema, senza trattare la formazione dei dipendenti come un sostituto dell’analisi del ruolo dell’organizzazione.

Se il vostro progetto di AI per l’ERP prevede sviluppo su commissione o un cambiamento della finalità aziendale, confrontatevi sul perimetro del sistema e sul lavoro tecnico necessario con i consulenti AI Act e specialisti AI di Digiventi prima di definire il perimetro della realizzazione.

Ti serve aiuto con dati e AI?

Forniamo consulenti IT per progetti e attività tecniche continuative. Raccontaci di cosa hai bisogno.

Contattaci
Torna a tutti gli articoli