Dostawca a podmiot stosujący według AI Act przy integracji AI z ERP

Sprawdź, kiedy używanie, zlecanie lub zmiana AI połączonej z ERP może oznaczać obowiązki dostawcy i jakie fakty określają rolę firmy według AI Act.

DigiventiOstatnia weryfikacja · 6 min czytania
W tym artykule

Zakup dostępu do modelu AI nie rozstrzyga, kto odpowiada za zbudowany wokół niego system połączony z ERP. Firma może korzystać z gotowej funkcji dostawcy, zlecić stworzenie własnego asystenta albo zbudować nową aplikację z modelu, danych biznesowych i połączeń z procesami. Każda z tych sytuacji wymaga innej analizy prawnej.

Warto zacząć od ustalenia, jaki system jest dostarczany lub oddawany do użytku, jakie jest jego przeznaczenie i pod nazwą której organizacji jest uruchamiany. To, czy asystent działa wewnątrz interfejsu ERP, czy łączy się z nim z zewnątrz, pomaga opisać rozwiązanie. Samo w sobie nie określa jednak roli w rozumieniu unijnego aktu w sprawie AI.

Dostawca i podmiot stosujący wykonują różne czynności

Definicje w AI Act rozróżniają dostawcę, który opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym, od podmiotu stosującego, który wykorzystuje system AI pod swoją kontrolą. Definicja dostawcy obejmuje dostarczanie zarówno odpłatne, jak i nieodpłatne.

Dlatego znaczenie ma zlecenie opracowania systemu. Zapłacenie firmie programistycznej za napisanie oprogramowania nie czyni jej automatycznie dostawcą powstałego systemu. Trzeba zbadać, kto zleca jego opracowanie oraz pod czyją nazwą jest on dostarczany lub po raz pierwszy używany. Oddanie systemu AI do użytku obejmuje wprost pierwsze użycie na własne potrzeby organizacji w Unii, więc użytek wewnętrzny nie wyklucza automatycznie statusu dostawcy.

Oddzielaj też model od aplikacji. Akt przewiduje rolę dostawcy niższego szczebla, który integruje w systemie AI model dostarczony przez inny podmiot. Firma może zatem być dostawcą systemu AI połączonego z ERP, mimo że nie opracowała modelu będącego jego podstawą. Sam fakt integracji modelu zewnętrznego nie przesądza, że firma jest dostawcą modelu AI ogólnego przeznaczenia.

Praktyczne pytanie nie brzmi więc tylko: „Kto sprzedał nam AI?”. Brzmi raczej: „Co każda ze stron opracowała lub dostarczyła i jaki system oddajemy teraz do użytku?”.

Architektura pomaga ustalić granice systemu

Webinar o agentach AI w ERP zestawia AI wbudowaną w oprogramowanie ERP z zewnętrzną AI połączoną przez interfejsy takie jak API i serwery MCP. Te wzorce architektoniczne pomagają prześledzić łańcuch integracji, ale nie stanowią podstawy do przypisania statusu prawnego.

Rozważmy asystenta, który ma przetworzyć fakturę. W rozmowie o transformacji przedsiębiorstw zestawiono probabilistyczne działanie agentów z deterministycznym wykonywaniem procesów: zamiast improwizować obsługę faktury, agent może wywołać wcześniej zbudowany proces. To rozróżnienie pozwala konkretnie zobaczyć granice systemu. Interpretacja żądania, wybór narzędzia i wykonanie procesu księgowego mogą być odrębnymi elementami rozwiązania.

Aby przypisać role, rozrysuj te elementy i wskaż ich dostawców. Czy producent ERP dostarcza kompletnego asystenta wraz z udokumentowanym sposobem użycia? Czy integrator dostarcza odrębną aplikację? A może firma zleca stworzenie warstwy orkiestracji, wyszukiwania informacji i interfejsu jako własnego systemu? Zewnętrzny agent może być gotowym produktem dostawcy, a wbudowany interfejs może obsługiwać system opracowany na zlecenie firmy. Miejsce działania nie jest rozstrzygające.

Argumenty inwestycyjne przemawiające za AI wbudowaną w ERP lub zewnętrznymi agentami pozostają odrębnym zagadnieniem. Wybrana architektura nadal wymaga własnej analizy ról.

Reguły łańcucha wartości dla systemów wysokiego ryzyka są bardziej szczegółowe

Nie utożsamiaj ogólnej definicji dostawcy ze szczególnymi regułami dotyczącymi istniejących systemów wysokiego ryzyka. Przepisy art. 25 dotyczące łańcucha wartości wskazują okoliczności, w których dystrybutor, importer, podmiot stosujący lub inna osoba trzecia jest uznawana za dostawcę systemu AI wysokiego ryzyka i podlega obowiązkom dostawcy określonym w art. 16.

  • Umieszczenie własnej nazwy lub znaku towarowego na istniejącym systemie wysokiego ryzyka, bez uszczerbku dla ustaleń umownych przewidujących inny podział obowiązków.
  • Dokonanie istotnej modyfikacji istniejącego systemu wysokiego ryzyka w taki sposób, że nadal pozostaje on systemem wysokiego ryzyka.
  • Zmiana przeznaczenia istniejącego systemu, który wcześniej nie był systemem wysokiego ryzyka, w taki sposób, że staje się on systemem wysokiego ryzyka.

Nie oznacza to ogólnej zasady, zgodnie z którą każda integracja z ERP przenosi odpowiedzialność dostawcy. Nie każdą zmianę techniczną należy też nazywać istotną modyfikacją. Materiał dotyczący wdrażania aktu, opublikowany w serwisie Komisji, opisuje kryterium prawne przez odniesienie do zmian nieprzewidzianych ani niezaplanowanych podczas pierwotnej oceny zgodności, które wpływają na zgodność z wymogami dla systemów wysokiego ryzyka lub zmieniają przeznaczenie, dla którego system został oceniony.

Tworzenie nowego systemu z komponentów to inna sytuacja. Ten sam materiał rozróżnia zbudowanie i dostarczenie nowego systemu AI od modyfikacji istniejącego systemu innego dostawcy. Zgodnie z tym wyjaśnieniem integrator odpowiada jako dostawca nowego systemu jako całości, a informacje o zgodności poszczególnych komponentów pomagają mu wywiązać się z tej odpowiedzialności, zamiast ją zastępować.

Przy przeglądzie zmian najpierw ustal, czy konfigurujesz istniejący system, zmieniasz go, czy tworzysz nowy. Następnie przeanalizuj właściwą definicję lub przesłankę dotyczącą wysokiego ryzyka. Rozpoczęcie od stwierdzenia „zmieniliśmy trochę kodu” pomija kluczowe rozróżnienie.

Przykłady przypisania ról przy AI połączonej z ERP

Przykład korzystania z funkcji dostawcy w dostarczonej postaci

Firma uruchamia asystenta oznaczonego marką dostawcy, aby podsumowywać dane zakupowe, zgodnie z przeznaczeniem i warunkami udokumentowanymi przez dostawcę. Punktem wyjścia jest korzystanie z systemu dostawcy pod kontrolą firmy, co wskazuje na definicję podmiotu stosującego.

Potwierdź, co faktycznie dostarcza dostawca. Sprawdź, czy firma jedynie skonfigurowała funkcję, czy zleciła stworzenie dodatkowego systemu wokół niej, czy oznaczenie marki wskazuje dostawcę oraz czy planowane użycie mieści się w udokumentowanym przeznaczeniu. Sam abonament ERP nie odpowiada na te pytania.

Przykład zlecenia asystenta pod własną marką

Firma zleca stworzenie asystenta pod własną nazwą. Wykonawca łączy model zewnętrzny z danymi zakupowymi i istniejącym procesem obsługi faktur, a pracownicy korzystają z powstałej aplikacji wewnętrznie.

W tym przypadku „kupiliśmy model” i „wykonawca to zbudował” to niepełne odpowiedzi. Zlecenie opracowania systemu AI i oddanie go do użytku pod własną nazwą firmy może spełniać ogólną definicję dostawcy, także przy użytkowaniu na własne potrzeby. Zbadaj przedmiot zlecenia, pierwsze zamierzone użycie oraz tożsamość, pod którą kompletny system jest oddawany do użytku. Jeśli rozwiązanie łączy komponenty w nowy system, analizuj ten nowy system, zamiast zakładać, że jest on istotną modyfikacją produktu dostawcy modelu.

Przykład zmiany przeznaczenia asystenta na rekrutację

Firma wykorzystuje zewnętrzny system AI ogólnego przeznaczenia, niesklasyfikowany jako system wysokiego ryzyka, i integruje go z wewnętrznym procesem selekcji aplikacji o pracę. Przykład rekrutacyjny w materiale dotyczącym wdrażania aktu, opublikowanym w serwisie Komisji, traktuje taką zmianę przeznaczenia jako utworzenie systemu wysokiego ryzyka, którego dostawcą staje się podmiot stosujący na podstawie art. 25 ust. 1 lit. c.

Jest to konkretne zastosowanie rekrutacyjne, a nie klasyfikacja wszystkich asystentów HR czy AI w ERP. Zbadaj, czy asystent rzeczywiście dokonuje selekcji aplikacji, jaki wpływ mają jego wyniki oraz jak klasyfikowany jest powstały system. Samo nadanie etykiety „asystent HR” nie opisuje decyzji, którą system wspiera.

We wszystkich tych przykładach przeznaczenie oznacza więcej niż wewnętrzną nazwę projektu. Definicja ustawowa obejmuje konkretny kontekst i warunki opisane w instrukcjach, materiałach promocyjnych lub sprzedażowych, oświadczeniach i dokumentacji technicznej. Porównaj te dokumenty z zastosowaniem, które zamierzasz wprowadzić.

Ustal odpowiedzialność przed zleceniem prac

Przeanalizuj łącznie opis systemu, zakres prac rozwojowych, oznaczenie marki, przeznaczenie i planowane zmiany. Poproś każdego dostawcę o wskazanie, co dostarcza i jaka dokumentacja potwierdza tę granicę. Ustal rolę wynikającą z przepisów na podstawie faktów, a następnie dostosuj do tego wniosku umowę realizacyjną i przekazanie rozwiązania.

Jeżeli spełnione są przesłanki dotyczące łańcucha wartości systemów wysokiego ryzyka, konsekwencją są obowiązki dostawcy z art. 16, a nie tylko inna etykieta projektu. Zanim zatwierdzisz taki zakres, ustal, jak odpowiedzialna organizacja uzyska informacje i wsparcie techniczne potrzebne dla kompletnego systemu.

Oddziel przypisanie ról prawnych od uprawnień operacyjnych. Rozróżnienie między przygotowywaniem, zatwierdzaniem i wykonywaniem działań w Odoo pozostaje użyteczne: uprawnienie do przygotowania treści nie powinno oznaczać uprawnienia do wprowadzenia zmiany. Wymóg zatwierdzenia przez człowieka sam w sobie nie odpowiada jednak na pytanie, kto opracował lub dostarczył system. Podobnie zaplanuj kompetencje w zakresie AI dostosowane do ról równolegle z pracami nad systemem, zamiast traktować szkolenia pracowników jako zamiennik analizy roli organizacji.

Jeśli projekt AI w ERP obejmuje opracowanie rozwiązania na zlecenie lub zmianę celu biznesowego, omów granice systemu i związane z nimi prace techniczne z konsultantami ds. unijnego aktu w sprawie AI i specjalistami AI w Digiventi, zanim ustalisz zakres realizacji.

Potrzebujesz pomocy z danymi i AI?

Zapewniamy konsultantów IT do projektów i bieżących prac technicznych. Napisz, jakiej pomocy potrzebujesz.

Skontaktuj się z nami
Wróć do wszystkich artykułów