Konsultanci zgodności z unijnym aktem w sprawie AI

Konsultanci ds. zarządzania AI dołączają do zespołu, aby ustalić, które systemy podlegają unijnemu aktowi w sprawie AI i gdzie potrzebne są zmiany. Dokumentują przeznaczenie systemów oraz oceniają obowiązki dostawcy lub podmiotu stosującego. Sporne interpretacje weryfikuje prawnik.

Ocena obejmuje zakazane praktyki i potencjalną klasyfikację wysokiego ryzyka, w tym odpowiednie zastosowania z załącznika III. Powstają rejestr systemów oraz uporządkowany według priorytetów rejestr luk, który łączy wymagania z osobami odpowiedzialnymi i dowodami potrzebnymi do ich zamknięcia.

Konsultanci ds. zarządzania AI przekładają wyniki oceny na udokumentowane mechanizmy kontroli, które zespół może utrzymywać. Przypisują odpowiedzialność i ustalają sposób rejestrowania zatwierdzeń zgodnie z rolą organizacji określoną w rozporządzeniu.

• Zarządzanie AI wysokiego ryzyka: Opracowują procedury zarządzania ryzykiem i dokumentację techniczną, z określeniem odpowiedzialności za nadzór człowieka oraz zasad przechowywania dowodów.
• Obowiązki dotyczące AI ogólnego przeznaczenia: Oceniają obowiązki dostawców modeli odrębnie od obowiązków związanych z integracją. Sprawdzają dokumentację dostawców i wskazują braki dowodowe wpływające na zgodność aplikacji.

ISO/IEC 42001 może porządkować procesy zarządzania. Sama zgodność z tą normą nie potwierdza zgodności z aktem w sprawie AI.

Inżynierowie AI wdrażają zabezpieczenia tam, gdzie sama procedura nie usuwa luki. W systemach wysokiego ryzyka prace mogą obejmować kontrolę jakości zbiorów danych, ocenę stronniczości, testy dokładności oraz testy odporności według określonych kryteriów akceptacji.

Konfigurują punkty kontroli człowieka i rejestrowanie zdarzeń, aby powiązać dowody z działania systemu z wersją modelu. W chatbotach i treściach syntetycznych wdrażają wymagane mechanizmy informowania lub oznaczania. Podczas przeglądu integracji sprawdzają też, czy zabezpieczenia działają po włączeniu modelu zewnętrznego do większej aplikacji.

Specjaliści monitorowania AI utrzymują dowody po uruchomieniu systemu, badają zmiany jego działania i wspierają ocenę incydentów. MLflow lub Evidently mogą wspierać śledzenie wersji i wykrywanie dryfu, jeżeli pasują do obecnego środowiska technicznego.

Specjaliści prowadzą wymagane zapisy monitorowania po wprowadzeniu do obrotu i wiążą ustalenia z działaniami naprawczymi. Oceniają, czy zmiana modelu lub przeznaczenia wymaga ponownego przeglądu zgodności. Na potrzeby audytów i ocen zgodności porządkują dowody z możliwością prześledzenia ich pochodzenia. Wsparcie techniczne nie stanowi opinii prawnej ani certyfikacji.