Projekt wytycznych dotyczących klasyfikacji systemów AI: Jak prawidłowo określić typ systemu
19 maja 2026 r. opublikowano projekt wytycznych Komisji dotyczących klasyfikacji systemów AI wysokiego ryzyka. Wytyczne mają pomóc dostawcom i deweloperom systemów AI, a także właściwym organom nadzoru rynku, w ocenie, czy dany system AI powinien zostać sklasyfikowany jako system wysokiego ryzyka. Ma to przyczynić się do jednolitego stosowania i skutecznego egzekwowania artykułu 6 Aktu UE o sztucznej inteligencji (EU AI Act).
Kluczowe aspekty
Po pierwsze, wytyczne mają zastosowanie wyłącznie do systemów AI w rozumieniu Aktu UE o sztucznej inteligencji:Nie każdy produkt programowy może być automatycznie sklasyfikowany jako system AI. Należy zweryfikować zgodność z określonymi kryteriami.
System AI definiuje się jako system oparty na maszynach, zaprojektowany do działania z różnym poziomem autonomii, który może wykazywać zdolność adaptacji po wdrożeniu oraz który – dla wyraźnych lub dorozumianych celów – na podstawie otrzymanych danych wejściowych określa sposób generowania wyników, takich jak prognozy, treści, rekomendacje lub decyzje, mogące wpływać na środowiska fizyczne lub wirtualne.
Główne kryteria to:
- Charakter oparty na maszynach;
- Zdolność adaptacji po wdrożeniu;
- Możliwość generowania wyników/danych (zarówno dla celów wyraźnych, jak i dorozumianych);
- Wpływ na środowiska fizyczne lub wirtualne.
|
Tylko takie systemy AI podlegają zakresowi Aktu UE o sztucznej inteligencji — nie każdy zautomatyzowany produkt programowy. |
Po drugie, konieczne jest określenie zamierzonego celu systemu AI: Odnosi się to do zastosowania, do którego system AI jest przeznaczony przez dostawcę, w tym konkretnego kontekstu i warunków użytkowania, określonych w informacjach dostarczonych przez dostawcę w instrukcjach użytkowania, materiałach promocyjnych lub sprzedażowych, oświadczeniach oraz dokumentacji technicznej.
Należy pamiętać, że formalne zastrzeżenie wykluczające wykorzystanie systemu AI wysokiego ryzyka (na przykład w Warunkach świadczenia usług) nie będzie wystarczające, jeśli ogólna prezentacja produktu - w tym pozycjonowanie marketingowe i przykłady użycia w instrukcjach — faktycznie dopuszcza przypadki użycia wysokiego ryzyka.
Dlatego produkt powinien zostać obiektywnie oceniony, a cały zestaw materiałów powinien zostać przeanalizowany w celu uniknięcia ryzyka odpowiedzialności wynikającego z nieprawidłowej klasyfikacji systemu AI.
System AI może zostać uznany za wysokiego ryzyka, jeśli jest wykorzystywany do celów określonych w Załączniku I lub należy do kategorii wymienionych w Załączniku III.
Co należy uwzględnić w ramach Załącznika I (Artykuł 6(1))?
Jeśli system ma być wykorzystywany jako element bezpieczeństwa produktu lub jeśli sam system AI jest produktem objętym unijnym ustawodawstwem harmonizacyjnym wymienionym w Załączniku I, a produkt, którego element bezpieczeństwa obejmuje system AI - lub sam system AI - musi przejść ocenę zgodności przez stronę trzecią, system zostanie sklasyfikowany jako system wysokiego ryzyka zgodnie z Artykułem 6(1).
Co definiuje Załącznik III (Artykuł 6(2))?
Załącznik III zawiera listę obszarów i konkretnych kategorii, które domyślnie uznaje się za wysokiego ryzyka (na przykład: biometria, infrastruktura krytyczna, edukacja i szkolenie zawodowe, zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia, wymiar sprawiedliwości i inne sektory).
|
Dostawca systemu AI, który uważa, że konkretny system wymieniony w Załączniku III nie powinien być uznawany za wysokiego ryzyka z tych powodów, musi udokumentować uzasadnienie i przedstawić taką dokumentację na żądanie regulatora. |
Rekomendacje
Przed wdrożeniem należy przeprowadzić audyt systemu AI w celu oceny zgodności z kryteriami wysokiego ryzyka.
Nawet jeśli system AI nie jest początkowo przeznaczony do zastosowań wysokiego ryzyka, należy wziąć pod uwagę następujące kwestie:
- W przypadku systemów AI ogólnego przeznaczenia obowiązkowe jest uwzględnienie rzeczywistego zakresu deklarowanego celu oraz racjonalnie przewidywalnych scenariuszy użycia;
- W przypadku systemów wielofunkcyjnych i systemów AI ogólnego przeznaczenia ważne jest, aby ograniczenia użytkowania były jasno i konsekwentnie dokumentowane. Przypadki użycia wysokiego ryzyka muszą być wyraźnie wykluczone; w przeciwnym razie takie użycie może stać się częścią zamierzonego celu.
Dlaczego jest to ważne dla biznesu?
- Zapewnienie zgodności z wymogami prawnymi;
- Minimalizacja ryzyka odpowiedzialności;
- Ułatwienie terminowego wejścia produktów AI na rynek.
Nieprawidłowa klasyfikacja systemu AI lub niedokładne opisy produktu w materiałach promocyjnych mogą skutkować karami finansowymi oraz blokadą produktu na rynku UE.
|
Skontaktuj się z ekspertem REVERA w celu wstępnej oceny produktu AI i opracowania środków ograniczania ryzyka. |
Napisz do naszego prawnika, aby poznać szczegóły
Napisz do naszego prawnika