Kiedy informować UODO – analiza ryzyka a zgłaszanie naruszeń

Aby prawidłowo ustalić poziom ryzyka i ocenić, czy zdarzenie może wymagać zgłoszenia do UODO na gruncie RODO, trzeba najpierw przejść przez procedurę klasyfikacji systemu według AI Act. Ta analiza pozwala oszacować, jakie ryzyko system stwarza dla praw podstawowych, jak prowadzić ocena ryzyka i kiedy incydent z udziałem AI może narazić administratora na obowiązki z art. 33 i 34 RODO.

W praktyce chodzi o dwa porządki prawne, które trzeba zarządzać równolegle. AI Act odpowiada na pytanie o klasyfikację systemu i obowiązki zgodności, a RODO – czy naruszenie ochrony danych osobowych powoduje ryzyko lub wysokie ryzyko naruszenia praw lub wolności osób fizycznych, a więc czy należy zawiadomić PUODO. Poniższa procedura pokazuje krok po kroku, jak przeprowadzać taką analiza i jakie elementy powinien uwzględnić zarząd lub Przedsiębiorstwo.

Krok 1. Czy to w ogóle „system AI”? ocena ryzyka i identyfikacja

Systemem AI w rozumieniu art. 3 pkt 1 AI Act jest wyłącznie oprogramowanie z pewnym stopniem autonomii, które na podstawie danych wejściowych generuje wyniki takie jak predykcje, treści, rekomendacje lub decyzje wpływające na środowisko fizyczne albo wirtualne. Już na tym etapie potrzebna jest identyfikacja funkcji systemu, celu użycia i danych wejściowych oraz wyjściowych.

To pierwszy moment, aby zidentyfikować źródła ryzyko. Jeżeli narzędzie jedynie automatyzuje prostą regułę, bez uczenia, wnioskowania lub modelowania, może nie podpadać pod AI Act. Jeżeli jednak system wpływa na decyzje kadrowe, scoring, filtrowanie zgłoszeń lub analizę zachowań użytkowników, trzeba dalej przeprowadzać ocena ryzyka. W tym miejscu warto też odróżnić klasyczną zgodność IT od pojęć znanych z BHP, takich jak ocena ryzyka zawodowego czy ryzyka zawodowego na stanowisko pracy; te pojęcia są inne, ale metodycznie pomagają uporządkować identyfikacja zagrożeń.

Krok 2. Czy system realizuje praktykę zakazaną (art. 5)? analiza ryzyka

Drugi krok to sprawdzenie, czy system realizuje praktykę zakazaną przez art. 5 AI Act. Jeżeli tak, jego użycie jest co do zasady niedopuszczalne. Chodzi m.in. o określone formy manipulacji, wykorzystywania podatności osób, część zastosowań biometrii czy niedozwolone kategoryzowanie osób.

Tu analiza powinna obejmować cel systemu, kontekst wdrożenia i potencjalny wpływ na osoby, których dane dotyczyć mogą działania modelu. W praktyce trzeba ustalić, czy istnieje prawdopodobieństwo, że system ingeruje w prawa jednostki w sposób niedopuszczalny. Jeżeli odpowiedź jest twierdząca, dalsza ocena ryzyka nie służy „zalegalizowaniu” wdrożenia, tylko podjęciu decyzji, by z projektu zrezygnować albo go zasadniczo przebudować. Brak takiej decyzji może narazić firmę na sankcje z AI Act, a przy naruszeniu danych także na konsekwencje z RODO.

Krok 3. Czy system jest „wysokiego ryzyka”?

Jeżeli system nie jest zakazany, trzeba sprawdzić, czy należy do kategorii wysokiego ryzyka, zwłaszcza z art. 6 i załącznika III AI Act. Dotyczy to m.in. obszarów zatrudnienia, edukacji, dostępu do usług, egzekwowania prawa czy infrastruktury krytycznej. Dla takich systemów centralne znaczenie ma formalna ocena ryzyka, identyfikacja zagrożeń, testy, nadzór człowieka i dokumentacja.

W praktyce warto przyjąć własną, spójną skalę, aby oceniać ryzyko. Przykładowo: skala 1-5 dla skutku i 1-5 dla prawdopodobieństwo; wynik to Risk score w Macierz. Wynik 1-6 można uznać za ryzyko akceptowalne, 8-14 za ryzyko rezydualne wymagające środków redukcji, a 15-25 za ryzyko nieakceptowalne. To własny model organizacyjny, pomocny przy kwalifikacji i przy decyzji, czy incydent może powodować obowiązek zgłoszenia naruszenia do UODO. Taka ocena ryzyka powinna obejmować nie tylko aspekt techniczny, lecz także prawny, organizacyjny i biznesowy.

Dla systemów wysokiego ryzyka AI Act wymaga stałego cyklu: zarządzania ryzykiem, testowania, walidacji, nadzoru człowieka oraz monitorowanie działania po wdrożeniu. To nie jest jednorazowa czynność. Identyfikacja zagrożeń, określenie prawdopodobieństwa, ocena skutku i wpływu na prawa podstawowe muszą być aktualizowane przez cały cykl życia systemu. Taki proces zarządzania ryzykiem ułatwia też później ocenę, czy doszło do naruszenia ochrony danych i czy prawdopodobieństwo wystąpienia niepożądanych zdarzeń uzasadnia zgłoszenie do PUODO.

Wyjątki od wysokiego ryzyka – kiedy art. 6 ust. 3 wyłącza obowiązki?

Nie każdy system z obszaru załącznika III automatycznie będzie kwalifikowany jako wysoki. Art. 6 ust. 3 wprowadza filtr istotności. Jeżeli system wykonuje wąskie zadanie pomocnicze, nie wpływa materialnie na wynik decyzji albo służy wyłącznie wsparciu czynności technicznych, może nie wejść do kategorii wysokiego ryzyka.

Trzeba jednak ostrożnie oceniać ten wyjątek. Samo twierdzenie dostawcy nie wystarczy. Należy ustalić, czy czynnik AI realnie kształtuje decyzję wobec osoby, czy jedynie porządkuje dane. Błędna kwalifikacja może narazić organizację na brak wymaganej procedury zgodności. W razie incydentu z danymi osobowymi będzie to też istotny czynnik przy ocenie, czy administrator powinien był wcześniej wdrożyć środki ograniczające ryzyko.

Krok 4. Czy są obowiązki przejrzystości (art. 50)? poziom ryzyka ograniczonego

Jeżeli system nie jest zakazany i nie jest wysokiego ryzyka, trzeba sprawdzić art. 50 AI Act. To poziom ryzyka ograniczonego – nakłada wyłącznie określone obowiązki informacyjne i transparentności wobec użytkownika końcowego. Chodzi np. o poinformowanie, że odbiorca ma do czynienia z systemem AI, treścią syntetyczną albo rozpoznawaniem emocji, gdy przepis tego wymaga.

Na tym etapie również potrzebna jest analiza, bo brak właściwej informacji może zwiększyć prawdopodobieństwo wprowadzenia odbiorcy w błąd i narazić przedsiębiorcę na zarzuty z prawa konsumenckiego. W razie naruszenia danych transparentność może być ważna przy ocenie, czy osoba rozumiała kontekst przetwarzania i jakie zagrożeniach była poddana.

Krok 5. Reszta to ryzyko minimalne

Jeżeli system nie wpada do art. 5, art. 6 ani art. 50, co do zasady pozostaje w kategorii minimalnego ryzyko. Nie oznacza to jednak braku obowiązków w ogóle. Nadal trzeba stosować RODO, przepisy o tajemnicy przedsiębiorstwa, bezpieczeństwie informacji i zasady należytej staranności.

Dobre praktyki, takie jak testy, ewaluacje i nadzór, pozostają dobrowolne, jednak pozwalają na ograniczenie ryzyka operacyjnego i błędów halucynacji. W takim modelu warto prowadzić rejestr systemów AI, opisać czynnik celu użycia, źródła danych i wynikach testów. To pomaga zarządzać zgodnością i szybciej podjąć decyzję o zgłoszeniu naruszenia do UODO, gdy pojawi się incydent.

Krok 6. Osobna warstwa: model ogólnego przeznaczenia (GPAI)

Model ogólnego przeznaczenia to osobna warstwa regulacyjna. Nawet jeśli konkretny system wdrożony w firmie ma niski poziom ryzyka, sam model bazowy może podlegać odrębnym obowiązkom po stronie dostawcy. Dla podmiotu stosującego ważne jest, aby zidentyfikować, czy korzysta z modelu ogólnego przeznaczenia i jakie ograniczenia narzuca dostawca.

Ma to znaczenie również dla RODO. Jeżeli model jest używany do przetwarzania danych osobowych, trzeba uwzględnić role stron, zakres instrukcji, transfery danych i potencjalny wpływ na prawa osób. Ten czynnik może zdecydować, czy incydent jest wyłącznie problemem technicznym, czy naruszeniem, które należy zgłosić w terminie 72 godzin na podstawie art. 33 RODO.

Kto odpowiada: dostawca czy podmiot stosujący?

AI Act rozróżnia dostawcę i podmiot stosujący. Dostawca opracowuje system lub wprowadza go do obrotu pod własną nazwą. Podmiot stosujący używa systemu w działalności zawodowej. Jeżeli jednak podmiot stosujący istotnie zmienia przeznaczenie systemu albo modyfikuje go w sposób relewantny dla zgodności, może przejąć część obowiązków dostawcy.

To rozgraniczenie trzeba opisać w umowie i w wewnętrznym rejestr. W przeciwnym razie trudno zarządzać odpowiedzialnością za testy, nadzór i incydenty. Z perspektywy RODO administrator danych nie uwolni się od obowiązków tylko dlatego, że narzędzie dostarczył zewnętrzny partner. Jeżeli incydent może narazić osoby fizyczne na kradzież tożsamości, dyskryminację, stratę finansową lub utratę kontroli nad danymi, trzeba wykonać własną ocena ryzyka i zdecydować o zgłoszeniu do UODO oraz ewentualnym zawiadomieniu osób, których dane dotyczą. To dotyczyć może także relacji pracowniczych, choć nie jest to ocena ryzyka zawodowego ani klasyczne ryzyka zawodowego na stanowisko pracy.

Kary za błędną klasyfikację i brak zgodności z AI Act

Błędna klasyfikacja to nie tylko problem formalny. Może narazić firmę na administracyjne kary pieniężne z AI Act, a przy naruszeniu danych także na sankcje z RODO. W polskiej praktyce znaczenie ma również ocena staranności administratora przez PUODO, a w sporach cywilnych – wpływu ryzyka na szkodę i związek przyczynowy.

Jeżeli organizacja nie umie wykazać, jak przeprowadziła analiza, jak oszacować skutki, jakie czynnik uznała za najważniejszy i jakie środki wdrożyła, trudniej obronić decyzję o braku zgłoszenia. To podobna logika jak w obszarze BHP, gdzie Pracodawca musi prowadzić ocena ryzyka zawodowego i reagować na zagrożeniach w środowiska pracy. Tam znaczenie mają Bezpieczeństwo i higiena pracy, Państwowa Inspekcja Pracy, Hałas czy ekspozycja na szkodliwe czynniki; tu chodzi o prawa podstawowe, dane osobowe i systemy AI. Metodyka jest jednak podobna: identyfikacja, prawdopodobieństwo, skutek, środki redukcji i kontrola.

W skrócie

• Najpierw sprawdź, czy rozwiązanie jest systemem AI w rozumieniu AI Act, a następnie czy nie realizuje praktyki zakazanej z art. 5.
• Jeżeli system może być wysokiego ryzyka, wykonaj formalną ocena ryzyka, oszacowanie ryzyka, testy i opisz środki zarządzania ryzykiem.
• Jeżeli incydent z udziałem AI dotyczy danych osobowych, oceń prawdopodobieństwo naruszenia praw lub wolności osób fizycznych według art. 33 i 34 RODO.
• Kluczowe terminy to: system AI, wysoki poziom ryzyka, praktyka zakazana, obowiązki transparentności, dostawca, podmiot stosujący, administrator danych.

Co dalej

W organizacji warto wdrożyć prostą procedurę w 5 etapach. Po pierwsze, mapa systemów i identyfikacja zastosowań. Po drugie, klasyfikacja według AI Act. Po trzecie, szacowaniu ryzyka i opis środków. Po czwarte, procedura incydentowa powiązana z art. 33 i 34 RODO. Po piąte, cykliczny przegląd i podjęcie działań korygujących.

Taki model pomaga zarządzać odpowiedzialnością na poziomie operacyjnym i zarządczym. Pozwala też uwzględnić sytuacje graniczne, gdy AI wspiera procesy HR, co bywa mylone z obszarem takim jak ocena ryzyka zawodowego, ryzyka zawodowego, stanowisko pracy lub miejsce pracy. To nadal odrębne reżimy, ale wspólne są pojęcia: czynnik, prawdopodobieństwo, ekspozycja, potencjalny skutek i priorytet działania. Warto też przeprowadzać okresowy przegląd, czy nowe dane, nowe funkcje albo ewentualny technologiczny update nie zmieniają klasyfikacji.

Co to jest ocena ryzyka?

Ocena ryzyka to uporządkowany proces, który ma zidentyfikować zagrożenie, ocenić skutek i prawdopodobieństwo, a następnie dobrać środki ograniczające. W AI Act dotyczy głównie wpływu systemu na prawa podstawowe i zgodność, a w RODO – wpływu incydentu na prawa i wolności osób fizycznych. Nie jest to to samo co ocena ryzyka zawodowego lub ryzyka zawodowego, choć metodyka bywa zbliżona.

Jakie są stopnie oceny ryzyka?

W praktyce można przyjąć trzy stopnie: akceptowalne, rezydualne i nieakceptowalne. Akceptowalne oznacza niski skutek i niskie prawdopodobieństwo; rezydualne – że po wdrożeniu zabezpieczeń pozostaje potencjalny wpływ wymagający nadzoru; nieakceptowalne – że system lub incydent może poważnie narazić osobę i trzeba podejmować działania natychmiast. To użyteczny model także wtedy, gdy trzeba oszacować, czy zgłaszać naruszenie do UODO.

Jakie są wskaźniki ryzyka?

Najczęściej są to: skala skutku, prawdopodobieństwo wystąpienia, liczba osób dotkniętych zdarzeniem, wrażliwość danych, możliwość odwrócenia skutków oraz czas trwania incydentu. Dodatkowym wskaźnikiem jest to, czy system podejmuje decyzje automatyczne oraz jakie są wynikach audytów i testów. W obszarze BHP podobną funkcję pełnią wskaźniki takie jak Hałas, ekspozycja i inne rodzaje ryzyka, ale tutaj analizujemy przede wszystkim szkody informacyjne i dyskryminacyjne.

Jakie są rodzaje ryzyka?

W systemach AI i ochronie danych najczęściej chodzi o ryzyko prawne, operacyjne, techniczne, reputacyjne i kontraktowe. Osobno występuje risk dla praw podstawowych: dyskryminacji, utraty prywatności, błędnej decyzji lub wykluczenia z usługi. Warto przeprowadzić wewnętrzną tabelę, która będzie obejmować potencjalnych zagrożeń, prawdopodobieństwo wystąpienia, skutek, właściciela i środki reakcji. To bardziej efektywny model niż intuicyjne decyzje.

Powiązane materiały

W praktyce pomocne są także zestawienia pojęciowe, takie jak Szacowanie ryzyka przykład, Identyfikacja ryzyka przykłady, Szacowanie ryzyka IT przykład, Rejestr ryzyka w Urzędzie, Ocena ryzyka zawodowego wzór, Rejestr ryzyka w kontroli zarządczej przykłady czy na gruncie BHP odniesienia do OiRA. Nie chodzi jednak o mechaniczne kopiowanie wzorów, lecz o spójny model, który pozwala zarządzać zgodnością, podejmować decyzje i nie narazić organizacji na zbędne błędy.

Treść ma charakter informacyjny i nie stanowi porady prawnej. Jeżeli potrzebują Państwo wsparcia w klasyfikacji systemu AI, przygotowaniu procedury incydentowej lub ocenie, czy naruszenie należy zgłosić do UODO, zapraszamy do kontaktu z Kancelarią Adwokacką adwokata Mateusza Orlickiego.