Poważny incydent z systemem AI - kto, komu i w jakim terminie go zgłasza

AI Act - Zakazane praktyki i systemy wysokiego ryzyka

Poważny incydent z systemem AI - kto, komu i w jakim terminie go zgłasza

W skrócie

Pytanie pada po błędzie systemu AI, który zaszkodził ludziom, mieniu albo działaniu usługi. Omawiamy, co AI Act uznaje za poważny incydent, kto i w jakim terminie go zgłasza, od kiedy obowiązek obejmuje systemy wysokiego ryzyka i dlaczego to samo zdarzenie może wymagać osobnych zgłoszeń według RODO albo ustawy o krajowym systemie cyberbezpieczeństwa (KSC).

Jak to wygląda w praktyce

Sieć hoteli, która co sezon zatrudnia kilkuset pracowników, używa kupionego systemu do selekcji kandydatów do pracy. Po aktualizacji system zaczyna systematycznie odrzucać kandydatki, a dział HR zauważa to po dwóch tygodniach. Zarząd musi ustalić, czy to poważny incydent, kto ma go zgłosić i od kiedy biegnie termin. Podobne pytanie zadaje dyrektor szpitala, w którym system oceniający stan pacjentów w nagłych wypadkach zaniżył pilność przypadku, a pacjent doznał poważnego uszczerbku na zdrowiu.

Co mówią przepisy

Poważny incydent to incydent lub nieprawidłowe działanie systemu AI, które bezpośrednio lub pośrednio prowadzi do jednego z czterech skutków (art. 3 pkt 49 lit. a-d AI Act). Są to śmierć lub poważny uszczerbek na zdrowiu, poważne i nieodwracalne zakłócenie infrastruktury krytycznej, naruszenie obowiązków z prawa Unii chroniących prawa podstawowe oraz poważna szkoda w mieniu lub środowisku. Dyskryminujące odrzucanie kandydatów może mieścić się w lit. c.

Zgłasza dostawca systemu wysokiego ryzyka, organowi nadzoru rynku państwa, w którym incydent wystąpił (art. 73 ust. 1). W Polsce jest nim KRiBSI (art. 5 ust. 1 ustawy o systemach sztucznej inteligencji), z zastrzeżeniem przepisów szczególnych dla produktów z załącznika I sekcja A, instytucji finansowych i części systemów z załącznika III (art. 74 ust. 3, 6 i 8). Gdy model ogólnego przeznaczenia i oparty na nim system pochodzą od tego samego dostawcy, zgłoszenie trafia co do zasady do Urzędu ds. AI (art. 75 ust. 1 i 1a w brzmieniu z rozporządzenia (UE) 2026/1744). Podmiot stosujący, który stwierdzi poważny incydent, natychmiast informuje najpierw dostawcę, następnie importera lub dystrybutora oraz organy nadzoru rynku, a gdy nie może skontaktować się z dostawcą, stosuje art. 73 odpowiednio (art. 26 ust. 5).

Zobacz też: Szkolenie Gotowość na AI ACT

Dostawca zgłasza incydent natychmiast po ustaleniu związku przyczynowego z systemem albo dostatecznie wysokiego prawdopodobieństwa takiego związku, nie później niż w 15 dni. Przy powszechnym naruszeniu (transgranicznym, art. 3 pkt 61) albo poważnym i nieodwracalnym zakłóceniu infrastruktury krytycznej (lit. b) termin wynosi 2 dni, przy śmierci osoby 10 dni (art. 73 ust. 2-4). Terminy liczy się od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot stosujący dowiedzieli się o incydencie. Wolno złożyć niepełne zgłoszenie wstępne, a potem kompletne (ust. 5). Dostawca prowadzi postępowanie wyjaśniające i nie zmienia systemu w sposób, który mógłby wpłynąć na ocenę przyczyn, zanim poinformuje organ (ust. 6). Przy wyrobach medycznych i systemach objętych równoważnym obowiązkiem sektorowym zgłasza się tylko incydenty z lit. c (ust. 9-10).

Art. 73 należy do rozdziału IX, który stosuje się od 2 sierpnia 2026 r. Dotyczy jednak systemów wysokiego ryzyka, a przepisy o ich klasyfikacji i obowiązki z art. 6-27 stosuje się od 2 grudnia 2027 r. dla załącznika III i od 2 sierpnia 2028 r. dla załącznika I (art. 113 lit. c). Do systemów wprowadzonych wcześniej rozporządzenie stosuje się dopiero po istotnej zmianie ich projektu, a do systemów dla organów publicznych najpóźniej od 2 sierpnia 2030 r. (art. 111 ust. 2). Art. 73 nie ma osobnej daty, więc z zestawienia przepisów wynika, że zgłoszenia obejmą systemy wysokiego ryzyka od tych dat.

Odrębny obowiązek mają dostawcy modeli AI ogólnego przeznaczenia z ryzykiem systemowym: niezwłocznie zgłaszają poważne incydenty Urzędowi ds. AI (art. 55 ust. 1 lit. c). Art. 73 nie jest wymieniony w katalogu kar z art. 99 ust. 4. Katalog obejmuje jednak obowiązki podmiotu stosującego z art. 26 i dostawcy z art. 16, w tym system zarządzania jakością z procedurą zgłaszania incydentów (art. 17 ust. 1 lit. i).

Zgłoszenie z AI Act nie zastępuje innych. Naruszenie ochrony danych osobowych administrator zgłasza Prezesowi UODO bez zbędnej zwłoki, w miarę możliwości w 72 godziny od stwierdzenia, chyba że ryzyko dla osób jest mało prawdopodobne (art. 33 RODO). Incydent w rozumieniu ustawy o KSC zgłasza się według tej ustawy.

Co zrobić krok po kroku

1. Lista systemów i ról. Osoba od compliance wskazuje w rejestrze systemów AI te, które są lub od 2 grudnia 2027 r. będą systemami wysokiego ryzyka, i przy każdym zapisuje, czy firma jest dostawcą, czy podmiotem stosującym. Pomaga w tym sprawdzenie, czy system jest wysokiego ryzyka. Efekt: lista systemów objętych procedurą.
2. Procedura incydentów. CISO z osobą od compliance i inspektorem ochrony danych opisuje definicję z art. 3 pkt 49 z przykładami dla każdego systemu oraz role: kto kwalifikuje zdarzenie, kto decyduje o zawieszeniu i kto zawiadamia dostawcę i KRiBSI. Procedura wskazuje też osobne ścieżki według RODO i ustawy o KSC. Efekt: procedura zatwierdzona przez zarząd.
3. Kanał zgłoszeń od użytkowników. Właściciel systemu uruchamia jeden kanał, którym pracownicy i klienci zgłaszają nieprawidłowe działanie, np. formularz i adres e-mail. Efekt: kanał opisany w instrukcji dla użytkowników i w polityce korzystania z AI.
4. Rejestr zdarzeń. Zespół zapisuje datę i godzinę, w której firma dowiedziała się o zdarzeniu, opis, kwalifikację z uzasadnieniem, decyzje i daty zawiadomień. Data wiedzy jest ważna, bo od niej biegną terminy z art. 73. Logi systemu pod kontrolą firmy przechowuje się co najmniej sześć miesięcy (art. 26 ust. 6). Efekt: rejestr incydentów i zabezpieczone logi.
5. Zapisy w umowie. Dział zakupów ustala z dostawcą kanał i termin powiadomień oraz obowiązek informowania firmy o postępowaniu wyjaśniającym i działaniach naprawczych, zgodnie z zapisami umowy z dostawcą systemu AI. Efekt: aneks albo zapis w umowie.
6. Ćwiczenie. Przed 2 grudnia 2027 r. zespół przechodzi procedurę na przykładowym zdarzeniu: kwalifikacja, decyzja o zawieszeniu, zawiadomienie dostawcy, zgłoszenie wstępne. Efekt: protokół ćwiczenia i poprawki procedury.

Jak sprawdzić, że sprawa jest załatwiona

Rejestr zdarzeń z datą uzyskania wiedzy o zdarzeniu i datą każdego zawiadomienia pokazuje, że firma jako podmiot stosujący działała natychmiast, a jako dostawca zmieściła się w terminach 2, 10 i 15 dni. Pozostałe obowiązki przy monitorowaniu systemu opisujemy w poście o obowiązkach podmiotu stosującego system AI wysokiego ryzyka.

Na kontrolę zachowaj procedurę, rejestr zdarzeń z kwalifikacją, logi, korespondencję z dostawcą, kopie zgłoszeń i protokoły ćwiczeń.

Podstawa prawna i źródła

• art. 3 pkt 49 i 61, art. 26 ust. 5 i 6, art. 73 i art. 113 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 (AI Act) w brzmieniu po zmianach z rozporządzenia (UE) 2026/1744 (źródło)
• art. 17 ust. 1 lit. i, art. 55 ust. 1 lit. c, art. 74 ust. 3, 6 i 8, art. 99 ust. 4 i art. 111 ust. 2 AI Act
• art. 1 pkt 31 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2026/1744 (art. 75 ust. 1 i 1a AI Act) (źródło)
• art. 33 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 (RODO) (źródło)
• art. 5 ustawy z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003) (źródło)

Stan prawny na 3 listopada 2026 r.: AI Act w brzmieniu po zmianach z rozporządzenia 2026/1744 i ustawa o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003). Wytyczne oraz pytania i odpowiedzi Komisji Europejskiej nie są źródłem prawa, ale pokazują, jak Komisja odczytuje przepisy. W sprawach spornych decyzję warto oprzeć na opinii prawnika albo na opinii indywidualnej KRiBSI.

Wróć do listy: 30 najczęstszych pytań i problemów związanych z AI Act i ISO 42001