Analiza emocji pracowników i klientów - co zakazuje AI Act

AI Act - Zakazane praktyki i systemy wysokiego ryzyka

Analiza emocji pracowników i klientów - co zakazuje AI Act

W skrócie

Rozpoznawanie emocji pojawia się w ofertach narzędzi do call center, rekrutacji i badań satysfakcji, a dyrektor obsługi klienta albo szef HR pyta wtedy, czy AI Act pozwala analizować emocje pracowników i klientów. Wobec pracowników i kandydatów co do zasady nie. Wobec klientów zakaz z art. 5 ust. 1 lit. f nie obowiązuje, ale trzeba ich informować, a od 2 grudnia 2027 r. stosować obowiązki dla systemów wysokiego ryzyka. Granice zakazu pokazujemy na przykładach, które Komisja Europejska podała w wytycznych w sprawie zakazanych praktyk.

Jak to wygląda w praktyce

Gdańska firma obsługuje infolinię dużego sklepu internetowego i zatrudnia 60 konsultantów. Dostawca platformy telefonicznej proponuje moduł, który z tonu głosu ocenia „poziom frustracji” rozmówcy, a z głosu konsultanta jego „zaangażowanie” i stres. W pakiecie jest raport nastroju zespołu z połączeń wideo i analiza mimiki kandydatów na rozmowach rekrutacyjnych. Dyrektor obsługi klienta chce kupić całość, szef HR pyta o rekrutację, a inspektor ochrony danych o podstawę przetwarzania nagrań.

Co mówią przepisy

Art. 5 ust. 1 lit. f AI Act zakazuje wprowadzania do obrotu, oddawania do użytku w tym celu i wykorzystywania systemów AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych. Wyjątek obejmuje tylko względy medyczne lub bezpieczeństwa. Zakaz stosuje się od 2 lutego 2025 r. Kara sięga 35 000 000 EUR albo 7% całkowitego rocznego światowego obrotu, według kwoty wyższej, a dla MŚP (małych i średnich przedsiębiorstw) według niższej (art. 99 ust. 3 i 6). W Polsce nakłada ją KRiBSI (Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, art. 104 ust. 1 ustawy o systemach sztucznej inteligencji).

System rozpoznawania emocji służy do identyfikacji lub wywnioskowania emocji lub zamiarów na podstawie danych biometrycznych (art. 3 pkt 39). Komisja Europejska zalicza do nich w wytycznych (pkt 251) m.in. wyraz twarzy, głos i sposób pisania na klawiaturze. Motyw 18 wyłącza stany fizyczne, takie jak ból lub zmęczenie, więc np. wykrywanie zmęczenia kierowcy nie jest rozpoznawaniem emocji. Nie jest nim też samo wykrycie uśmiechu albo podniesionego głosu, dopóki system nie wnioskuje z tego o emocji (pkt 249), ani klasyfikacja tematu rozmowy bez wnioskowania o emocjach. Przepis lit. f nie powtarza warunku danych biometrycznych, a Komisja Europejska ogranicza do nich zakaz (pkt 245) i uznaje, że analiza nastroju samego tekstu nie jest nim objęta (pkt 251). To kwestia sporna. Systemy poza zakazem nadal podlegają m.in. przepisom o ochronie danych (pkt 266).

Zobacz też: Szkolenie Gotowość na AI ACT

Komisja Europejska podaje w wytycznych (pkt 254) przykłady z miejsca pracy. Zakazane są: śledzenie emocji pracowników centrum telefonicznego przez kamery i rozpoznawanie głosu, monitorowanie tonu emocjonalnego zespołów hybrydowych z głosu i obrazu wideo, rozpoznawanie emocji w rekrutacji i w okresie próbnym. Śledzenie emocji klientów przez centrum telefoniczne nie jest zakazane na podstawie lit. f. Według wytycznych wyjątek bezpieczeństwa chroni wyłącznie życie i zdrowie (pkt 258), a ogólne monitorowanie stresu czy wykrywanie wypalenia zawodowego nie mieści się w żadnym z wyjątków (pkt 257).

Wobec klientów rozpoznawanie emocji jest obszarem wysokiego ryzyka (załącznik III pkt 1 lit. c), a wymogi i obowiązki dla takich systemów stosuje się od 2 grudnia 2027 r. (art. 113 lit. c). Już od 2 sierpnia 2026 r. podmiot stosujący system rozpoznawania emocji informuje osoby, wobec których go stosuje (art. 50 ust. 3), najpóźniej przy pierwszej interakcji (art. 50 ust. 5). Za naruszenie art. 50 grozi kara do 15 000 000 EUR albo 3% obrotu, według kwoty wyższej, a dla MŚP i małych spółek o średniej kapitalizacji według niższej (art. 99 ust. 4 lit. g, ust. 6 i 6a). Według wytycznych (pkt 266) analiza emocji klientów może też naruszyć zakazy manipulacji i wykorzystywania słabości z art. 5 ust. 1 lit. a i b.

Co zrobić krok po kroku

1. Spisz funkcje, nie nazwy modułów. Kierownik obsługi klienta razem z dostawcą wypisuje, czyj głos, obraz albo tekst system analizuje i jaki wynik zwraca: emocję, zamiar, temat rozmowy czy zmęczenie. Wynik trafia do rejestru systemów AI.
2. Wyłącz wnioskowanie o emocjach pracowników i kandydatów. Szef HR i administrator platformy wyłączają ocenę emocji konsultantów, raporty nastroju zespołu z połączeń wideo i analizę mimiki w rekrutacji, a dostawca potwierdza to na piśmie. Zasady dla narzędzi rekrutacyjnych opisujemy w poście o AI w rekrutacji i ocenie pracowników.
3. Ogranicz analizę do kanału klienta. Jeśli firma zostaje przy analizie emocji klientów, administrator konfiguruje ją tak, by obejmowała tylko nagranie klienta, a wynik nie trafiał do oceny konsultanta. Komisja Europejska dopuszcza w wytycznych (pkt 254) użycie wobec pracownika wyłącznie do treningu osobistego, bez przekazywania wyników do kadr i bez wpływu na ocenę czy awans.
4. Sprawdź wyjątek, zanim się na niego powołasz. Jeśli system ma chronić zdrowie lub życie, np. przy obsłudze niebezpiecznych maszyn, dział BHP i compliance spisują uzasadnienie, ograniczenie czasu i zakresu oraz zakaz innego użycia danych. Wytyczne (pkt 259 i 263) jako zabezpieczenie podają m.in. uprzednią pisemną opinię eksperta i zakaz użycia danych np. do oceny wyników pracy.
5. Poinformuj klientów. Przed analizą klient słyszy albo widzi informację, że system rozpoznawania emocji jest stosowany. Treść komunikatu zatwierdza compliance, a inspektor ochrony danych sprawdza zgodność z RODO (rozporządzenie (UE) 2016/679).
6. Przygotuj się na 2 grudnia 2027 r. Dla systemu analizującego klientów wyznacz osobę do nadzoru, zaplanuj przechowywanie logów i zbierz od dostawcy instrukcję obsługi, bo wtedy zaczną obowiązywać wymogi dla systemów wysokiego ryzyka, w tym obowiązki podmiotu stosującego z art. 26.

Jak sprawdzić, że sprawa jest załatwiona

W rejestrze systemów AI przy narzędziach call center i HR zachowaj notatkę z listą funkcji, potwierdzenie dostawcy o wyłączeniu analizy emocji pracowników i kandydatów oraz zrzut konfiguracji, który pokazuje, że analiza obejmuje tylko kanał klienta. Dla klientów przechowuj treść komunikatu z art. 50 ust. 3 i nagranie albo zrzut miejsca, w którym go podajesz. Gdy powołujesz się na wyjątek medyczny lub bezpieczeństwa, potrzebne są uzasadnienie i opinia eksperta. Pracownik, kandydat albo klient może złożyć skargę do KRiBSI, a strona tej usługi na gov.pl podaje jako przykłady naruszeń analizę emocji pracowników i analizę emocji klienta bez informacji. Pełną listę zakazów opisujemy w poście o zakazanych praktykach AI i sprawdzaniu narzędzia przed wdrożeniem.

Podstawa prawna i źródła

• art. 3 pkt 34 i 39, art. 5 ust. 1 lit. f, art. 50 ust. 3 i 5, art. 99 ust. 3 i 4 oraz załącznik III pkt 1 lit. c rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 (AI Act) w brzmieniu po zmianach z rozporządzenia (UE) 2026/1744 (źródło)
• motyw 18 i art. 113 AI Act (stany fizyczne poza pojęciem emocji, daty stosowania)
• Wytyczne Komisji w sprawie zakazanych praktyk w zakresie sztucznej inteligencji, C(2025) 5052 final, sekcja 7 (pkt 239-270) (źródło)
• art. 59 i 104 ustawy z dnia 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003) (źródło)
• RODO, rozporządzenie (UE) 2016/679 (źródło)
• gov.pl: Złóż skargę dotyczącą systemu sztucznej inteligencji (przykłady naruszeń art. 5 i art. 50) (źródło)

Stan prawny na 3 listopada 2026 r.: AI Act w brzmieniu po zmianach z rozporządzenia 2026/1744 i ustawa o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003). Wytyczne oraz pytania i odpowiedzi Komisji Europejskiej nie są źródłem prawa, ale pokazują, jak Komisja odczytuje przepisy. W sprawach spornych decyzję warto oprzeć na opinii prawnika albo na opinii indywidualnej KRiBSI.

Wróć do listy: 30 najczęstszych pytań i problemów związanych z AI Act i ISO 42001