Scenka z życia firmy: gdy szybki eksperyment z AI kończy się problemem z RODO
Jak niewinny prompt stał się incydentem naruszenia danych
Specjalista ds. marketingu w średniej firmie B2B chciał sprawdzić, czy popularne narzędzie AI pomoże mu lepiej segmentować klientów. Skopiował więc fragment arkusza z CRM: imiona, nazwiska, stanowiska, adresy e-mail, informację o wielkości zamówień. Wkleił to do czatu AI z poleceniem „Przeanalizuj bazę i zaproponuj 5 segmentów klientów”. Wynik był świetny. Problem – właśnie nieświadomie przekazał dane osobowe niezidentyfikowanemu dostawcy AI, poza jakimkolwiek procesem i kontrolą.
Nie było żadnej wcześniejszej oceny ryzyka, brakowało polityki korzystania z narzędzi AI, nikt nie przeszkolił pracowników, jakich danych nie wolno wkleić do takich systemów. W logach narzędzia AI te dane pozostały, mogły posłużyć do dalszego trenowania modelu, a nawet zostać przetworzone w innym kontekście.
Co dokładnie poszło nie tak
W opisanym scenariuszu nałożyło się kilka błędów organizacyjnych i prawnych:
- Brak oceny ryzyka i DPIA – wdrożenie narzędzia AI do procesu, w którym przetwarza się dane klientów, wymaga przemyślenia, jakie ryzyka się pojawiają, gdzie dane są przesyłane, kto ma do nich dostęp.
- Brak formalnej podstawy przetwarzania w tym narzędziu – dane, które dotąd były w bezpiecznym CRM, nagle trafiły do dodatkowego systemu, bez wskazania podstawy prawnej, celu i zasad retencji.
- Brak umowy powierzenia danych z dostawcą AI – firma przekazała dane osobowe podmiotowi, który stał się podmiotem przetwarzającym, ale nie zawarto z nim wymaganej umowy powierzenia.
- Brak świadomości pracownika – z perspektywy użytkownika był to tylko „test” w darmowym narzędziu, a nie pełnoprawne przetwarzanie danych osobowych.
Do tego dochodzi jeszcze zwykle brak informacji w klauzuli informacyjnej dla klientów, że ich dane mogą być przetwarzane z wykorzystaniem narzędzi AI określonego dostawcy, a także brak kontroli nad ewentualnym transferem danych poza EOG.
Konsekwencje organizacyjne i prawne
Taka sytuacja może zostać uznana za naruszenie ochrony danych osobowych. W praktyce oznacza to konieczność:
- analizy, czy incydent rodzi ryzyko naruszenia praw lub wolności osób fizycznych,
- ewentualnego zgłoszenia naruszenia do Prezesa UODO w ciągu 72 godzin,
- ewentualnego poinformowania klientów o incydencie, jeśli ryzyko jest wysokie,
- weryfikacji, czy dostawca AI umożliwia usunięcie tych danych z logów i systemów,
- przeglądu procesów wewnętrznych oraz wdrożenia nowych zasad korzystania z narzędzi AI.
Nawet jeśli finalnie organ nie nałoży kary, sam proces wyjaśniania, przygotowania dokumentacji i komunikacji z klientami jest kosztowny i obciąża reputację firmy.
Wniosek z tej historii
Narzędzia AI nie są „piaskownicą do testów”, tylko kolejnym systemem przetwarzającym dane osobowe. Jeśli te dane wprowadzają pracownicy, biznes musi traktować takie narzędzia tak samo poważnie jak CRM, system kadrowy czy platformę mailingową – z analizą ryzyka, umową powierzenia, politykami, szkoleniami i kontrolą dostępu.
Podstawy – kiedy użycie narzędzi AI w firmie wchodzi w zakres RODO
Jak rozpoznać dane osobowe w kontekście narzędzi AI
RODO definiuje dane osobowe szeroko: to każda informacja o zidentyfikowanej lub możliwej do zidentyfikowania osobie fizycznej. W praktyce oznacza to, że nie tylko imię i nazwisko są danymi osobowymi, ale także:
- adres e-mail (zwłaszcza imię.nazwisko@…),
- numer telefonu,
- identyfikatory użytkowników (ID klienta powiązane z bazą),
- informacje o stanowisku, miejscu pracy połączone z innymi danymi,
- treść korespondencji, w której da się zidentyfikować konkretne osoby.
W kontekście AI szczególnie zgubne są sytuacje, gdy ktoś zakłada, że „po usunięciu nazwisk dane są anonimowe”. Często tak nie jest. Jeśli z kontekstu można odtworzyć, o kogo chodzi (np. opis rzadkiego stanowiska w małej firmie plus szczegółowe okoliczności), nadal mamy do czynienia z danymi osobowymi w rozumieniu RODO.
Gdzie w firmie AI najczęściej styka się z danymi osobowymi
W wielu organizacjach narzędzia AI są już używane w kluczowych obszarach, czasem nieformalnie. Najczęstsze przykłady:
- HR i rekrutacja – analiza CV, tworzenie opisów stanowisk na podstawie profili pracowników, generowanie odpowiedzi dla kandydatów, podsumowania rozmów rekrutacyjnych.
- Obsługa klienta – chatboty, automatyczne odpowiedzi na maile, analiza zgłoszeń serwisowych, podsumowania rozmów telefonicznych po transkrypcji.
- Marketing i sprzedaż – segmentacja klientów, personalizacja treści ofert, tworzenie scenariuszy kampanii opartych na zachowaniach konkretnych klientów.
- Analityka biznesowa – modele predykcyjne przewidujące zachowania klientów, ryzyko odejścia, wartość życiową klienta.
- Produkcja i logistyka – niekiedy analizowane są dane operatorów, kierowców, osób odpowiedzialnych za konkretne etapy procesu.
W każdym z tych obszarów AI może przetwarzać dane, które bezpośrednio lub pośrednio identyfikują konkretne osoby. To wystarczy, aby w pełni uruchomiły się obowiązki wynikające z RODO.
Przetwarzanie danych osobowych vs praca wyłącznie na danych technicznych
Nie każde użycie AI w firmie oznacza przetwarzanie danych osobowych. Są scenariusze, gdzie narzędzie pracuje wyłącznie na:
- danych technicznych (parametry urządzeń, logi maszyn bez powiązania z osobami),
- danych w pełni zanonimizowanych (brak możliwości identyfikacji osób przy użyciu rozsądnie dostępnych środków),
- danych wyłącznie biznesowych (np. opisy produktów, treści regulaminów, dokumentacja techniczna).
Kluczowe pytanie brzmi: czy osoba fizyczna jest zidentyfikowana lub możliwa do zidentyfikowania w tym konkretnym kontekście użycia AI. Jeśli nie – RODO nie ma zastosowania. Jeżeli jednak przynajmniej w jednym z systemów, do których organizacja ma dostęp, można z powiązania danych odtworzyć tożsamość osoby, RODO zaczyna obowiązywać.
Dane „testowe” i „przykładowe” też mogą być danymi osobowymi
Częstym błędem jest przekonanie, że jeśli dane są używane tylko „do testów” lub „na próbę”, to nie obowiązują pełne wymogi RODO. Tymczasem RODO nie rozróżnia poważnych i niepoważnych procesów – jeżeli dane dotyczą osób fizycznych, przepisy stosuje się tak samo.
Przykłady problematycznych praktyk:
- używanie prawdziwych CV kandydatów jako „danych testowych” do sprawdzania nowego systemu AI HR,
- wgrywanie realnych zgłoszeń klientów do narzędzia do analizy sentymentu bez anonimizacji,
- testowanie integracji z zewnętrznym API AI na kopii bazy produkcyjnej.
Jeżeli dane testowe da się powiązać z prawdziwymi ludźmi, mamy pełnoprawne przetwarzanie danych osobowych, wymagające podstawy prawnej, zabezpieczeń, informacji i umowy z dostawcą narzędzia.
Dlaczego nazwanie kategorii danych na starcie jest krytyczne
Zanim zespół IT lub biznes wdroży narzędzie AI do jakiegokolwiek procesu, powinien jasno wskazać:
- jakie kategorie danych będą przetwarzane (np. dane podstawowe, dane finansowe, dane o zdrowiu),
- czy w grę wchodzą szczególne kategorie danych (np. dane o zdrowiu, poglądach, przynależności związkowej),
- jakie grupy osób są objęte przetwarzaniem (klienci, pracownicy, kandydaci, użytkownicy aplikacji),
- czy dane są pseudonimizowane lub anonimizowane przed przekazaniem do AI.
Takie uporządkowanie pozwala realnie ocenić ryzyko, dobrać podstawę prawną, zdecydować o potrzebie DPIA i przygotować właściwe zapisy w umowach z dostawcami narzędzi AI.
RODO w praktyce – jakie obowiązki uruchamiają się przy korzystaniu z narzędzi AI
Administrator danych, podmiot przetwarzający i współadministrator – kto jest kim
W relacji biznes – dostawca narzędzia AI najczęściej występują dwie role:
- Administrator danych – firma, która decyduje o celach i sposobach przetwarzania danych (np. sklep internetowy, który używa AI do segmentacji klientów).
- Podmiot przetwarzający – dostawca narzędzia AI, który przetwarza dane w imieniu administratora i na jego udokumentowane polecenie.
Bywa jednak, że dostawca AI ma własne cele przetwarzania (np. wykorzystuje dane klientów do trenowania swojego modelu w celach ogólnych). Wtedy relacja może trafić w obszar współadministracji albo nawet dwóch niezależnych administratorów. To ma poważne skutki: zakres odpowiedzialności, sposób wypełniania obowiązków informacyjnych, udzielanie dostępu osobom, których dane dotyczą.
Dlatego przed wyborem narzędzia warto sprawdzić w regulaminach i politykach prywatności dostawcy, jak definiuje on swoją rolę, i skonfrontować to z rzeczywistym sposobem przetwarzania danych.
Podstawy prawne przetwarzania danych w narzędziach AI
Użycie AI nie tworzy specjalnej, nowej podstawy prawnej. Wciąż trzeba zmieścić przetwarzanie w jednej z podstaw z art. 6 RODO, a dla danych szczególnych – w art. 9. W praktyce w biznesie pojawiają się głównie:
- Wykonanie umowy – np. użycie AI w procesie obsługi klienta, jeśli bez tego nie dałoby się zrealizować świadczenia w ustalonym standardzie.
- Prawnie uzasadniony interes administratora – np. analiza zachowań klientów dla poprawy jakości usług, bezpieczeństwa systemów, przeciwdziałania nadużyciom.
- Zgoda – raczej w sytuacjach fakultatywnych, gdy przetwarzanie nie jest niezbędne do świadczenia usługi (np. zaawansowana personalizacja oferty przy użyciu AI).
- Obowiązek prawny – rzadziej, np. gdy AI pomaga spełniać obowiązki sprawozdawcze lub nadzorcze wynikające z przepisów.
Podstawę prawną trzeba zdefiniować dla konkretnego celu. Jeśli AI nagle zaczyna być wykorzystywana do nowego celu (np. dane z obsługi klienta trafiają do modelu marketingowego), może to oznaczać nowy proces przetwarzania z inną podstawą prawną i innym okresem przechowywania.
Obowiązek informacyjny wobec osób, których dane przetwarza AI
Osoby, których dane są przetwarzane, muszą wiedzieć nie tylko, że ich dane są w ogóle przetwarzane, ale również:
- kto jest administratorem danych,
- jakie są cele i podstawy prawne przetwarzania,
- jakie kategorie danych są przetwarzane,
- kto jest odbiorcą danych (np. konkretny dostawca narzędzia AI lub kategorie odbiorców),
- czy dane są przekazywane poza EOG,
- jakie prawa przysługują osobom (dostęp, sprostowanie, sprzeciw, usunięcie, ograniczenie),
- jak długo dane będą przetwarzane lub według jakich kryteriów określa się ten okres.
Jeśli narzędzie AI ma istotny wpływ na osobę (np. użycie w procesie rekrutacji, profilowanie marketingowe, scoring kredytowy), zakres informacji powinien dodatkowo obejmować zasady podejmowania decyzji, znaczenie i przewidywane konsekwencje takiego przetwarzania.
Privacy by design i privacy by default przy wdrażaniu AI
Zasada privacy by design wymaga, aby ochronę danych uwzględniać już na etapie projektowania procesu z użyciem AI. W praktyce oznacza to m.in.:
- wybór narzędzia z funkcjami prywatności (wyłączenie trenowania na danych, szyfrowanie, logi ograniczone do niezbędnego minimum),
- projektowanie integracji tak, by przekazywać do AI tylko te dane, które są niezbędne do osiągnięcia celu,
- zastosowanie pseudonimizacji lub anonimizacji tam, gdzie to możliwe,
- wprowadzenie kontroli dostępu i mechanizmów monitorowania użycia AI.
Privacy by default oznacza natomiast, że domyślne ustawienia systemu i procesu są „privacy-friendly”. Przykładowo: konta pracowników domyślnie nie zapisują historii czatów dłużej niż to konieczne, trenowanie modelu na danych organizacji jest domyślnie wyłączone, a dostęp do zaawansowanych funkcji analitycznych wymaga dodatkowego uprawnienia.
Dlaczego AI komplikuje i poszerza obowiązki RODO
Nowe pola ryzyka: skala, nieprzewidywalność i „drugie życie” danych
W pewnej spółce technologicznej, po pół roku korzystania z chatu AI do obsługi klienta, dział prawny odkrył, że transkrypcje rozmów były przesyłane do chmury poza EOG i używane do trenowania globalnego modelu. Z punktu widzenia zespołów biznesowych wszystko „działało świetnie”. Z perspektywy RODO okazało się, że część procesów nigdy nie została w ogóle zarejestrowana i przeanalizowana.
AI komplikuje praktyczne stosowanie RODO z kilku powodów. Po pierwsze, procesy są rozproszone – dane wędrują przez integracje, logi, mechanizmy monitoringu jakości modelu. Po drugie, modele mają tendencję do „uczenia się” na podstawie tego, co dostają, a granica między zwykłym przetwarzaniem a dalszym użyciem do trenowania bywa niejasna. Po trzecie, łatwo o sytuację, w której jeden prompt lub jeden endpoint API powoduje, że dane wyciekają poza kontrolowany ekosystem.
W konsekwencji organizacja często nie ma pełnej odpowiedzi na proste pytania typu: „Gdzie dokładnie są moje dane?”, „Kto tak naprawdę ma do nich dostęp?” czy „Jak je usunąć z modelu?”. To właśnie te luki zamieniają się później w realne naruszenia ochrony danych albo w niewykonalne żądania osób, których dane dotyczą.
Rejestr czynności przetwarzania z modułem „AI”
W wielu firmach wdrożenie AI zaczyna się od szybkiego proof of concept, a dopiero później ktoś pyta, czy proces jest ujęty w rejestrze czynności przetwarzania. Tymczasem każde poważniejsze wykorzystanie AI, które dotyka danych osobowych, powinno zostać opisane tak samo jak inne procesy.
W rejestrze dobrze jest wydzielić dodatkowe pola dla procesów opartych na AI, np.:
- Rodzaj narzędzia AI – model generatywny, klasyfikator, system rekomendacyjny, model predykcyjny.
- Źródła danych wejściowych – system CRM, skrzynka mailowa, nagrania call center, formularze www.
- Status trenowania na danych – czy dane są wykorzystywane do trenowania lub doskonalenia modelu dostawcy, czy tylko do inferencji.
- Mechanizmy ograniczania danych – pseudonimizacja, maskowanie, filtrowanie pól przed wysłaniem do AI.
- Skutki dla osób – wpływ na decyzje, profilowanie, automatyczne rekomendacje.
Taka „warstwa AI” w rejestrze pozwala szybciej wychwycić, gdzie kumuluje się ryzyko i które procesy wymagają np. DPIA lub dodatkowych zapisów w umowach z dostawcami.
DPIA dla projektów z AI – kiedy jest obowiązkowa i jak ją ugryźć
W średniej firmie pożyczkowej nowy algorytm scoringowy oparty o AI miał skrócić czas decyzji kredytowej do kilku minut. Po pierwszych testach okazało się jednak, że niektóre grupy klientów są systematycznie oceniane gorzej. Dopiero wtedy zarząd zapytał o DPIA – analizę skutków przetwarzania dla ochrony danych. Powinno to nastąpić dużo wcześniej, zanim model dostał prawdziwe dane.
DPIA staje się obowiązkowa, gdy przetwarzanie z użyciem AI prawdopodobnie wiąże się z wysokim ryzykiem dla praw i wolności osób. W realiach biznesowych najczęściej chodzi o sytuacje, gdy:
- występuje zautomatyzowane podejmowanie decyzji wywołujące skutki prawne lub w podobny sposób istotnie wpływające na osobę (np. odrzucenie wniosku kredytowego, negatywny wynik w rekrutacji),
- dochodzi do systematycznego monitorowania pracowników lub klientów (np. analiza zachowań w aplikacji, monitoring jakości pracy z wykorzystaniem AI),
- przetwarzane są szczególne kategorie danych na dużą skalę (np. dane zdrowotne w aplikacjach medycznych, dane biometryczne),
- łączone są duże zbiory danych z różnych źródeł, tworząc rozbudowane profile osób.
DPIA dla rozwiązania AI powinna uwzględniać kilka dodatkowych wątków w porównaniu z klasycznym IT:
- Opis logiki działania modelu – na ile jest zrozumiały, jakie ma ograniczenia, jakie dane są najbardziej wpływowe.
- Ryzyko błędów i halucynacji – jak często mogą się pojawiać, jak są wychwytywane, jakie są procedury korekty.
- Ryzyko dyskryminacji – czy model może faworyzować lub dyskryminować określone grupy (płeć, wiek, lokalizacja, status ekonomiczny).
- Możliwość wyjaśnienia decyzji – czy da się w praktyce zrealizować obowiązek informowania o zasadach podejmowania decyzji (art. 22 i motywy RODO).
Jeśli DPIA wykaże wysokie ryzyko, którego nie da się zredukować do akceptowalnego poziomu, wdrożenie AI powinno być albo istotnie zmodyfikowane, albo w skrajnych przypadkach – zaniechane. To trudne decyzje, ale odwlekanie ich zwykle kończy się drożej: skargami, kontrolą i kosztownymi przeróbkami systemu.
Umowa powierzenia z dostawcą AI – jakie zapisy mają realne znaczenie
Gdy mała firma usługowa podpisała „standardową” umowę powierzenia z dostawcą AI do transkrypcji rozmów telefonicznych, nikt nie zwrócił uwagi na kilka z pozoru niewinnych zdań o „usprawnianiu usług i rozwoju produktów”. Po roku dostawca poinformował, że z modeli trenowanych na nagraniach klientów nie da się usunąć pojedynczego pliku. Pojawiło się pytanie, czy w ogóle była to klasyczna relacja powierzenia.
Umowa z dostawcą narzędzia AI nie może być tylko formalnością. Przy ustalaniu jej treści kluczowe są zwłaszcza:
- Cel i zakres przetwarzania – precyzyjne opisanie, w jakich celach dostawca może przetwarzać dane (wykluczenie „własnych” celów, jeśli chcemy pozostać przy powierzeniu).
- Zasady trenowania na danych – jednoznaczne stwierdzenie, czy dane mogą być używane do trenowania modeli, a jeśli tak, to w jakim zakresie i na jakich warunkach.
- Podprzetwarzający – lista podwykonawców, zasady ich zmiany, kraje przetwarzania i transfery poza EOG.
- Środki bezpieczeństwa – szyfrowanie w tranzycie i spoczynku, segmentacja środowisk, logowanie dostępu, testy bezpieczeństwa, certyfikacje.
- Wsparcie przy realizacji praw osób – w jaki sposób i w jakim czasie dostawca pomaga w dostępie do danych, ich usunięciu czy sprostowaniu.
- Okres przechowywania i usunięcie danych – jak długo dane są przechowywane po zakończeniu umowy, jak są kasowane z backupów, czy da się je „wytrenować” z modelu lub przynajmniej ograniczyć ich użycie.
Przy narzędziach generatywnych dochodzi jeszcze aspekt treści wygenerowanych: kto jest za nie odpowiedzialny, czy mogą zawierać dane osobowe oraz jak są przechowywane po stronie dostawcy. Tu również warto zadbać o precyzyjne klauzule, a nie tylko polegać na ogólnych regulaminach SaaS.
Kluczowe zasady RODO a codzienne korzystanie z AI w firmie
Zasada minimalizacji danych i ograniczenia celu w praktyce promptów
Podczas warsztatów w dziale HR jeden z menedżerów wrzucił do chatu AI całe CV kandydata z numerem telefonu, adresem i szczegółową historią zatrudnienia, prosząc o „analizę dopasowania do kultury organizacyjnej”. System odpowiedział błyskawicznie, ale z perspektywy RODO padło kilka pytań: czy te wszystkie dane były potrzebne? Czy cel był jasno zdefiniowany?
Zasada minimalizacji danych oznacza, że do narzędzia AI należy przekazywać tylko te dane, które są niezbędne dla konkretnego, z góry ustalonego celu. W praktyce:
- zamiast pełnych dokumentów (np. CV, umów) często wystarczy zanonimizowany fragment istotny dla analizy,
- w danych klientów można zastąpić imię, nazwisko i e-mail losowym identyfikatorem, jeśli do realizacji zadania nie jest potrzebna wiedza, kim dana osoba jest,
- przekazywanie dokumentów „hurtowo”, bo „tak szybciej”, jest sprzeczne z zasadą ograniczenia celu – każdy transfer powinien mieć uzasadnienie biznesowe i prawne.
Ograniczenie celu z kolei w