Prywatność — oś oceny Standardu PACT

Co chroni ta oś.

Prywatność chroni godność, autonomię i kontrolę nad informacjami o człowieku. W systemach AI ryzyko nie kończy się po usunięciu bezpośrednich identyfikatorów. Modele mogą zapamiętywać lub ujawniać informacje albo umożliwiać wnioskowanie o osobach; prompty i systemy wyszukiwania mogą odsłaniać poufne zapisy; wyniki mogą tworzyć wrażliwe lub nieprawidłowe profile; a logi dostawcy mogą stać się drugim, źle zarządzanym zbiorem danych.

Zasady RODO pozostają punktem wyjścia: zgodność z prawem, rzetelność i przejrzystość; ograniczenie celu; minimalizacja danych; prawidłowość; ograniczenie przechowywania; integralność i poufność; oraz rozliczalność. Ochrona danych w fazie projektowania oznacza, że zasady te kształtują architekturę i zakup, zanim dane trafią do systemu.

Pierwszym zabezpieczeniem prywatności nie jest szyfrowanie. Jest nim uzasadniona decyzja, że organizacja w ogóle potrzebuje tych danych i tego przetwarzania.

Zmapuj pełny cykl życia danych.

Dane wejściowe. Zidentyfikuj dane do trenowania, dostrajania, oceny, promptów, wyszukiwania, informacji zwrotnej i monitorowania, w tym dane wywnioskowane i metadane.
Role i przepływy. Ustal administratorów, współadministratorów i podmioty przetwarzające; każdego odbiorcę, dalszy podmiot przetwarzający, lokalizację i transfer międzynarodowy; oraz to, co dostawcy mogą wykorzystywać ponownie.
Cel i podstawa prawna. Rozdziel rozwój, ocenę, wdrożenie, bezpieczeństwo, doskonalenie i zastosowania wtórne. Podstawa prawna dla jednego celu nie obejmuje automatycznie innego.
Wyniki i wnioskowanie. Oceń dane osobowe generowane o ludziach, a nie tylko dane przekazane systemowi. Uwzględnij nieprawidłowe powiązania, punktację, kategoryzację i wrażliwe wnioskowanie.
Przechowywanie i usuwanie. Określ czas przechowywania surowych danych, promptów, osadzeń, logów, wyników, kopii zapasowych i wytrenowanych artefaktów oraz sposób realizacji praw i żądań usunięcia w całym systemie.

Gdzie prywatność najczęściej zawodzi.

Nieznane pochodzenie. Zespoły nie potrafią wykazać, skąd pochodzą dane treningowe lub ewaluacyjne, jakie uprawnienia mają zastosowanie ani czy zostały zebrane zgodnie z prawem.
Rozszerzanie celu. Dane zebrane w celu świadczenia usługi są później używane do trenowania lub doskonalenia modelu bez odrębnej analizy niezbędności i podstawy prawnej.
Pozorna minimalizacja. Każde dostępne pole jest zachowywane, ponieważ może poprawić wydajność, bez pomiaru, czy korzyść uzasadnia ingerencję.
Pseudonimizacja traktowana jak anonimizacja. Ponowna identyfikacja pozostaje realnie możliwa, a mimo to organizacja przestaje stosować zabezpieczenia ochrony danych.
Ponowne użycie przez dostawcę ukryte w warunkach. Prompty, pliki lub informacje zwrotne mogą być przechowywane, przeglądane lub wykorzystywane do doskonalenia usługi poza zamierzonym celem podmiotu wdrażającego.
Prawa bez wdrożenia. Komunikaty obiecują dostęp, sprostowanie lub usunięcie, lecz organizacja nie potrafi odnaleźć danych w logach, osadzeniach, zbiorach treningowych ani wynikach.
Wyciek z modelu i wnioskowanie. Testy pomijają ekstrakcję, wnioskowanie o przynależności, zapamiętywanie, wstrzykiwanie promptów i ujawnienie przez połączone narzędzia lub magazyny wyszukiwania.

Pytania oceny.

Jakie dane osobowe i wywnioskowane trafiają do każdego etapu cyklu życia lub z niego powstają i które kategorie wymagają dodatkowej ochrony?
Czy każdy cel jest konkretny i niezbędny, ma udokumentowaną podstawę prawną oraz jasny podział odpowiedzialności administratora i podmiotu przetwarzającego?
Czy cel można osiągnąć przy użyciu mniejszej ilości danych, niższej szczegółowości, krótszego przechowywania, przetwarzania lokalnego lub rozwiązania bez AI?
Jak pozyskano, udokumentowano i przefiltrowano źródła danych oraz sprawdzono je pod kątem niezgodnego zastosowania wtórnego lub bezprawnych treści?
Czy ludzie mogą w praktyce wykonywać prawa dostępu, sprostowania, sprzeciwu, ograniczenia, usunięcia oraz prawa związane ze zautomatyzowanym podejmowaniem decyzji?
Co zapobiega wyciekowi danych osobowych lub poufnych przez wyniki, logi, ekstrakcję z modelu, wyszukiwanie, narzędzia lub dostęp dostawcy?
Czy anonimowość wykazano wobec realistycznych metod identyfikacji i ekstrakcji, zamiast zakładać ją wyłącznie na podstawie usunięcia identyfikatorów?
Czy prawdopodobne ryzyko wymaga oceny skutków dla ochrony danych, uprzednich konsultacji lub dodatkowych ograniczeń przed rozpoczęciem przetwarzania?

Dowody do zebrania.

Inwentaryzacja danych: Kategorie, źródła, osoby, cele, podstawy prawne, odbiorcy, lokalizacje, okresy przechowywania, drogi usuwania i odpowiedzialność za dane na każdym etapie cyklu życia.
Test niezbędności: Dowody, że każde pole, poziom szczegółowości i okres przechowywania istotnie służą uzasadnionemu celowi, wraz z wynikami eksperymentów ograniczających dane.
Kontrole dostawcy: Warunki przetwarzania danych, lista dalszych podmiotów przetwarzających, zabezpieczenia transferu, zobowiązania bezpieczeństwa, prawa audytowe, obowiązki przy incydentach, ograniczenia ponownego użycia i zweryfikowane usunięcie lub zwrot.
Dokumentacja DPIA: Decyzja z oceny wstępnej i — gdy jest wymagana — pełna ocena skutków dla ochrony danych obejmująca ryzyka dla ludzi, środki ograniczające, ryzyko rezydualne i konsultacje.
Procedura realizacji praw: Przetestowane procesy wyszukiwania, sprostowania, sprzeciwu i usuwania obejmujące dane operacyjne, logi, dane pochodne i artefakty związane z modelem.
Testy prywatności: Testy ponownej identyfikacji, ekstrakcji, zapamiętywania, wstrzykiwania promptów, kontroli dostępu i wycieku danych dopasowane do prawdopodobnych atakujących i błędów użytkowników.

Progi decyzyjne.

Kontynuuj: Cele, podstawy prawne i role są jasne; przetwarzanie jest w sposób możliwy do wykazania niezbędne i zminimalizowane; prawa i usuwanie działają; warunki dostawcy i testy techniczne kontrolują przewidywalny wyciek.
Kontynuuj warunkowo: Pozostałe problemy są ograniczone, określone w czasie i odwracalne, a dane, dostęp, przechowywanie lub funkcjonalność pozostają ograniczone do czasu dostarczenia wskazanych dowodów.
Zatrzymaj lub przeprojektuj: Pochodzenie danych lub podstawa prawna pozostają nierozstrzygnięte; zbędne dane wrażliwe są kluczowe dla projektu; ponowne użycie przez dostawcę nie podlega kontroli; praw nie można zrealizować; albo prawdopodobny wyciek tworzy nieograniczone wysokie ryzyko.

Ryzyko dla prywatności dotyczy modelu i jego kontekstu. Uznanie modelu za anonimowy wymaga indywidualnej oceny ryzyka identyfikacji i ekstrakcji. Usunięcie nazwisk ze zbioru lub nazwanie danych „syntetycznymi” nie stanowi wystarczającego dowodu.

Kontrole cyklu życia.

Przed pierwszym użyciem

Przed przesłaniem rzeczywistych danych lub uruchomieniem integracji ukończ mapowanie danych, analizę niezbędności i podstaw prawnych, badanie dostawcy oraz ocenę potrzeby DPIA. Ustaw restrykcyjne wartości domyślne i przetestuj procesy realizacji praw.

Podczas działania

Monitoruj dostęp, nietypowe zapytania, wycieki, przechowywanie, zmiany dostawcy i nowe zastosowania danych wywnioskowanych. Audytuj, czy zespoły omijają zatwierdzone kanały lub wprowadzają dane osobowe do narzędzi ogólnego przeznaczenia.

Gdy zmieniają się warunki

Ponów ocenę po zmianie celu, źródła danych, modelu, dostawcy, regionu hostingu, integracji, populacji lub sposobu wykorzystania wyniku. Nowa możliwość może stworzyć nowy cel przetwarzania nawet wtedy, gdy interfejs wygląda tak samo.

Źródła i dalsza lektura.

Źródła pierwotne i instytucjonalne przeanalizowane na potrzeby tego dokumentu roboczego. Zastosowanie prawne należy ocenić dla konkretnego systemu i kontekstu.