Sześć osi: jak tworzyć ocenę użyteczną dla instytucji.
Zasady stają się użyteczne, gdy zmieniają decyzję. Praktyczna ocena powinna pomóc instytucji rozpoznać dowody, niepewność, odpowiedzialność i moment, w którym należy się zatrzymać.
Standard powinien najpierw poprawiać rozmowę, a dopiero potem ją oceniać.
Ocena może stać się przedstawieniem: dokumenty są kompletowane, pola odhaczane, a podjęta wcześniej decyzja otrzymuje pozory odpowiedzialności. Użyteczny standard działa wcześniej. Pomaga zapytać, czy system powinien być używany, wobec kogo, na jakich warunkach i jak można się wycofać, jeśli założenia okażą się błędne.
Sześć poniższych osi przedstawiono na stronie głównej PACT jako wersję roboczą. Ich wartość nie wynika z liczby, lecz z różnych rodzajów dowodów, które organizacja musi zebrać w jednym procesie.
Sześć roboczych osi.
- Nadzór człowieka. Kto może zrozumieć, zakwestionować i przerwać proces oraz czy to uprawnienie jest chronione w praktyce?
- Przejrzystość. Czy ludzie mogą zrozumieć, że technologia wpływa na decyzję, jakie informacje mają znaczenie i jak uzyskać wyjaśnienie?
- Prywatność. Czy każda zbierana informacja jest niezbędna, chroniona i zarządzana przez cały okres jej użyteczności?
- Bezpieczeństwo. Jakie awarie są prawdopodobne, jak są wykrywane i co dzieje się, gdy system działa poza przewidzianymi warunkami?
- Niedyskryminacja. Kto może być traktowany inaczej, jakie porównania mogą ujawnić tę różnicę i kogo brakuje w zgromadzonych dowodach?
- Wpływ społeczny. Jak system zmienia pracę, dostęp, dobrostan i układ sił poza momentem pojedynczej decyzji?
Ocena zdobywa zaufanie, ujawniając trudne dowody, a nie sprawiając, że niepewność znika.
Dowody muszą mieć przypisaną odpowiedzialność.
Na pytanie bez właściciela łatwo odpowiedzieć ogólnikowo. Każda oś powinna wskazywać, kto dostarcza dowody, kto je kwestionuje i kto akceptuje ryzyko rezydualne. Zespoły techniczne nie odpowiedzą samodzielnie na pytania o wpływ społeczny; zespoły regulacyjne nie zastąpią testów bezpieczeństwa; kierownictwo nie może przenieść odpowiedzialności na dostawcę.
Wynik nie musi być jedną uniwersalną oceną. Zwięzły zapis założeń, otwartych ryzyk, zabezpieczeń i warunków dalszego użytkowania może wspierać lepszą decyzję niż dopracowana liczba bez powiązania z dowodami źródłowymi.
Co sprawia, że ocena jest użyteczna?
- Pytania są sformułowane językiem, który pozwala odpowiedzialnym zespołom działać.
- Wymagane dowody są proporcjonalne do możliwej szkody.
- Pytania bez odpowiedzi pozostają widoczne, zamiast automatycznie otrzymywać wynik pozytywny.
- Osoby, których dotyczy system, mają możliwość udziału w ocenie.
- Warunki przeglądu, zawieszenia i wycofania są zapisane przed wdrożeniem.
Odpowiedzialność staje się operacyjna, gdy instytucja potrafi pokazać nie tylko, w co wierzy, lecz także jak te przekonania kształtują zakup, projektowanie, wdrożenie i decyzję o zatrzymaniu systemu.