Czemu służy certyfikacja organizacji.
Certyfikacja Etycznego AI ma zamieniać zobowiązania w dowody. Pomoże organizacji wykazać, że odpowiedzialność znajduje odzwierciedlenie w zarządzaniu, rolach, mechanizmach kontroli, dokumentacji, podejmowaniu decyzji i drogach kwestionowania wyniku.
Ocena skupi się na tym, jak AI jest wykorzystywane w rzeczywistych sytuacjach, a nie tylko na istnieniu polityk. Jej celem będzie pokazanie mocnych stron, rozpoznanie luk i stworzenie praktycznej podstawy do poprawy.
Pytanie nie brzmi jedynie, czy organizacja ma politykę dotyczącą AI. Chodzi o to, czy ludzie mogą zrozumieć, zakwestionować i zmienić sposób, w jaki AI na nich wpływa.
Co będzie przedmiotem oceny.
Ścieżka certyfikacji powstaje wokół sześciu osi oceny standardu PACT. Łączą one praktykę organizacyjną z doświadczeniem osoby, której dotyczy technologia.
- Nadzór człowieka
- Czy odpowiedzialne osoby mają uprawnienia, informacje, kompetencje i czas potrzebne do skutecznej interwencji.
- Przejrzystość
- Czy organizacja potrafi wyjaśnić, gdzie używa AI, jaką rolę ono pełni i jakie są jego istotne ograniczenia.
- Prywatność
- Czy dane osobowe, wnioskowanie i profilowanie są ograniczone, uzasadnione i zarządzane w całym cyklu życia.
- Bezpieczeństwo
- Czy przewidywalne awarie są testowane i monitorowane oraz czy istnieją skuteczne rozwiązania awaryjne i reakcja na incydenty.
- Niedyskryminacja
- Czy nierówne wyniki są badane w grupach, których dotyczą, i korygowane, gdy się pojawią.
- Wpływ społeczny
- Czy organizacja uwzględnia wpływ na pracę, relacje, uczestnictwo, dostęp i społeczności.
Dla kogo jest przeznaczona.
Przyszły proces jest projektowany dla organizacji podejmujących istotne decyzje dotyczące AI, w tym:
- instytucji publicznych i samorządów,
- firm technologicznych i zespołów produktowych,
- szkół, uczelni i dostawców edukacji,
- organizacji społecznych i dostawców usług podstawowych,
- organizacji kupujących od dostawców systemy wykorzystujące AI.
Ostateczne kryteria kwalifikacji i zakresy certyfikacji zostaną potwierdzone przy uruchomieniu programu.
Jak ma przebiegać proces.
Metoda jest nadal przygotowywana. Obecny kierunek zakłada proces etapowy, który łączy dowody dokumentacyjne z rzeczywistym sposobem pracy ludzi.
- Zakres i gotowość. Określenie organizacji, usług, procesów wykorzystujących AI i grup objętych oceną.
- Dowody. Zebranie polityk, zakresów odpowiedzialności, rejestrów ryzyka, testów, wyników monitorowania, skarg i przykładów interwencji.
- Ocena. Przegląd dowodów i praktyki operacyjnej względem sześciu osi PACT.
- Doskonalenie. Usunięcie istotnych luk i sprawdzenie, czy działania naprawcze działają w praktyce.
- Decyzja i dalszy przegląd. Podjęcie ograniczonej decyzji dla określonego zakresu i okresu wraz z wymaganiami dotyczącymi monitorowania i ponownej oceny.
Czego certyfikacja nie będzie oznaczać.
- Nie będzie oznaczać, że organizacja lub system AI są pozbawione ryzyka.
- Nie będzie ogólną akceptacją każdej używanej technologii.
- Nie zastąpi obowiązków prawnych, regulacyjnych ani sektorowych.
- Nie będzie jednorazowym zamiennikiem stałego nadzoru.