Nie wahaj się proponować zmian. Możesz komentować, uzupełniać, redagować każdy fragment dokumentu.
Wykorzystywanie sztucznej inteligencji w ocenianiu i rozwiązywaniu problemów dostępności cyfrowej
1. Cel zalecenia
Zapewnienie kontroli nad wykorzystaniem sztucznej inteligencji w ocenianiu i rozwiązywaniu problemów dostępności cyfrowej, wiarygodności uzyskiwanych wyników oraz odpowiedzialności za rezultaty prac.
2. Zalecenie
OrganizacjaGrupa ludzi, instytucja lub państwo działające wspólnie w celu osiągania określonych celów w ramach ustalonej struktury. wykorzystuje sztuczną inteligencję w ocenianiu i rozwiązywaniu problemów dostępności cyfrowej w sposób kontrolowany, zapewniając odpowiedni do ryzyka nadzór kompetentnej osoby, sprawdzanie wyników AI mających wpływ na rezultat prac oraz weryfikowanie rezultatów działań wykonanych z wykorzystaniem AI.
Wykorzystanie AI nie ogranicza odpowiedzialności osób i podmiotów wykonujących, zatwierdzających lub odbierających prace, a jego istotny wpływ na sposób wykonania prac i ich rezultat jest dokumentowany.
3. Rekomendacje
3.1. Celowe wykorzystywanie AI
Organizacja wykorzystuje AI do wykonania określonych zadań, jeżeli może ono użytecznie wspierać ocenianie dostępności lub rozwiązywanie rozpoznanych problemów.
AI może wspierać w szczególności:
- analizowanie kodu, interfejsu, treści i dokumentów oraz wskazywanie potencjalnych problemów;
- porządkowanie, grupowanie i analizowanie wyników badań;
- przypisywanie ustaleń do wymagań dostępności;
- przygotowywanie zestawień i innych materiałów wykorzystywanych podczas oceniania;
- proponowanie sposobów rozwiązania rozpoznanych problemów;
- generowanie lub modyfikowanie kodu, treści i innych elementów rozwiązania;
- przygotowywanie propozycji testów i analizowanie ich wyników;
- wykonywanie innych czynności wspomagających ocenianie lub rozwiązywanie problemów.
Wykorzystanie AI nie zastępuje czynności, które zgodnie z przyjętym sposobem badania lub charakterem wykonywanych prac wymagają oceny, sprawdzenia albo decyzji kompetentnej osoby.
3.2. Ustalanie sposobu i zakresu wykorzystania AI
Przed wykorzystaniem AI organizacja ustala sposób jego użycia odpowiednio do wykonywanego zadania i możliwego wpływu wyniku na rezultat prac.
Uwzględnia w szczególności:
- cel wykorzystania AI;
- zadania powierzane systemowi;
- znaczenie wyniku AI dla oceny dostępności albo sposobu rozwiązania problemu;
- możliwość sprawdzenia wyniku niezależnie od wskazania AI;
- możliwe skutki błędnego lub niepełnego wyniku;
- zakres danych udostępnianych systemowi;
- uprawnienia systemu i możliwość samodzielnego wykonywania przez niego działań;
- sposób nadzoru i sprawdzania rezultatów.
Organizacja nie powierza systemowi AI większego zakresu danych, uprawnień ani samodzielności, niż jest potrzebny do wykonania określonego zadania.
3.3. Dostosowanie kontroli do ryzyka
Zakres nadzoru i sposób sprawdzania wyników AI są dostosowane do możliwych skutków błędu.
Większej kontroli wymagają w szczególności zastosowania, w których wynik AI może wpływać na:
- stwierdzenie występowania albo niewystępowania problemu dostępności;
- ocenę spełnienia wymagania dostępności;
- wnioski dotyczące stanu dostępności lub zgodności rozwiązania;
- zakres i sposób wykonania działania naprawczego;
- treść, strukturę lub sposób działania rozwiązania;
- uznanie problemu za rozwiązany;
- odbiór wykonanej zmiany.
AI może wykonywać czynności pomocnicze o niewielkim wpływie na rezultat prac przy odpowiednio mniejszym zakresie kontroli. Wynik mający bezpośredni wpływ na ustalenia, decyzje lub zmiany w rozwiązaniu podlega kontroli odpowiedniej do znaczenia i skutków możliwego błędu.
3.4. Sprawdzanie wyników AI
Wynik AI mający wpływ na rezultat oceny lub sposób rozwiązania problemu jest sprawdzany przez osobę posiadającą kompetencje odpowiednie do wykonywanego zadania.
Sprawdzenie musi mieć charakter rzeczywisty, a nie wyłącznie formalny. Osoba sprawdzająca powinna posiadać kompetencje pozwalające na samodzielną ocenę badanego zagadnienia, znać ograniczenia zastosowanego systemu, mieć dostęp do materiału źródłowego oraz możliwość odrzucenia lub zmiany wyniku AI. Samo zaakceptowanie wygenerowanego wyniku nie stanowi jego sprawdzenia.
Sprawdzenie opiera się na materiale źródłowym, mających zastosowanie wymaganiach oraz właściwej metodzie badania lub oceny. Nie polega wyłącznie na ocenie treści wygenerowanej przez AI ani na jej ocenie przez inny system AISystem maszynowy zaprojektowany do działania z różnym poziomem autonomii po wdrożeniu, mogący wykazywać zdolność adaptacji po wdrożeniu, który dla wyraźnych lub dorozumianych celów wnioskuje, jak generować na podstawie otrzymanych danych wejściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje mogące wpływać na środowisko fizyczne lub wirtualne., agenta albo test utworzony z wykorzystaniem AI. Taki proces może prowadzić do wzajemnego potwierdzania błędnych założeń i nie stanowi niezależnego sprawdzenia. Niezależność należy zapewnić przez ocenę ekspercką oraz odpowiednie testy manualne.
W szczególności sprawdzenia wymagają wykorzystywane w dalszych pracach:
- wskazania występowania lub niewystępowania problemu;
- klasyfikacje problemów;
- przypisania wymagań dostępności;
- interpretacje wyników badań;
- wnioski dotyczące dostępności lub zgodności;
- propozycje sposobu rozwiązania problemu;
- wygenerowane treści, kod lub inne elementy rozwiązania.
Zakres sprawdzenia odpowiada znaczeniu wyniku dla dalszych ustaleń i działań.
Nie można uznać wyniku za wiarygodny wyłącznie na podstawie poziomu pewności deklarowanego przez system AI. Wynik należy zakwalifikować jako:
- potwierdzony – jeżeli został niezależnie potwierdzony odpowiednią metodą badania;
- wymagający dodatkowego sprawdzenia – jeżeli dostępne dowody nie pozwalają jeszcze na jego potwierdzenie lub odrzucenie;
- niepotwierdzony – jeżeli nie można go niezależnie sprawdzić;
- odrzucony – jeżeli sprawdzenie wykazało, że jest nieprawidłowy.
Wyniku wymagającego dodatkowego sprawdzenia ani wyniku niepotwierdzonego nie można wykorzystać jako podstawy oceny zgodności lub odbioru poprawki.
Wynik AI nie stanowi samodzielnej podstawy stwierdzenia zgodności albo niezgodności rozwiązania ani uznania problemu dostępności za rozwiązany.
3.5. Weryfikowanie rezultatów działań wykonanych z wykorzystaniem AI
Zmiana przygotowana, wygenerowana lub wykonana z wykorzystaniem AI jest weryfikowana odpowiednio do jej charakteru i wpływu na rozwiązanie.
WeryfikacjaSprawdzenie informacji, wyniku, działania albo stanu w celu potwierdzenia jego poprawności, zgodności z określonym kryterium lub skuteczności. służy ustaleniu, czy problemUdokumentowana sytuacja wymagająca podjęcia działań. Problem może dotyczyć zarówno stanu dostępności i zgodności zasobów, jak i sposobu działania organizacji wpływającego na zapewnianie dostępności cyfrowej. został rzeczywiście rozwiązany, wymaganie dostępnościWarunek dotyczący dostępności, który powinien zostać spełniony przez określony produkt, usługę, rozwiązanie, treść lub proces. jest spełnione oraz czy zmiana nie spowodowała nowych problemów lub utraty wcześniej zapewnionych właściwości.
Stosuje się do niej metody i testy odpowiednie do sprawdzanych właściwości rozwiązania. Jeżeli właściwość wymaga badania manualnego, oceny eksperckiej lub sprawdzenia z wykorzystaniem technologii wspomagającej, zastosowanie AI nie zastępuje takiego badania.
Poprawka wygenerowana lub wykonana z wykorzystaniem AI nie jest uznawana za prawidłową wyłącznie na podstawie wyniku testu wygenerowanego, wykonanego lub zinterpretowanego przez AI.
Rezultat działania jest dokumentowany i wykorzystywany do aktualizowania wiedzy o stanie dostępności rozwiązania na takich samych zasadach jak rezultat działania wykonanego bez wykorzystania AI.
3.6. Ochrona informacji i kontrola uprawnień
Organizacja wykorzystuje systemy AI zgodnie z obowiązującymi zasadami ochrony informacji, danych osobowych i bezpieczeństwa systemów.
Przed przekazaniem informacji do zewnętrznego systemu AI ustala, czy ich przetwarzanie w tym systemie jest dopuszczalne, oraz ogranicza ich zakres do potrzeb wykonywanego zadania.
Uwzględnia odpowiednio:
- rodzaj i poufność informacji;
- występowanie danych osobowych;
- warunki przetwarzania i przechowywania danych przez dostawcę systemu;
- możliwość wykorzystywania przekazywanych danych do rozwijania lub trenowania modeli;
- dostęp systemu do kodu, dokumentów, repozytoriów, środowisk i innych zasobów organizacji;
- możliwość wykonywania przez system operacji powodujących zmianę danych lub rozwiązania.
Dane uwierzytelniające i inne informacje umożliwiające dostęp do chronionych zasobów nie są przekazywane systemowi AI, jeżeli nie jest to niezbędne, dopuszczone i odpowiednio zabezpieczone. Nadzór ekspercki musi mieć charakter rzeczywisty, a nie wyłącznie formalny. Osoba weryfikującaOsoba posiadająca kompetencje do sprawdzania określonych właściwości dostępności materiału lub rozwiązania i dokumentowania wyniku weryfikacji. powinna posiadać kompetencje pozwalające na samodzielną ocenę badanego zagadnienia, znać ograniczenia zastosowanego systemu, mieć dostęp do materiału źródłowego oraz możliwość odrzucenia lub zmiany rekomendacji AI. Samo zaakceptowanie wygenerowanego wyniku nie stanowi weryfikacji eksperckiej. Systemowi posiadającemu możliwość wykonywania działań organizacja nadaje wyłącznie uprawnienia potrzebne do realizacji określonego zadania i zapewnia kontrolę skutków wykonywanych operacji.
3.7. Dokumentowanie i informowanie o wykorzystaniu AI
Organizacja dokumentuje wykorzystanie AI w zakresie potrzebnym do ustalenia sposobu wykonania prac, podstaw uzyskanych wyników oraz sposobu ich kontroli.
Dokumentacja obejmuje odpowiednio:
- cel i zakres wykorzystania AI;
- rodzaj powierzonych zadań;
- wykorzystane narzędzie, usługę lub model w zakresie dostępnych i istotnych informacji;
- znaczenie wyników AI dla dalszych ustaleń lub działań;
- sposób sprawdzenia wyników;
- sposób zweryfikowania rezultatów wykonanych zmian;
- istotne ograniczenia lub problemy, które mogły mieć wpływ na rezultat.
Nie wymaga się odrębnego dokumentowania każdego pomocniczego użycia AI, które nie miało istotnego wpływu na wynik oceny, sposób rozwiązania problemu ani rezultat prac.
Jeżeli rezultat prac jest przekazywany innemu podmiotowi, a wykorzystanie AI miało istotny wpływ na ustalenia, wykonane zmiany albo sposób ich weryfikacji, odbiorca otrzymuje informację umożliwiającą zrozumienie charakteru tego wykorzystania i zastosowanego sposobu kontroli.
3.8. Odpowiedzialność za rezultat
Wykorzystanie AI nie przenosi na system ani jego dostawcę odpowiedzialności za prawidłowość wykonania zadań należących do organizacji, wykonawcy, osoby oceniającej albo osoby zatwierdzającej rezultat.
Osoby odpowiedzialne za ocenę dostępności, podjęcie decyzji, wykonanie działania naprawczego albo jego odbiór zachowują odpowiedzialnośćPrzypisanie roli lub podmiotowi obowiązku doprowadzenia do określonego rezultatu, podjęcia decyzji albo zapewnienia wykonania działań. za swoje ustalenia i decyzje niezależnie od tego, w jakim zakresie AI wspierało wykonanie prac.
Organizacja zapewnia, aby osoba odpowiedzialna za rezultat miała informacje i kompetencje potrzebne do jego samodzielnej oceny oraz możliwość zakwestionowania, odrzucenia lub skorygowania wyniku AI.
Osoba wykorzystująca AI do oceny albo naprawy dostępności cyfrowej powinna:
- posiadać wiedzę i doświadczenie odpowiednie do badanego zagadnienia;
- znać podstawowe możliwości oraz ograniczenia zastosowanego systemu;
- potrafić ocenić wiarygodność i kompletność wyniku;
- rozumieć ryzyka związane z rodzajem przekazywanych danych;
- potrafić dobrać metodę niezależnego sprawdzenia;
- umieć przeprowadzić wymagane testy manualne albo zapewnić ich wykonanie przez właściwą osobę.
Sama umiejętność obsługi systemu AI nie stanowi wystarczającej kompetencji do oceny dostępności cyfrowej.
4. Uzasadnienie
Systemy sztucznej inteligencji mogą wspierać wykonywanie prac wymagających analizy dużej ilości informacji, rozpoznawania wzorców, przygotowywania propozycji rozwiązań, generowania kodu lub treści oraz automatyzowania wybranych czynności. Mogą dzięki temu być użyteczne zarówno podczas oceniania dostępności cyfrowej, jak i rozwiązywania rozpoznanych problemów.
Sposób działania systemów AI powoduje jednak, że uzyskiwany wynik nie może być traktowany jako wiarygodny wyłącznie dlatego, że został wygenerowany przez system. Wynik może być niepełny, nieprawidłowy, niedostosowany do kontekstu albo oparty na błędnej interpretacji przekazanych informacji. System może również wygenerować przekonująco sformułowane uzasadnienie dla nieprawidłowego wyniku.
Szczególne znaczenie ma ryzyko nadmiernego polegania na wyniku automatycznym. Osoba korzystająca z AI może skłaniać się do potwierdzania przedstawionej sugestii zamiast samodzielnie zbadać materiał będący podstawą ustalenia. Dlatego wynik mający znaczenie dla oceny lub sposobu rozwiązania problemu jest sprawdzany na materiale źródłowym, z wykorzystaniem właściwych wymagań i metod badania.
Sprawdzenie wyniku AI i weryfikacja rezultatu wykonanej pracy pełnią różne funkcje. Sprawdzenie wyniku pozwala ustalić, czy informacja, klasyfikacja, wniosek lub propozycja wygenerowana przez AI są prawidłowe. Weryfikacja rezultatu działania pozwala natomiast ustalić, czy wykonana zmiana rzeczywiście rozwiązała problem i nie spowodowała innych problemów dostępności. Wykonanie jednego z tych działań nie zastępuje drugiego.
Zakres potrzebnej kontroli zależy od sposobu wykorzystania AI. Innego nadzoru wymaga pomocnicze grupowanie wcześniej zweryfikowanych ustaleń, a innego wskazywanie problemów, interpretowanie wyników badań, generowanie zmian w kodzie albo wykonywanie operacji bezpośrednio w rozwiązaniu. Podejście oparte na ryzyku pozwala zwiększać kontrolę tam, gdzie błąd może istotnie wpływać na wynik oceny, dostępnośćDostępność architektoniczna, cyfrowa oraz informacyjno-komunikacyjna, co najmniej w zakresie określonym przez minimalne wymagania ustawowe, będąca wynikiem uwzględnienia uniwersalnego projektowania albo zastosowania racjonalnego usprawnienia. rozwiązania albo sytuację użytkownika, bez tworzenia nieproporcjonalnych wymagań dla zastosowań pomocniczych.
Wykorzystanie AI nie tworzy odrębnego procesu zapewniania dostępności cyfrowej. Systemy AI są narzędziami wykorzystywanymi w istniejących procesach i nie zmieniają odpowiedzialności za ich rezultaty. Organizacja nadal odpowiada za sposób prowadzenia oceny, wiarygodność ustaleń, prawidłowość wykonywanych zmian oraz decyzje podejmowane na podstawie uzyskanych informacji.
5. Podstawy prawne
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji (akt w sprawie sztucznej inteligencji).
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. (RODO) — w zakresie, w jakim wykorzystanie systemu AI wiąże się z przetwarzaniem danych osobowych.
- Ustawa z dnia 4 kwietnia 2019 r. o dostępności cyfrowej stron internetowych i aplikacji mobilnych podmiotów publicznych — w zakresie wymagań dotyczących dostępności i jej oceny.
Zakres obowiązków wynikających z rozporządzenia (UE) 2024/1689 zależy od rodzaju systemu AI i sposobu jego wykorzystania. Zasady określone w zaleceniu stanowią standard organizacyjny dotyczący wykorzystywania AI w procesach zapewniania dostępności cyfrowej i nie oznaczają, że każde opisane zastosowanie podlega obowiązkom przewidzianym w rozporządzeniu dla systemów wysokiego ryzyka.
6. Źródła i opracowania
- EN 301 549Europejska norma określająca wymagania dostępności dla produktów i usług technologii informacyjno-komunikacyjnych oraz powiązane procedury testowe i metody oceny. – Wymagania dostępności produktów i usług ICTTechnologie, sprzęt, systemy i procesy, których główną funkcją jest tworzenie, przetwarzanie, przechowywanie, prezentowanie, odbieranie lub przesyłanie danych i informacji elektronicznych oraz powiązanych treści..
- Web Content Accessibility GuidelinesStandard W3C Web Content Accessibility Guidelines określający testowalne kryteria dostępności treści internetowych i interfejsów cyfrowych. (WCAGStandard W3C Web Content Accessibility Guidelines określający testowalne kryteria dostępności treści internetowych i interfejsów cyfrowych.).
- dokumentacja wykorzystywanych systemów i usług AI;
- dokumentacja metod i narzędzi wykorzystywanych do oceniania dostępności cyfrowej.
7. Powiązania z innymi dokumentami Sieci
ZalecenieWystąpienie o charakterze służbowym adresowane do organizacji, podstawowa forma dokumentu Sieci. Obserwowanie i ocenianie stanu dostępności i zgodności rozwiązań cyfrowych określa zasady uzyskiwania, interpretowania i aktualizowania wiedzy o stanie dostępności. Niniejsze zalecenie określa dodatkowe zasady kontroli, jeżeli podczas tych działań wykorzystywana jest sztuczna inteligencja.
Zalecenie Rozwiązywanie problemów dostępności cyfrowej określa sposób postępowania z rozpoznanymi problemami, wykonywania działań oraz sprawdzania ich skuteczności. Wykorzystanie AI do przygotowania lub wykonania działania nie zmienia tych zasad i wymaga dodatkowo kontroli właściwej dla sposobu wykorzystania AI.
Zalecenie Stosowanie i rozwijanie Biblioteki testów dostępności cyfrowej określa zasady stosowania wspólnych scenariuszy testów. AI może wspierać wykonywanie określonych czynności lub przygotowywanie propozycji nowych testów, ale wynik działania AI nie zastępuje scenariusza ani jego weryfikacji zgodnie z zasadami Biblioteki.
Zalecenie Dostępność w cyklu życia rozwiązania cyfrowego określa zasady zachowania i wykorzystywania wiedzy, wymagań i odpowiedzialności dotyczących dostępności. Informacje o istotnym wykorzystaniu AI i sposobie kontroli jego rezultatów są zachowywane, jeżeli są potrzebne do prawidłowej interpretacji dokumentacji lub dalszego zapewniania dostępności rozwiązania.
8. Załączniki
- OcenaDziałanie polegające na interpretacji informacji i materiału dowodowego w odniesieniu do określonych kryteriów w celu ustalenia stanu lub podjęcia decyzji. ryzyka wykorzystania AI — wspiera ustalenie wpływu zastosowania AI, możliwych skutków błędu oraz potrzebnego sposobu kontroli.
- Klasyfikacja zastosowań AI i wymagany poziom kontroli — przedstawia typowe zastosowania AI w ocenianiu i rozwiązywaniu problemów dostępności oraz odpowiadające im sposoby nadzoru i weryfikacji.
- Dokumentowanie wykorzystania AI — określa zakres informacji potrzebnych do udokumentowania istotnego wykorzystania AI i sposobu kontroli jego rezultatów.
Historia wersji
- Wersja 0.1 — projekt pierwotny.
- Wersja 0.2 — przebudowa zalecenia wokół zasady zachowania kontroli nad wykorzystaniem AI, wiarygodnością wyników i odpowiedzialnością za rezultat.
- Wersja 0.3 — uwzględnienie uwag zgłoszonych na GitHubie: doprecyzowanie rzeczywistego charakteru sprawdzenia wyników AI, wyłączenie sprawdzania wyniku AI przez inny system AI, agenta albo test utworzony z wykorzystaniem AI jako niezależnego sprawdzenia, wprowadzenie klasyfikacji wyników AI (3.4) oraz minimalnych wymagań kompetencyjnych dla osób wykorzystujących AI (3.8).---