Maszyny w służbie państwa. Jak algorytmy wpływają na życie obywateli i obywatelek w Polsce i wybranych krajach regionu

Mimo dyskusji nad zagrożeniami związanymi z wpływem algorytmów na prawa człowieka, w Polsce nie opracowano całościowej polityki gwarantującej bezpieczeństwo ich wdrażania, a wiedza na temat ich funkcjonowania pozostaje niejawna.

Państwa biorące udział w badaniu wprowadziły już narzędzia technologiczne wpływające na prawa i obowiązki obywateli. Algorytmy funkcjonują w wielu obszarach działalności państwa, m.in. w kontroli prędkości i wystawianiu mandatów, przydzielaniu sędziów i innych urzędników publicznych do konkretnych spraw, dystrybucji świadczeń socjalnych, wykrywania oszustw skarbowych czy wstępnego wyboru wykonawców w zamówieniach publicznych.

Zarówno obywatele, jak i sami sędziowie mają problem z dostępem do informacji dotyczących funkcjonowania losowych systemów przydzielania ich do spraw, a dodatkowo – jak ustaliła Fundacja ePaństwo – polski system zawiera błędy. Podobne sytuacje występują również w Serbii, Słowacji, Gruzji i w Czechach, gdzie algorytmy wykorzystuje się m.in. do preselekcji oferentów w zamówieniach publicznych.

Często, wyłącznie firmy, które opracowały narzędzia dla instytucji publicznych mają pełną wiedzę o ich funkcjonowaniu i nie podlegają zewnętrznej kontroli w zakresie poprawności działania algorytmów. Na Słowacji i Węgrzech odmówiono nam udostępnienia algorytmów z uwagi na ochronę tajemnicy przedsiębiorstwa lub ze względu na ochronę praw autorskich.

Polskie Ministerstwo Finansów poinformowało, że system teleinformatyczny automatycznie blokujący podejrzane przepływy finansowe (STIR) należy do zewnętrznego podmiotu, a umowa na jego wykonanie jest dokumentem prywatnym.

W żadnym z badanych państw nie wyznaczono instytucji, która koordynuje wdrażanie i nadzoruje automatyczne podejmowanie decyzji. Wyłącznie w Serbii dokonano niezależnego audytu działania algorytmu losującego sędziów w ramach projektu UE, ale jego wyniki pozostają niedostępne.

W żadnych z badanych przypadków nie wykryliśmy, by urzędnicy odpowiedzialni za wdrażanie systemów rozważali etyczne podstawy takich rozwiązań. Nie istnieją systemy instytucjonalne i prawne, które wyraźnie wskazują kto jest odpowiedzialny za działanie algorytmów, a ewentualne problemy z ich funkcjonowaniem, w tym wpływ na prawa obywateli, poddane są kontroli sądowej na warunkach ogólnych.

Przedstawiliśmy rekomendacje, które należy niezwłocznie wdrożyć w krajach regionu. Wraz z rozwojem tego typu narzędzi i wykorzystywaniem w nich elementów sztucznej inteligencji, opisane w raporcie problemy jeszcze się pogłębią. Należy m.in. wprowadzić:

• politykę wdrażania systemów automatycznego podejmowania decyzji określającą m.in. przejrzystość działania narzędzi i nadzór nad ich wdrażaniem,

• ocenę skutków wprowadzenia algorytmów na wzór Oceny Skutków Regulacji, w której instytucja wdrażająca wykaże m.in. niezbędność stosowania narzędzia, jego wpływ na prawa obywateli, określenie ryzyk i sposoby ewaluacji,

• mechanizmy niezależnej kontroli funkcjonowania algorytmów,

• prawne gwarancje przeciwdziałania dyskryminacji przez algorytmy i skuteczne środki ochrony prawnej.

Raport (w jęz. ang.) oraz szczegółowe rekomendacje (w jęz. pol. i ang.) dostępne będą na stronie: https://epf.org.pl/en/projects/algovrithms/.

RSVP: 13 maja do godz. 12 na adres: marta.skotnicka@epf.org.pl.

Projekt sfinansowany przez Międzynarodowy Fundusz Wyszehradzki.