Kto odpowie za decyzje sztucznej inteligencji?

Cykl „Jedna liczba”

Decyzje sztucznej inteligencji coraz częściej wpływają na zdrowie, edukację, pracę, finanse i bezpieczeństwo człowieka. Technologia potrafi analizować, rekomendować i przewidywać. Nadal jednak nie potrafi ponosić odpowiedzialności za skutki swoich wskazań.

Nie każda rewolucja zaczyna się od wielkiego odkrycia. Niektóre zaczynają się od braku odpowiedzialności.

Są decyzje, których nie chcielibyśmy oddać nikomu. Lekarz decydujący o leczeniu dziecka. Sędzia rozstrzygający o czyjejś wolności. Dyrektor szkoły decydujący o przyszłości ucznia. Pracodawca wybierający człowieka do awansu lub zwolnienia. Dowódca podejmujący decyzję podczas konfliktu zbrojnego. Bank oceniający czy młoda rodzina otrzyma kredyt na pierwszy dom.

Każda z tych decyzji ma wspólny mianownik. Za każdą stoi człowiek. Człowiek ze swoją wiedzą, doświadczeniem, intuicją, ale także z odpowiedzialnością. Można się z nim nie zgodzić. Można zaskarżyć jego decyzję. Można domagać się wyjaśnień. Można pociągnąć go do odpowiedzialności.

A teraz wyobraźmy sobie, że coraz większą część tych decyzji przygotowuje, rekomenduje albo wręcz podejmuje sztuczna inteligencja.

Nie jest to już futurystyczna wizja rodem z filmów science fiction. To rzeczywistość, która dzieje się na naszych oczach.

Sztuczna inteligencja analizuje wyniki badań medycznych szybciej niż człowiek. Pomaga wykrywać nowotwory na podstawie obrazów diagnostycznych. Ocenia ryzyko kredytowe klientów banków. Wspiera rekrutację pracowników. Wykrywa próby oszustw finansowych. Analizuje zachowania uczniów i proponuje indywidualne ścieżki nauczania. W administracji pomaga podejmować decyzje dotyczące świadczeń społecznych, planowania usług czy zarządzania ruchem.

Technologia nie stoi już przed drzwiami. Ona weszła do środka i usiadła przy stole, przy którym zapadają decyzje.

To nie jest ani dobre, ani złe. To po prostu fakt.

Prawdziwe pytanie brzmi jednak zupełnie inaczej: kto odpowiada za decyzje sztucznej inteligencji i za skutki działań podejmowanych na podstawie jej rekomendacji?

Kto poniesie odpowiedzialność, kiedy sztuczna inteligencja się pomyli?

To pytanie stało się jeszcze bardziej aktualne po informacji przedstawionej podczas konferencji Światowej Organizacji Zdrowia.

Według danych WHO jedynie około ośmiu procent państw na świecie posiada kompleksowe regulacje dotyczące nadzoru nad wykorzystaniem sztucznej inteligencji w ochronie zdrowia.

Na pierwszy rzut oka to tylko statystyka. Jedna z wielu liczb pojawiających się każdego dnia w raportach i prezentacjach.

Ale niektóre liczby są jak sygnał alarmowy.

Osiem procent oznacza, że zdecydowana większość państw pozwala, aby technologia rozwijała się szybciej niż zasady odpowiedzialności za jej wykorzystanie.

Nie chodzi o zakaz innowacji. Nie chodzi o hamowanie postępu. Wręcz przeciwnie. Świat potrzebuje sztucznej inteligencji. Potrzebuje jej medycyna, nauka, gospodarka i administracja. Dzięki niej możemy ratować życie, skracać czas diagnozy, lepiej zarządzać zasobami i podejmować trafniejsze decyzje.

Problem nie leży w technologii.

Problem pojawia się wtedy, gdy zachwycamy się możliwościami, zapominając o odpowiedzialności.

Historia rozwoju cywilizacji pokazuje, że każda przełomowa technologia wyprzedzała prawo. Tak było z koleją, samochodami, Internetem i mediami społecznościowymi. Najpierw zachwycaliśmy się nowymi możliwościami, a dopiero później uczyliśmy się żyć z ich konsekwencjami.

Czy tym razem również możemy pozwolić sobie na takie opóźnienie?

W przypadku sztucznej inteligencji stawką nie jest wygoda. Stawką jest zdrowie, bezpieczeństwo, wolność, a czasem nawet życie człowieka.

Wyobraźmy sobie lekarza, który otrzymuje od systemu AI rekomendację leczenia. Algorytm przeanalizował miliony przypadków. Uwzględnił wyniki badań, historię choroby, najnowsze publikacje naukowe. Wszystko wskazuje na to, że jego rekomendacja jest trafna.

Lekarz podejmuje decyzję zgodnie z podpowiedzią systemu.

Po kilku tygodniach okazuje się, że doszło do tragicznego błędu.

Kto odpowiada? Lekarz? Szpital? Producent oprogramowania? Twórca modelu sztucznej inteligencji? Państwo, które dopuściło taki system do użycia?

A może… nikt?

To nie są pytania filozoficzne.

To pytania, które coraz częściej będą trafiały do sądów, komisji etycznych i parlamentów.

Przez dziesięciolecia odpowiedzialność była stosunkowo prosta do zdefiniowania. Człowiek podejmował decyzję i ponosił jej konsekwencje.

Sztuczna inteligencja zmienia ten porządek. Nie dlatego, że zastępuje człowieka. Dlatego, że rozmywa granice odpowiedzialności.

Coraz częściej człowiek nie podejmuje decyzji samodzielnie. Korzysta z rekomendacji algorytmu. Ufa analizie systemu. Wierzy, że maszyna wie więcej.

I bardzo często rzeczywiście wie więcej.

Potrafi przeanalizować miliony danych w czasie, którego człowiek potrzebowałby przez całe życie. Dostrzega zależności niewidoczne dla ludzkiego oka. Nie męczy się, nie ulega emocjom i nie zapomina.

Ale jest jedna rzecz, której sztuczna inteligencja wciąż nie potrafi zrobić.

Nie potrafi wziąć odpowiedzialności. Nie odczuwa ciężaru własnej decyzji. Nie przeżywa wyrzutów sumienia. Nie spojrzy w oczy rodzinie pacjenta. Nie stanie przed sądem. Nie podpisze się pod wyrokiem. Nie przeprosi.

I właśnie dlatego pytanie o regulacje nie jest pytaniem o technologię. Jest pytaniem o człowieka.

Bo każda epoka definiowana jest nie tylko przez wynalazki, które stworzyła, ale również przez odpowiedzialność, z jaką nauczyła się z nich korzystać.

Być może za kilka lat nie będziemy już dyskutować o tym, czy wykorzystywać sztuczną inteligencję.

Będziemy dyskutować o tym, jak zachować człowieczeństwo w świecie, w którym coraz więcej decyzji rodzi się z algorytmów, a nie z ludzkiego doświadczenia.

I być może właśnie dziś jest moment, w którym powinniśmy zadać sobie najważniejsze pytanie.

Nie o możliwości AI. Nie o tempo jej rozwoju. Nie o kolejne modele i miliardy inwestycji.

Ale o to, czy równie szybko rozwija się nasza odpowiedzialność.

Gdzie kończy się algorytm, a zaczyna odpowiedzialność?

Przez lata przyzwyczailiśmy się myśleć o sztucznej inteligencji jak o kolejnym narzędziu. Tak jak komputer zastąpił maszynę do pisania, a Internet bibliotekę, tak AI ma po prostu ułatwić nam pracę.

To prawda. Ale tylko częściowo.

Sztuczna inteligencja nie jest już wyłącznie narzędziem. Coraz częściej staje się uczestnikiem procesu podejmowania decyzji. Nie trzyma długopisu, nie podpisuje dokumentów i nie składa przysięgi. A jednak wpływa na wybory, od których zależy życie ludzi.

To subtelna zmiana, której wielu z nas jeszcze nie dostrzega.

Największym zagrożeniem nie jest bowiem to, że sztuczna inteligencja stanie się mądrzejsza od człowieka. Największym zagrożeniem jest to, że człowiek przestanie zadawać pytania, ponieważ uzna, że algorytm już zrobił to za niego.

To właśnie tutaj zaczyna się odpowiedzialność.

Medycyna – miejsce, w którym nie ma miejsca na anonimowość

WHO nie bez powodu zwraca uwagę właśnie na ochronę zdrowia.

Medycyna jest dziedziną, w której technologia może przynieść ogromne dobro. Algorytmy już dziś pomagają wykrywać nowotwory na bardzo wczesnym etapie, analizować obrazy tomografii komputerowej, przewidywać ryzyko powikłań czy dobierać leczenie do indywidualnych cech pacjenta.

To ogromny postęp. Ale medycyna nie jest wyłącznie zbiorem danych. Jest spotkaniem dwóch ludzi. Pacjenta, który często się boi. I lekarza, który bierze odpowiedzialność za decyzję.

Czy sztuczna inteligencja potrafi dostrzec strach w oczach matki? Czy zrozumie, że starszy pacjent bardziej niż kolejnej procedury potrzebuje spokojnej rozmowy? Czy wyczuje, że wyniki badań są poprawne, ale intuicja doświadczonego lekarza podpowiada, że dzieje się coś niepokojącego?

Nie. Bo empatia nie jest błędem w kodzie. Jest doświadczeniem człowieka.

Dlatego AI może wspierać medycynę. Nie powinna jednak zwalniać ludzi z odpowiedzialności.

Administracja – gdy decyzję podejmuje system

Wyobraźmy sobie urząd, który wykorzystuje sztuczną inteligencję do oceny wniosków o świadczenia społeczne.

Algorytm analizuje setki kryteriów. Robi to szybciej niż urzędnik. Jest konsekwentny. Nie jest zmęczony. Nie ma gorszego dnia.

Brzmi idealnie. A co, jeśli błędne dane sprawią, że samotna matka zostanie pozbawiona wsparcia? Albo osoba z niepełnosprawnością zostanie automatycznie zakwalifikowana do niewłaściwej grupy?

Czy obywatel będzie wiedział, dlaczego zapadła taka decyzja? Czy będzie mógł zapytać: „Proszę mi wyjaśnić”? Czy ktoś będzie umiał odpowiedzieć?

Przejrzystość decyzji jest jednym z fundamentów państwa prawa. Jeśli obywatel nie rozumie, dlaczego państwo podejmuje wobec niego określone działania, zaczyna tracić zaufanie. A odbudowanie zaufania trwa znacznie dłużej niż stworzenie kolejnego modelu sztucznej inteligencji.

Sąd nie może być czarną skrzynką

W wielu krajach AI pomaga już analizować orzecznictwo, porządkować dokumenty czy oceniać ryzyko powrotu do przestępstwa. To cenne wsparcie. Ale wyrok sądu nie może być efektem działania „czarnej skrzynki”, której logiki nikt nie potrafi wyjaśnić.

Prawo opiera się nie tylko na przepisach. Opiera się także na uzasadnieniu.

Każdy obywatel ma prawo wiedzieć, dlaczego zapadła decyzja dotycząca jego życia. Jeżeli nawet twórcy algorytmu nie potrafią dokładnie wyjaśnić, dlaczego system wskazał właśnie taki wynik, to czy możemy mówić o sprawiedliwości?

Szybkość nie zastąpi zaufania.

Szkoła przyszłości potrzebuje nauczycieli, nie tylko danych

Coraz częściej słyszymy, że AI zrewolucjonizuje edukację. Będzie dopasowywać materiały do poziomu ucznia, analizować postępy i wskazywać najlepsze metody nauki.

To fascynujące możliwości.

Ale szkoła nigdy nie była wyłącznie miejscem przekazywania wiedzy.

Jest miejscem wychowania.

Czy algorytm zauważy, że uczeń nagle przestał się odzywać, bo przeżywa dramat w domu? Czy rozpozna wykluczenie, samotność albo przemoc rówieśniczą? Czy zrozumie, że słabszy wynik z matematyki nie wynika z lenistwa, lecz z lęku?

Danych można nauczyć maszynę. Uważności wobec drugiego człowieka – nie.

Rekrutacja – czy algorytm naprawdę jest bezstronny?

W działach HR sztuczna inteligencja analizuje tysiące CV, ocenia kompetencje i pomaga wybierać kandydatów. To oszczędność czasu. Ale algorytm uczy się na danych historycznych. A historia nie zawsze była sprawiedliwa.

Jeżeli przez lata awansowano głównie mężczyzn, osoby z określonych uczelni albo z konkretnych środowisk, system może uznać taki wzorzec za „normalny”. Nie dlatego, że jest złośliwy. Dlatego, że powiela to, czego został nauczony. Technologia nie tworzy naszych uprzedzeń. Potrafi je jednak nieświadomie utrwalać. Dlatego pytanie nie brzmi, czy AI jest obiektywna.

Pytanie brzmi, czy my byliśmy obiektywni, kiedy uczyliśmy ją na naszych danych.

Bank, ubezpieczyciel i codzienne decyzje

Coraz częściej nie zdajemy sobie sprawy, że sztuczna inteligencja już dziś wpływa na nasze codzienne życie.

Dlaczego jedna osoba otrzymuje kredyt, a druga nie? Dlaczego wysokość składki ubezpieczeniowej różni się między klientami? Dlaczego jedna transakcja zostaje uznana za podejrzaną, a inna nie?

Za wieloma z tych decyzji stoją modele analityczne, które oceniają ryzyko i prawdopodobieństwo. To racjonalne.

Ale człowiek nie jest wyłącznie prawdopodobieństwem. Nie da się zamknąć całego ludzkiego życia w tabeli, nawet jeśli tabela zawiera milion wierszy.

Bezpieczeństwo i wojsko – kiedy stawką jest życie

Najbardziej wymagające pytania dopiero przed nami. Sztuczna inteligencja analizuje obrazy satelitarne, wykrywa zagrożenia, wspiera systemy obronne i pomaga podejmować decyzje operacyjne.

To może ratować życie. Ale im większe możliwości technologii, tym większa odpowiedzialność ludzi, którzy z niej korzystają. Czy można pozwolić, aby algorytm sam zdecydował o użyciu siły?

Czy maszyna może ocenić proporcjonalność działania?

Czy rozpozna moment, w którym należy zrezygnować z ataku, mimo że wszystkie dane wskazują na jego skuteczność?

To nie są pytania o przyszłość.

To pytania, które już dziś stawiają przed sobą sztaby wojskowe, rządy i organizacje międzynarodowe.

Bo technologia rozwija się wykładniczo.

Nasza zdolność przewidywania jej konsekwencji – już nie.

I właśnie dlatego liczba 8% przestaje być wyłącznie statystyką dotyczącą ochrony zdrowia.

Staje się symbolem znacznie większego wyzwania.

Nie jesteśmy spóźnieni z rozwojem sztucznej inteligencji.

Możemy być spóźnieni z rozmową o odpowiedzialności.

Odpowiedzialność nie podlega automatyzacji. Kto odpowiada za decyzje sztucznej inteligencji?

Każde pokolenie staje przed wyzwaniem, którego wcześniej nie znało.

Nasi dziadkowie uczyli się żyć w świecie elektryczności.

Rodzice oswajali komputery i Internet.

Obecne pokolenie uczy się żyć ze sztuczną inteligencją.

Nie jest pierwszym pokoleniem, które doświadcza technologicznej rewolucji. Być może jest jednak pierwszym, które musi odpowiedzieć na pytanie nie o to, co maszyny potrafią zrobić, lecz za co człowiek nadal musi odpowiadać.

Bo paradoks współczesności polega na tym, że im doskonalsze stają się algorytmy, tym większego znaczenia nabierają cechy, których nie da się zaprogramować.

Odwaga. Empatia. Pokora. Sumienie. Odpowiedzialność. To one od wieków odróżniają decyzję od obliczenia.

Lider przyszłości nie będzie tym, który najlepiej wykorzysta AI

W debacie publicznej często słyszymy, że przyszłość należy do tych, którzy najszybciej wdrożą sztuczną inteligencję. To tylko część prawdy.

Przyszłość będzie należała do tych, którzy potrafią połączyć możliwości technologii z odpowiedzialnością za człowieka. To ogromna różnica.

Dobry lider nie pyta wyłącznie: „Czy możemy to zrobić?”. Najpierw pyta: „Czy powinniśmy?”. Czy naprawdę każdą decyzję warto przyspieszyć? Czy każdą relację można zastąpić analizą danych? Czy każdą ocenę człowieka da się zamknąć w modelu statystycznym?

Nie wszystko, co jest możliwe technologicznie, staje się automatycznie dobre społecznie. Historia wielokrotnie nas tego uczyła. Dlatego sztuczna inteligencja nie zwalnia liderów z odpowiedzialności. Ona tę odpowiedzialność zwiększa. Im większy wpływ mają decyzje sztucznej inteligencji, tym bardziej jednoznacznie musi być określona odpowiedzialność człowieka.

Zaufanie stanie się najcenniejszą walutą

Możemy wyobrazić sobie świat, w którym AI będzie podejmowała coraz trafniejsze decyzje.

Może będzie szybciej diagnozować choroby niż lekarze. Może skuteczniej przewidywać katastrofy. Może lepiej planować transport, ograniczać marnowanie energii i pomagać zarządzać miastami.

To wszystko jest możliwe.

Ale nawet najlepsza decyzja nie wystarczy, jeśli ludzie przestaną jej ufać. Zaufanie nie rodzi się z doskonałości technologii. Rodzi się z przekonania, że za decyzją stoi ktoś, kto jest gotów ją wyjaśnić i wziąć za nią odpowiedzialność.

To dlatego lekarz rozmawia z pacjentem. To dlatego sędzia uzasadnia wyrok. To dlatego nauczyciel tłumaczy ocenę. To dlatego lider powinien umieć powiedzieć: „To była moja decyzja”.

Jeżeli zaczniemy odpowiadać: „Tak wskazał system”, utracimy coś znacznie cenniejszego niż kontrolę nad technologią.

Utracimy odpowiedzialność za własne wybory.

Czy jesteśmy gotowi na nowe przywództwo?

Liczba 8% pokazuje coś więcej niż stan regulacji prawnych. Pokazuje tempo, w jakim zmienia się świat. Prawo próbuje nadążyć za technologią. Instytucje próbują nadążyć za innowacjami. Społeczeństwo próbuje nadążyć za zmianami, których często nawet nie dostrzega.

Ale jest jeszcze jedno pytanie. Czy nasze przywództwo nadąża za odpowiedzialnością?

Być może najważniejszym zadaniem liderów najbliższych lat nie będzie wdrażanie kolejnych modeli AI.

Będzie tworzenie zasad, które pozwolą ludziom ufać, że technologia pozostaje narzędziem, a nie niekontrolowanym arbitrem.

To wymaga odwagi.

Odwagi powiedzenia: „Nie wiemy jeszcze wszystkiego”. Odwagi zatrzymania się, zanim zachwyt nad możliwościami przesłoni konsekwencje. Odwagi zadawania pytań, zanim pojawią się pierwsze tragedie, których można było uniknąć. Bo odpowiedzialność zawsze wyprzedza zaufanie.

Nie wszystko da się zmierzyć

Sztuczna inteligencja uwielbia liczby. Przetwarza je szybciej niż człowiek. Znajduje zależności, których nie dostrzegamy. Buduje modele. Prognozuje. Porównuje. Optymalizuje.

Ale życie człowieka nie składa się wyłącznie z liczb. Nie zmierzymy godności. Nie policzymy współczucia. Nie wyliczymy wartości przebaczenia. Nie zapiszemy w arkuszu kalkulacyjnym odpowiedzialności za drugiego człowieka.

To właśnie dlatego potrzebujemy technologii. I właśnie dlatego jeszcze bardziej potrzebujemy ludzi.

Jedna liczba. Jedno pytanie.

Być może za kilka lat liczba 8% będzie już tylko historycznym przypisem. Kolejne państwa stworzą przepisy. Powstaną standardy. Rozwiną się systemy certyfikacji i nadzoru. To powinno się wydarzyć.

Oby jednak wraz z nowymi regulacjami nie zniknęła najważniejsza refleksja.

Bo prawo może określić procedury. Technologia może wspierać decyzje. Algorytm może wskazać najbardziej prawdopodobny scenariusz. Ale odpowiedzialności nie da się oddelegować. Nie można jej zautomatyzować. Nie można jej zlecić maszynie. To zawsze będzie zadanie człowieka. I może właśnie dlatego liczba 8% nie jest najważniejszą częścią tej historii. Najważniejsze jest pytanie, które pozostawia. Regulacje powinny jasno określać, kto zatwierdza decyzje sztucznej inteligencji, kto ma obowiązek je wyjaśnić i kto odpowiada za ich konsekwencje.

Jeśli dziś nie ustalimy, kto odpowiada za decyzje podejmowane przez sztuczną inteligencję, to kto odpowie za nasze błędy jutro?

Bo nie każda liczba opisuje świat.

Niektóre pokazują moment, w którym świat powinien się zatrzymać i zadać sobie właściwe pytania.