“Zakodowane uprzedzenie”, czyli przyszłość technologii dzieje się teraz [RECENZJA]


Każda osoba interesująca się przyszłością ludzkości z pewnością spotkała się z pojęciem sztucznej inteligencji. Niektórzy mają też świadomość, że już dawno AI wkradła się do naszej wirtualnej codzienności. Pomaga nam dokonywać trafniejszych wyborów zakupowych, zapewnia rozrywkę w postaci mnogiej ilości filtrów w mediach społecznościowych, ale również stanowi niemałe zagrożenie jako narzędzie, które nie jest kontrolowane przepisami prawa. O tym właśnie mowa w alarmującym dokumencie “Zakodowane uprzedzenie” Shalini Kantayya.
Aż dziw, że o rozwoju sztucznej inteligencji głośno mówi się dopiero w ostatnich latach. Jej powstanie datuje się przecież na rok 1956. To właśnie wtedy grupa matematyków – 8 białych mężczyzn – ustaliła, że system może elastycznie dostosowywać się do przyjmowanych danych. A na ich podstawie wykonywać określone zadania. Dziś masa naukowców na całym świecie bada i wprowadza do użytku algorytmy sterujące wieloma narzędziami. Również te, którym do ideału bardzo daleko.
Przeczytaj: “3 filmy na miarę XXI wieku, które trzeba zobaczyć na #AFF2020”
Doktorantka MIT Joy Buolamwini, pracując nad swoim odkryciem Aspire Mirror, udowodniła, że system rozpoznawania twarzy nie jest trafny w przypadku osób czarnoskórych. Oznacza to, że wcześniej był „karmiony” twarzami głównie białych ludzi, przez co technologie np. Microsoft mają problem z identyfikacją czarnoskórych osób.
Mimo to system rozpoznawania twarzy jest używany powszechnie np. przez FBI, korporacje takie jak Amazon czy na ulicach Wielkiej Brytanii. Zwykli obywatele nie mają wpływu na to, że ich twarze trafiły do ogromnej bazy danych i mogą być wykorzystywane w różnoraki sposób. Wszystko przez to, że wiele państw nie reguluje tych kwestii prawnie.


Bohaterowie dokumentu Zakodowane uprzedzenie to ekspertki od sztucznej inteligencji, które dostrzegają masę problemów na etapie rozwoju algorytmów. Jednym z nich jest fakt, że w gronie badaczy AI jest ok. 14% kobiet. Efekt? Udostępniony przez Microsoft algorytm „Toy” w rozmowach na Twitterze szybko popisał się swoją „wiedzą”. Rzucając hasłami: „nienawidzę feministek” czy „Hitler nie zrobił niczego złego”.
Tymczasem sztuczna inteligencja już dziś podejmuje decyzje, kogo zatrudnić w korporacji czy komu przyznać kredyt i na jakich warunkach. Najlepiej obrazują to Chiny, gdzie system kredytu społecznego działa transparentnie na każdym kroku. W filmie pojawia się Chinka, która nauczyła się funkcjonować według tych zasad i dostrzega wyłącznie zalety tej sytuacji. Naturalnym jest dla niej to, że ma większe zaufanie do nowo poznanej osoby, widząc jej wysoką punktację w systemie kredytu społecznego. Zero szans dla kogoś, kto choć raz dotkliwie zbłądził z wyznaczonej przez system drogi.


W ostatnim czasie do podobnych wniosków co w Zakodowanym uprzedzeniu, doszli też twórcy dokumentu Netflixa Dylemat społeczny. Istotą rozważań ekspertów, którzy zajmowali się rozwojem technologii, jest fakt, że podczas ich prac brakowało uważnego spojrzenia na etykę działań AI. Cała ta dyskusja dotyczy głównie rynku amerykańskiego, jednak z analogicznymi problemami mierzą się niemal wszystkie kraje rozwinięte. W Unii Europejskiej co prawda w jakimś stopniu przed niekontrolowanym wpływem AI chronią nas przepisy RODO. Ale na pewno polska legislacja ma w tej kwestii sporo do zrobienia.
Wielu entuzjastów nowych technologii miało nadzieję, że sztuczna inteligencja będzie tworem mądrzejszym i lepszym od człowieka. Tyle że jej rozwój nadzoruje człowiek – istota skażona stereotypami, uprzedzeniami, często kierująca się własnym światopoglądem. Dlatego demokratyczne państwa stoją przed sporym wyzwaniem. Jak zapewnić równość człowieka w kontrze do super nowoczesnej, wciąż rozwijającej się sztucznej inteligencji? Ostatnie minuty dokumentu Zakodowane uprzedzenie dają nadzieję na to, że działania sygnalistów obrały odpowiedni kurs.