Pełzająca dominacja algorytmów
Obecnie z algorytmów korzysta się na przykład w zarządzaniu zasobami ludzkimi. Szacuje się, że w Stanach Zjednoczonych ponad 70% CV w ogóle nie przechodzi przez ręce żywego rekrutera – są selekcjonowane przez algorytmy. Algorytmy decydują też o tym, co wyświetli nam się w internecie, obojętnie, czy chodzi o reklamę szytą na miarę użytkownika, czy o cenę produktu w sklepie Amazona, która jest różna – i można to udowodnić – dla różnych klientów. Zazwyczaj także decydują o tym, czy i na jakich warunkach otrzymamy pożyczkę albo jakie stawki ubezpieczeń zostaną nam zaoferowane. W Stanach Zjednoczonych algorytmów używa się również do przewidywania prawdopodobieństwa recydywy w odniesieniu do więźniów. Kobietom w internecie wyświetla się mniej ogłoszeń o pracę na wyższych stanowiskach. Dzieje się tak, ponieważ algorytm z faktu, że są na takich stanowiskach mniej reprezentowane, wywodzi, iż kobietom nie przysługują stanowiska tego rodzaju. Dochodzi tym samym do reprodukowania istniejącego niesprawiedliwego porządku rzeczy. Dokładna budowa algorytmów oraz dane, na których bazują, stanowią u większości programów i aplikacji ściśle strzeżoną tajemnicę handlową, a zatem bardzo trudno poddać je krytycznej ocenie. Jeśli jednak ma miejsce ich wykorzystywanie w usługach publicznych, powinniśmy się domagać ujawnienia mechanizmu ich działania oraz odpowiednich danych.