I. Potęga platform
1. Dlaczego Google, Facebook, Apple i Amazon oraz Microsoft są tak potężne?
Odpowiedź na to pytanie nie jest łatwa. W wersji lakonicznej potęgę platform kształtują przede wszystkim: potencjał narzucania interpretacji + misyjna retoryka + możliwości kształtowania otoczenia społecznego, politycznego i gospodarczego + unikatowe kompetencje gromadzenia i wykorzystania zasobów, zwłaszcza niematerialnych.
Sięgając po terminologię zarządzania, na potęgę wielkich korporacji Big Tech zarządzających platformami składa się: zarządzanie konkurującym ze sobą albo współpracującym ekskluzywnym zestawem platform, które rządzą rdzeniem światowych cyfrowych systemów informacyjnych, korzystających i kształtujących bezprecedensowy gospodarczy, społeczny i geopolityczny system kontroli18.
O ile władza i pieniądze oraz wpływy (geo)polityczne są stosunkowo dobrze rozpoznane, o tyle występujące na początku tego "pakietu" potencjał narzucania interpretacji roli platform oraz ich misyjna retoryka wydają się ciałami obcymi. Zanim jednak zostaną przedstawione jako charakterystyczne czynniki potęgi i niezwykłej ekspansji korporacji, trzeba podkreślić, że taka odpowiedź odnosi się do najpopularniejszej definicji platformy: programowalnej architektury cyfrowej zaprojektowanej do organizowania interakcji między użytkownikami - nie tylko użytkownikami indywidualnymi, ale także podmiotami korporacyjnymi i organami publicznymi. Taka platforma jest ukierunkowana na systematyczne gromadzenie, przetwarzanie algorytmiczne, obieg i monetyzację danych użytkowników19.
Platforma jak kameleon
Definicja ta, szeroka i wielowymiarowa, wykazuje jednak tę ułomność, że platforma jest w niej obecna z perspektywy jej twórców. To prawda, że platformy nieustannie ewoluują pod wpływem otoczenia politycznego, prawnego czy społecznego oraz rozwoju wiedzy programistycznej (będzie o tym jeszcze mowa), lecz dla dalszych rozważań znaczenie ma jeszcze jedna, fundamentalna cecha platform, a mianowicie jej "performatywność interpretacyjna", czyli zmienności tego, co użytkownicy i miliony firm widzą w platformie w zależności od tego, które z jej rodzajów ról akurat wysuwa się na pierwszy plan.
To, jak platformy są odbierane i jaka akurat dominuje narracja, jest skutkiem "negocjacji" między narzucanymi przez nie same i forsowanymi autointerpretacjami a interpretacjami konkurencyjnymi. Można je bowiem postrzegać nie tylko z perspektywy ich strategii i analiz struktur, ale także z perspektywy języka i zachowań organizacyjnych w zgodzie z paradygmatem interpretatywno-symbolicznym, skupiającym się na opisie współzależności w złożonych strukturach społecznych i organizacyjnych.
Taka płynna interpretacja platformy nawiązuje do definicji organizacji rodem z zarządzania humanistycznego autorstwa Mary J. Hatch, według której jest to wspólny wytwór technologii, struktury społecznej i fizycznej oraz kultury zanurzonych w otoczeniu, które współkształtuje - jest siecią zbiorowych działań podejmowanych jako próba kształtowania świata i życia ludzi20. Taka organizacja jest symboliczną i społeczną konstrukcją dziejących się na bieżąco i nakładających się na siebie wymian komunikacyjnych między jej uczestnikami.
Platforma cyfrowa jest zatem kameleonem przybierającym różne postaci w zależności od tego, jaki czynnik ekosystemu jest akurat najbardziej dla jej właścicieli i zarządzających niebezpieczny, a jaki może jej zapewnić największy wpływ - presja polityczna, rynkowa czy społeczna - oraz który jest akurat poręczny czy może stanowi okazję rynkową. Jest to kameleon osobliwy, władny narzucać interpretacje tego, co sobą przedstawia, kameleon czerpiący swoją moc z "sił witalnych" dostarczanych przez użytkowników i podmioty biznesowe i wpływający na codzienne praktyki życia politycznego, społecznego i gospodarczego21. Ponadto - co tym bardziej nie ułatwia diagnozy - jest to podmiot tworzący własny ekosystem, stosujący unikatowy semantyczny kamuflaż.
Zanim ten kamuflaż zostanie przedstawiony, odpowiedzi wymaga jednak pytanie o potęgę platform.
2. Platforma a stosunki władzy
Na wstępie wypada zastrzec, że ten złożony, wywodzący się z różnych perspektyw badawczych problem trudno ująć w jedną spójną koncepcję. Odwagi w tych okolicznościach dodaje przekonanie, że nauka jest jedna i nie sposób ukazać wielowymiarowej roli tak złożonych podmiotów bez wykroczenia poza sztuczne ramy przypisane tradycyjnie subdyscyplinie zarządzania mediami czy - szerzej - mediom i komunikowaniu, bez odwołania się do dorobku zarządzania humanistycznego i "ekonomicznego", ekonomii czy socjologii. Transdycyplinarne ujęcie platform pozwala uwzględnić perspektywę i humanistyki cyfrowej, i software studies, na styku nauk humanistycznych, społecznych i technicznych.
Owszem, za rogiem takiej "swawolnej fanaberii" mogą, jak zauważa profesor Jerzy Jastrzębski, kryć się różne kłopoty: niebezpieczeństwo "proteuszowej zmienności" przedmiotu badań, wynikającej z przyspieszeni historii, "płynności" realiów, narastania chaosu oraz inflacji obserwowanych obiektów i procesów. Wszystko to może powodować "rozmycie znaczeniowe", utratę tożsamości i - jak zauważa przywoływany badacz - fraktalizację fenomenów. Jednak nagrodą za interdyscyplinarne ujęcie jest uwypuklenie złożoności w czasach redukcjonizmu i nachalnej marektingizacji.
W sukurs przychodzi bogata teoria sprawowania władzy, dostarczająca kilku ważnych ustaleń, z których prace Talcotta Parsonsa, Stevena Leukesa i Pierre'a Bourdieu będą stanowiły szczególnie dogodne odniesienia.
Warto przypomnieć, że dla Parsonsa władza jest zdolnością osiągania celów przede wszystkim przez instytucje, przy czym niekoniecznie musi być ona działaniem uświadamianym i zamierzonym przez jej gestorów. Na platformie taka władza polegałaby na zdolności mobilizowania zasobów społecznych w celu osiągnięcia zbiorowych celów systemu, przy czym system ten materializuje się i przejawia także w postaci umożliwiania przez nią sprawowania władzy przez inne podsystemy22, władza według Parsonsa nie odnosi się bowiem jedynie do podsystemu politycznego, ale jest atrybutem wszelkich systemów społecznych. Co więcej, ponieważ parsonsowska władza jest swoistym środkiem wymiany w obrębie podsystemu polityki i w jego relacjach z innymi podsystemami, można ją także wymieniać na pieniądze, dobra i usługi, zatem platformy, które są środowiskiem sprawowania władzy politycznej, uzyskują konkretne koncesje z tego tytułu.
Sprawowanie władzy przez platformy z perspektywy nurtu krytycznego odnosi się do szczególnie wartościowego dla zrozumienia roli platform ujęcia Stevena Leukesa, który podkreśla ważny jej wymiar, mianowicie zdolność kontrolowania przekonań i preferencji23. Stosunek władzy zachodzi, gdy jeden podmiot wpływa na inny w "moralnie istotny" czy "nietrywialny" sposób, co oznacza, że podmioty sprawują tylko wówczas władzę nad innymi, gdy wywierają negatywny wpływ na interesy tych podmiotów.
Gdy występuje tzw. konflikt utajony, czyli sprzeczność między interesami sprawującego władzę - w tym wypadku platformy - a rzeczywistymi czy zmiennymi "obiektywnymi interesami"24 tych, którzy są tej władzy pozbawieni, wówczas dochodzi do sprawowania władzy przez nietransparentną kontrolę i wytwarzanie mitów oraz budowę ideologii. Ofiary władzy wcale nie muszą bowiem dostrzegać zagrożenia swoich prawdziwych interesów i w konsekwencji nie próbują ich nawet bronić. Jeśli zatem na platformach ma się urzeczywistniać - jak przekonują ich reprezentanci - z góry założony ideał, jak choćby wspólnota autonomicznych jednostek, to w istocie następuje utrwalenie relacji władzy25.
Platformy uruchamiają także funkcjonujące w społeczeństwie wartości, wierzenia, rytuały i procedury instytucjonalne (zasady gry), broniąc dotychczasowego porządku i stawiając go w uprzywilejowanej pozycji. Spełniają tym samym dyspozycję "władzy ukrytej"26.
Władza platform to także - nawiązując do myśli Pierre'a Bourdieu - władza symboliczna, najsubtelniejsza z nich, polegająca na narzucaniu znaczenia, ukrywaniu układu sił i przejawiająca się w komunikacji opartej na racjonalności27. Jest to władza nieujawniana, zachodząca, gdy podporządkowani jej podlegają formom i schematom myślowym i sami uczestniczą w jej konstruowaniu, nie dostrzegając podporządkowania, a wręcz je umacniając. Przemoc władzy symbolicznej dokonuje się za pośrednictwem realizowania przez platformę własnych interesów, przedstawianych jako działania bezinteresowne albo w interesie obecnych na platformie w zgodzie z obiektywnym (ustanawianym i egzekwowanym przez algorytmy), sprawiedliwym zasadom28. Żeby się to zmieniło, obecni na platformach musieliby - dotyczy to zwłaszcza indywidualnych użytkowników - wyjść z "platońskiej pieczary", albowiem uświadomienie sobie faktu, że podlega się władzy platform i zasadom w niej obowiązującym, jest możliwe dopiero wówczas, gdy widzi się "pieczarę z zewnątrz". Symboliczna władza dokonuje się zatem tam, gdzie się jej nie zauważa, i gdy dominuje przekonanie, że "taki jest porządek rzeczy". Cybernetyczny świat, w którym użytkownicy są "zanurzeni", jest bowiem tyle oczywisty, co naturalny.
Po tym wstępie można przyjąć, że władza platform cyfrowych jest zdolnością narzucania woli, zmuszania do określonego zachowania i kontrolowania poczynań człowieka (użytkownika), grup społecznych i podmiotów gospodarczych. Człowiek, retorycznie upodmiotowiony, a w istocie "utowarowiony" na platformie, występujący na niej w kilku zazębiających się rolach - jako konsument i produser oraz bierny odbiorca, rzadko jako obywatel - w każdej z nich współtworzy wartość platformy, zawsze jako dostarczyciel danych, niekiedy jako współtwórca treści i (lub) konsument. W roli w pełni podmiotowej na platformie nie występuje, nie może bowiem na nią wejść bez przejścia "procedury uprzedmiotowienia" (przekazania danych i zrzeczenia się - nie wprost - roszczeń z tytułu tego przekazania). W istocie zatem wejście na platformę (zgoda na jej warunki) jest, w zależności od perspektywy, aktem zrzeczenia się podmiotowości albo uprzedmiotowienia.
Platforma jako "game changer" zarządzania
Z punktu widzenia relacji z indywidualnymi użytkownikami platformy mogą zmienić każdą interakcję w dane. To proces, ponieważ właśnie dzięki datafikacji platformy działające wcześniej na różnych rynkach zbiegają się w jeden jednolity rynek danych. Dla sektora mediów oznacza to na przykład, że jego granice stają się coraz bardziej rozmyte i stopniowo łączą się z rosnąca branżą danych. Nietrudno więc wyobrazić sobie, że właśnie ta perspektywa, a nie na przykład społeczna odpowiedzialność mediów, jest ważniejsza dla zarządzających platformami czy dla programistów. Datafikacja narzuca optykę rozumienia szeroko pojętego rozwoju, i to w różnych wymiarach.
Ma również swoje fundamentalne konsekwencje. Gdy bowiem menedżerowie będą polegali na wiedzy algorytmicznej, wówczas platformy cyfrowych mediów dostarczą danych niezbędnych w tym procesie, a platformy staną się centrum oceny i wyceny danych oraz jądrem procesów zarządczych.
Na marginesie można przywołać ciekawy paradoks: platformy stają się także czynnikiem blokującym siły rynkowe, nawet kosztem efektywności29, to bowiem nadal ludzie zarządzający platformami mają określać, co pozostaje automatycznie planowane, a co rynkowo stymulowane. Gdy korporacje zarządzające platformami stają wówczas na ostatniej linii obrony człowieka przed eksternalizacją procesów decyzyjnych, jest to przejaw ludzkiej sprawczości chroniącej rynek cyfrowy przed nim samym30.
Przechodząc zaś do szczególnych cech i różnych ról platform, można je pokrótce ująć w następującym katalogu:
- retoryczna neutralność - moderowanie aktywności i treści na platformie odbywa się w zgodzie z logiką biznesową31;
- programowalność - platformy można tak konfigurować, by pozwalały na stosowanie innowacji i umożliwiały opracowywanie aplikacji i dodatków;
- generatywność - korzystanie z udziału użytkowników, tworzenia przez nich treści i pozostawiania cyfrowych śladów32;
- czerpanie wartości z sektorów, do których platformy wchodzą przez datafikację, utowarowienie i selekcję.
Z rynkowego punktu widzenia należy w platformie widzieć przede wszystkim infrastrukturę cyfrową, która łączy producentów, konsumentów, usługodawców, reklamodawców i inne grupy w interaktywnym ekosystemie oraz umożliwia wymianę towarów, usług lub informacji. Strategicznym celem tak rozumianej platformy jest zdominowanie wszystkich relacji (społecznych i hybrydowych) między człowiekiem a "nie-ludzkimi aktorami" w ramach "przestrzeni mikropłatności", czyli czerpanie zysku z interakcji między ludźmi, organizacjami i rzeczami. Oznacza to, że na przykład "medium społecznościowe", jakim wydaje się Facebook, jest osnutym "mgłą" społecznościowej retoryki podmiotem wymykającym się łatwym interpretacjom.
Platforma rozumiana jako miejsce spotkań sektora prywatnego i sektora państwowego, z jego prerogatywami regulacyjnymi i monopolem na stosowanie siły, oferuje nową logikę rewolucyjnych zmian dla tradycyjnych sektorów gospodarki. Powstające na niej wartości są wielowymiarowe: platformy udostępniają infrastrukturę, mechanizmy transakcji i tzw. systemów reputacji, tworzą zatem przede wszystkim wielką agorę interakcji i transakcji, łączenia ludzi, firm i zasobów, a dopiero w dalszej perspektywie agorę społecznego dobrostanu. W każdej z tych postaci ustanawiają jednak, na własnych zasadach, warunki sprawowania władzy i środowisko kulturowe.
Dla biznesu obecność na platformach jest nie tylko szansą - nie są przecież jedynie miejscem spotkań z partnerami biznesowymi i klientami oraz "motorem innowacji" - ale także wymuszoną koniecznością, ponieważ stały się oczywistym ekosystemem biznesowym, co nie znaczy, że jednoznacznie korzystnym dla wszystkich uczestników.
W kontekście konwergencji infrastruktury platforma tak zwanego medium społecznościowego występuje jako rodzaj infrastruktury pozwalającej na stosowanie pewnych praktyk, a jednocześnie zabraniającej innych, ma więc polityczny charakter jeśli chodzi o przydział zasobów w tworzeniu kapitału i stosowaniu przemocy.
Ta sama platforma z ekonomicznej perspektywy to system zarabiający pieniądze przez umożliwianie stronom trzecim zarabiania pieniędzy. Platforma wyłoniła się bowiem jako nowy model biznesowy, zdolny nie tylko do kojarzenia różnych aktorów, ale także do wspomnianego wydobywania i kontrolowania ogromnych ilości danych.
Platforma występuje zatem jako typowy "game changer" - burzyciel dotychczasowych reguł i czynnik stanowienia nowych. Produkcja i dystrybucja, usługi i kwestie społeczne w mediach - wszystkie zostały zmienione przez zasady funkcjonowania platformy. Logikę tę dobrze ilustruje przykład Ubera, firmy świadczącej usługi przewozu osób, która nie ma pojazdów. To bowiem dostęp, a nie posiadanie jest wspólne dla platform. To samo można powiedzieć o Facebooku i Google (media), Alibabie (handel detaliczny) i Airbnb (hotele) - żadna z tych platform nie jest właścicielem dóbr, które umożliwiają korzystanie z jej usług, nie licząc może inwestycji w rozwój internetu w postaci kabli podmorskich (Facebook, Google) oraz marginalnych prób tworzenia treści mediowych w ramach na przykład Google News i sprzedaży na firmowej platformie własnych produktów.
3. Algorytmy a platformy - iluzje racjonalności..., neutralności i obiektywności
Retoryczne upodmiotowienie i przedstawiona dalej narracyjna siła platform nie miałyby racji bytu bez unikatowości "technologii władzy", czyli algorytmów platform, zwłaszcza algorytmów społecznych - mających bezpośredni kontakt z człowiekiem. Ci, jak proponował Bruno Latour, "nie-ludzcy aktorzy" - z tej interpretacji jeszcze nieraz przyjdzie skorzystać - dołączają do aktantów (nie tylko ludzi, ale także czynników oddziałujących na inne czynniki i nabywających mocy w związkach z nimi) i tworzą układ aktorów-sieci, przy czym są równie ważni, jak ludzie. Organizacja jawi się w tej perspektywie jako złożony układ relacji między użytkownikami, ich narzędziami komunikacji oraz algorytmami w skomplikowanym uniwersum materialno-semiotycznym33, ujętym w profetycznych ramach "socjologii nie-ludzi"34.
Algorytm jawi się jednak także jako konstrukt narracyjny platform, utożsamiający i - metaforycznie ujmując - "ucieleśniający" obiektywność i neutralność oraz doskonałą wolność od etycznych niejednoznaczności. Jako byt doskonały, wolny od ludzkich i rynkowych ułomności, symbolizujący pokonanie ludzkich ograniczeń, stanowi mcluhanowskie doskonałe "przedłużenie" człowieka. To w nim manifestuje się "pozarynkowy" charakter platform i ich elastyczność, pozwalająca - jako kulturowy konstrukt - uwzględniać miejscowe zwyczaje, kulturę i wiedzę. Kiedykolwiek zatem algorytm pojawi się w dalszych rozważaniach, nie będzie konstruktem programowania, ale przede wszystkim konstruktem społecznym.
Współczesny stan badań nad algorytmami w naukach humanistycznych osiągnął taki poziom dojrzałości, że można wskazać na kilka głównych krzyżujących się nurtów. Gdyby podjąć próbę ich systematyzacji, dostrzegłoby się dążenia do uchwycenia fenomenu algorytmicznego w kategoriach "ideologii algorytmicznej"35, "algorytmicznego nadzoru" czy "algorytmicznej tożsamości"36 oraz wysiłki w ramach socjologii algorytmów.
Krytyczne studia algorytmiczne oferują zachowanie troski o specyfikę, zwłaszcza w obliczu "dyskursywnego marketingowego przesłodzenia". Z tej perspektywy kontestowane są wszystkie cechy przypisywane zazwyczaj algorytmom: obiektywizm, bezstronność i wiarygodność - wszystkie uznawane za starannie przygotowane fikcje37.
Nawet jeśli programiści starają się utrzymać wysoki poziom obiektywności, a tym samym niezależność od lokalnych zwyczajów, kultury, wiedzy i uwarunkowań, to nie sposób od nich uciec w procesie tłumaczenia zadania na język programu. Nie ma zatem obiektywnych algorytmów, mnożą się zaś nieudane i skazane na porażkę próby ich tworzenia. Tymczasem zakres działań jest dość pokaźny: wyszukują, zestawiają, sortują, kategoryzują, grupują, dopasowują, analizują, profilują, modelują, symulują, wizualizują i regulują postawy ludzi. Kształtują to, jak człowiek rozumie i przedstawia świat - i w tym sensie są performatywne, sprawiając, że coś się zdarza.
Na przykład Facebook angażuje wiele wersji algorytmu, by poznać skutki ich działania, a to oznacza, że użytkownik po kilku sekundach korzystania z tej samej usługi może wchodzić w interakcje z inną jego wersją. Niektóre kody z kolei są tak napisane, żeby były reaktywne i zmienne w stosunku do danych wejściowych - w ten sposób ma działać EdgeRank Facebooka, określający, które posty i w jakiej kolejności są wprowadzane do osi czasu użytkownika. Algorytmy takie nie są statyczne i współdziałają z każdym użytkownikiem inaczej, w zależności od tego, jak wchodzi on w interakcje z innymi użytkownikami38.
Stopień zróżnicowania jest tak duży, że w wypadku Google może się nigdy nie udać prześledzenie dojścia do wyników działania algorytmu, jest w nim bowiem "wbudowana" losowość39. Trudno nawet o przybliżone przewidzenie społecznych skutków jego działania. Oznacza to, że pojedyncze zdarzenie (czynniki) mogą wpływać na liczne wyniki uzyskiwane przez ten sam algorytm. Nie oznacza to, że zrozumienie algorytmu nie jest możliwe, ale przesądza o dużej komplikacji tego procesu40.
Podsumowując, w obecnym stanie rzeczy nie rozumiemy, w jaki sposób na przykład platformowa infrastruktura Web 2.0 wpływa na życie indywidualnych użytkowników, w jaki sposób oprogramowanie ustala hierarchie, kształtuje dostęp do treści. Innymi słowy: zrozumienie partycypacji wymaga zrozumienia "performatywnej" infrastruktury, ta zaś wymyka się łatwym interpretacjom.
Algorytmy platform mają normatywny wpływ, wdrażają regulacje wiedzy41. Są używane do narzucania narracji, uwodzenia, wymuszania, dyscyplinowania, regulowania i kontrolowania - do przekształcania sposobu, w jaki ludzie i "nie-ludzcy aktorzy" wpływają na siebie, jak użytkownicy są beneficjentami i "ofiarami" autorytetu algorytmicznego42 oraz podmiotami i przedmiotami algorytmicznego zarządzania.
Wspomniany "autorytet algorytmiczny" to większe zaufanie do wyników procesu algorytmicznego niż do wiedzy i intuicji człowieka, to uznanie za autorytatywny procesu pozyskiwania wartości z różnych niewiarygodnych źródeł, bez udziału człowieka43, nawet jeśli polega on na czerpaniu informacji z wielu niesprawdzonych pod względem wiarygodności źródeł i łączenie ich w taki sposób, że powstaje wynik, pod którym nie podpisałby się żaden ludzki autorytet44.
Takie algorytmy stały się wreszcie czymś w rodzaju nowoczesnego mitu: przypisano im wielkie możliwości, władzę i moce. Podczas gdy jedne są proste, opisywalne w jednym "zdaniu", to inne, jak megaalgorytmy wyszukiwarki Google czy kanałów informacyjnych Facebooka, rekomendacji Netflixa i Amazona, a ostatnio Apple+ i platformy streamingowej Disneya, stały się tak skomplikowane, że aż trudno zrozumiałe.
Zarówno najbardziej skomplikowany, jak i prostszy algorytm społeczny może być interpretowany na kilku poziomach: jako czynnik ułatwiający dialog między ludźmi, jako kreator powszechnego dialogu oraz jako składnik cyfrowego ekosystemu zastępujący/uzupełniający działanie niedoskonałych ludzi składnikiem wyobrażonej doskonałości organizacji. Zawsze zatem pojawi się w kontekście społecznym i humanistycznym, ale także jako czynnik zakłócający i transformujący - w odniesieniu i do sposobu działania organizacji, i do związanego z nią obecnego oraz przyszłego rynku pracy. Ich rozwój sprzyja atrofii jednych sektorów i powstawaniu nowych sektorów - wszystko w zgodzie z prymatem potencjału zakłócania.
Normatywne przejawy wpływu społecznego algorytmów cyfrowych platform to zatem:
- sortowanie i klasyfikowanie sieci społeczności, sygnalizowanie jakości wyszukiwania;
- organizowanie pseudospołeczności;
- pobudzanie działalności komercyjnej i przepływu kapitału;
- organizowanie ludzi w audytoria, gdy automatycznie tworzą, rekomendują i czytają wiadomości45;
- optymalizacja międzynarodowych rynków pracy;
- tworzenie "cyborgicznych finansów"46, działających szybciej niż ludzkie zrozumienie.
Wszystko to oznacza, że algorytm nie jest społecznie obojętny i nie jest jedynie matematyczną abstrakcją. Jest kształtowany przez społeczne, polityczne i estetyczne decyzje, przejawiające się w jego instrukcjach i przeobrażeniach. Jego ontogenetyczna natura (znajduje się on zawsze w stanie stawania się) oznacza, że jest labilnym abstraktem kształtowanym przez bogactwo środowiskowych wpływów. Jest "zanurzony" w społecznych praktykach, osadzony kulturowo, historycznie i instytucjonalnie, i jako taki nie może być zrozumiany czy interpretowany jako technologiczny abstrakt w zgodzie z jego naturą i zadaniami. Jest "technologią kultury".
Takie ujęcie stoi w opozycji do wykorzystywanej przez platformy potocznej interpretacji, według której algorytmy pozostają przede wszystkim jądrem racjonalnego, matematycznie opisywalnego cyberśrodowiska - logiki, zgodnie z którą świat można przedstawić za pomocą "zer" i jedynek" w sekwencjach kodu. To świat wielkich obietnic: przedstawienia życia biologicznego, a w najbliższej przyszłości - posthumanistycznego postępu, czyli pokonywania ludzkich ograniczeń dla ludzkiego dobra, a na obecnym etapie - przede wszystkim obietnica rozprawiania się z chaosem danych, nadmiaru informacji i interpretacji. Wszystko w służbie użytkownika, a nawet ludzkości.
W myśl tego stanowiska algorytmy Facebooka i wielu innych platform są neutralnymi narzędziami identyfikacji, selekcji i dostarczania odpowiednich informacji poszczególnym użytkownikom czy grupom użytkowników. Wszystko to w zgodzie z marketingową logiką "zaspokajania potrzeb" i bogactwa.
Algorytmy są zatem przedstawiane jako całkowicie autonomiczne, wolne od ludzkiej interwencji, a zarządzający platformami sugerują, że są "wymyślone" jako logiczny i oczywisty kolejny krok nauki i szczytowe jej osiągnięcie, tak jakby były naturalnym przejawem praw natury, nieuniknionym owocem wiary w postęp. Jako następstwo praw matematycznych mają być obiektywne i neutralne - dotyczy to zarówno obecnie wykorzystywanych, jak i tych, które mają poradzić sobie z problemami braku bezpieczeństwa, czyli na przykład koncepcji blockchainu. W zgodzie z tą logiką algorytmom towarzyszy utopijna wizja wolności od błędów człowieka i jego stronniczości, wizja, w której człowiek nie decyduje już, jakie dane zbierać i jakie ustalać kryteria wyboru oraz jakie wskazywać cele47.
Wizerunek autonomii algorytmów ignoruje jednak decyzje i prace wymagane przy projektowaniu algorytmów oraz ograniczenia infrastrukturalne i technologiczne. Algorytm staje się totemem przesłaniającym odpowiedzialność organizacji, która go stosuje, ma wzbudzić zaufanie nadszarpnięte etycznymi dezorientacjami zarządzających platformami. Programowanie staje się w tej narracji praktyką tajemną, godną szacunku i wolną od ingerencji zewnętrznych i wewnętrznych, składową większego mitu.
Mit algorytmu utkany z wierzeń w jego neutralność jest ważny nie dlatego, że odzwierciedla prawdę o platformie, ale dlatego, że jest żywy. Algorytmizacja jawi się bowiem jako tajemniczy, niemal magiczny proces, często utożsamiany z istotą rozwoju i z powiększaniem zakresu wiedzy, ekspansją kognitywnego kapitalizmu. Jest oczekiwana, a nawet pożądana, obiecuje uporządkowanie w obliczu poczucia chaosu, niepewności, bezradności i nienadążania za zmianami, choć jednocześnie często pogłębia ten chaos, zwiększa różnice społeczne i jest nierozumiana co do zasady i skutków.
Tymczasem zachodzące na platformach procesy algorytmizacji wykazują następujące istotne cechy:
1. Najważniejsze algorytmy, o największym wpływie społecznym, powstają w zamkniętych, niepodatnych na kontrolę ekosystemach medialno-technologicznych. Kodowanie odbywa się zazwyczaj w ramach korporacji i na jej zasadach, a sam algorytm jest pilnie strzeżonym, cennym zasobem strategicznym, decydującym o pozycji konkurencyjnej organizacji.
2. Trudność w dekonstrukcji algorytmu wynika z jego systemowego charakteru, zależności od wielu innych algorytmów i pozostałych czynników. Ponadto systemy algorytmiczne mają zwykle wielu autorów pierwotnych rozwiązań i autorów korekt. Na ich relacyjny, heterogeniczny wpływ składają się niekiedy tysiące osób, protokoły, standardy i prawa. Ponieważ są one także chaotyczne, poznanie ich logiki i racjonalnych przesłanek nimi rządzących jest utrudnione, a ostatecznie zrozumienie całego systemu budowanego przez różne zespoły w ramach platform może okazać się niemożliwe.
3. Algorytmy platform są performatywne, nie są ustalone raz na zawsze, ucząc się niezależnie od swoich twórców. Algorytmy nie wykonują jedynie instrukcji programisty, lecz również porównują wartości, które wcześniej zostały wybrane, a następnie sortowane - każde działanie algorytmu musi być (i jest) poprzedzone wcześniejszym działaniem (ludzi bądź nie-ludzi)48. Performatywność oznacza, że nie wiadomo, jakimi akurat kierują się przesłankami czy celami oraz jakie cele mają być osiągane przez testowane za ich pomocą modele.
Wszystkie te konsekwencje nie determinują jednak sposobu postrzegania algorytmów platform cyfrowych. W tym kontekście mniej ważne jest to, czy są neutralne i performatywne, decydujący jest zaś poziom zmitologizowania ich roli. Uderza w tym ujęciu brak publicznej dyskusji, ale także woli poznania algorytmicznego wymiaru władzy platform oraz tego, na czym ta władza w istocie polega.
Tymczasem w praktyce społecznej i rynkowej sygnalizowana już władza organizacji platform i ich algorytmów przejawia się (w rozwiniętej postaci) następująco:
1. Determinacja doświadczenia użytkowników i firm przez:
- nadawanie znaczenia - na przykład wyszukiwarki strukturyzują kategorie w odpowiedzi na zapytania użytkowników, mają zdolność tworzenia kategorii dla opisu rzeczywistości/świata; przez definiowanie, które informacje stają się dostępne dla każdego zapytania, wyszukiwarki kształtują stanowiska, koncepcje i pomysły49;
- retorykę algorytmu - retoryka wielkiej mocy decydowania o tym, co jest wiedzą, prawdą i materialną rzeczywistością w codziennym ludzkim życiu globalnych społeczności XXI wieku. Wywieranie wpływu na to, co jest ważne lub prawdziwe w społecznych, kulturowych, gospodarczych i politycznych relacjach50;
- selektywny dobór / ignorowanie zbiorów - bazy danych są dla zarządzających algorytmami zestawem możliwych do odszukania danych, a nie zobowiązaniem do ich odszukania, zobowiązania społeczne ustępują celom rynkowym.
2. Korygowanie społecznych norm (definiowania prywatności). Władza przejawia się w pozbawianiu użytkowników wyboru tego, co z ich życia pozostanie tajemnicą. Nadzór nie polega na osłabianiu prywatności - miejsce wielu ludzi mających pewne prawa do prywatności zajmuje koncentrowanie tych praw w ramach algorytmicznego systemu nadzoru.
3. Selekcję społeczną:
- redukcja człowieka do profilu - złożoność i wyjątkowość ludzka jest sprowadzona do produktu, którego wartość weryfikuje rynek uwagi i rynek reklamowy;
- zarządzanie widocznością użytkowników dla innych użytkowników - władza uwzględniania w wynikach wyszukiwania oraz nakłaniania do uczestnictwa wobec zagrożeniu "niewidocznością";
- nadawanie statusu społecznego - rzadkim i pożądanym dobrem są popularność, status celebryty i sława mierzone według kryteriów narzuconych przez organizacje medialno-technologiczne;
- separacja - w zgodzie z koncepcją bańki filtrującej niewidzialne filtry algorytmów łączą treść ze zinterpretowanymi przez algorytm preferencjami użytkowników. Tak powstają bańki informacyjne, pułapki separowania użytkowników od treści niezgodnych z ich poglądami, wcześniej zidentyfikowanymi w ramach analiz big data. Praktyki takie wpisują się w powszechność regulowania Web 2.0 przez sortowanie i filtrowanie wykonywane przez algorytmy decydujące, co użytkownik napotyka w internecie;
- władza decydowania o "powrocie do plemion" - platformy tworzą i zrywają więzi międzyludzkie oraz wytyczają graniczne linie oddzielające "nas" od "nich". Taki świat oferuje niczym nieograniczone, przyjemne uczucie przewagi i wywierania wpływu na innych swoją władzą51.
4. Władzę umożliwiania doświadczania władzy - algorytmy platform zapewniają doświadczanie władzy nad innym (innymi).
Poszczególne elementy tego niepełnego katalogu będą uzupełnianie i rozwijane w dalszych rozważaniach. Tymczasem, sięgając po pozaprogramistyczne interpretacje, należy wyjaśnić wielowymiarowość algorytmicznych narzędzi sprawowania władzy i ich performatywną naturę.
(Kult)ura algorytmiczna
Jeśli programiści, inżynierowie i naukowcy nauk społecznych mówią o algorytmie, to każdy ma zwykle na myśli co innego. Podczas gdy programiści widzą w nim zazwyczaj proste reguły, logiczną serię kroków organizowania i działania na zbiorze danych w celu szybkiego osiągnięcia pożądanego rezultatu, to dla szerokiej opinii publicznej algorytm jest niezrozumiałym konstruktem. Z kolei badacze społeczni i humaniści dostrzegają znaczenia odległe od technologicznych oraz matematycznych i widzą niezbadany artefakt o nieuchwytnej i objaśniającej mocy. Zazwyczaj łatwiej próbować objaśniać wpływ algorytmu, niż opisać, czym jest w kontekście społecznym. Kanonicznie ujmowany, rozumiany jest jako technologia52, ale to także aktor podejmujący decyzje53, wręcz "epistemologia sama w sobie"54.
Nic dziwnego, że różni ludzie w różnych okolicznościach społecznych i w różnym czasie odmiennie definiują algorytm i wskazują na jego różne cechy. Jak zauważa Nick Seavers, osoba pracująca w Facebooku w 2017 roku, matematyk uniwersytecki pracujący w 1940 roku albo lekarz ustalający procedury leczenia w 1995 roku - wszyscy oni mogą słusznie twierdzić, że pracują nad "algorytmami", ale nie oznacza to, że będą mówili o tym samym55.
Dodać wypada, że choć algorytmy mogą być zawsze reprezentowane w kategoriach numerycznych, to niekoniecznie działają na liczbach. Na przykład algorytm umieszczający listę słów w porządku alfabetycznym działa na obiektach (słowach), które nie są liczbami, zatem logika funkcji numerycznych jest obecna nie tylko jako funkcja poznawcza (jako matematyka), ale także jako język performatywny. Ogólnie jednak, większość procesów produkcyjnych, organizacja usług dla "obywatela" i "klienta" oraz niezliczone kliknięcia są inspirowane modelami algorytmicznymi, co oznacza w istocie hegemonię logiki algorytmicznej56.
Nic więc dziwnego, że interpretacjom takim towarzyszy niepewność metodologiczna, która nie ma jednak związku z poczuciem niekompetencji technologicznej ze strony przedstawicieli nauk humanistycznych i społecznych, wiele ją jednak łączy z przekraczaniem granic dyscyplinarnej jurysdykcji, krytyczne badania nad algorytmami polegają bowiem właściwie na przekraczaniu dyscypliny. Można by zatem pozostać przy eksperckiej "technologicznej" definicji informatycznej algorytmu, a następnie rozważyć, jak odnieść do niej inne obszary wiedzy. Taka kolejność ułatwiałaby dyskusję na temat jego wpływu57, ale byłoby to rozwiązanie ułomne, ponieważ granice pojęcia "algorytm" nie byłyby wyznaczane przez społeczne zaangażowanie.
Dlatego, powracając do wątku definicyjnego, w celu uporządkowania wywodu, sformułować można definicję algorytmu jako rodzaju socjotechnologicznego związku, części rodziny autorytatywnych systemów tworzenia wiedzy lub podejmowania decyzji, w których ludzie i nie-ludzcy aktorzy dostarczają dane i są umieszczani dzięki nim w systematycznych/matematycznych relacjach, a następnie otrzymują zasoby informacyjne na podstawie analizy danych wejściowych i ich ocen58.
Definicja taka wymaga jednak istotnych komentarzy.
Algorytm jako platforma
Termin "algorytm" jest bowiem także używany w kontekście całej organizacji, na przykład platformy, i identyfikowany z nią na każdym etapie jej ewolucji. Mówimy "algorytm Facebooka" - i takie sformułowanie staje się formą przypisywania odpowiedzialności oraz redukuje dystans między organizacją a zapisem cyfrowym. Mając na myśli "Facebook" czy "WeChat", w istocie rozważamy także tajemniczy, niewidoczny (algorytmiczny) "zabieg", dzięki któremu zyskujemy kontakt z ludźmi i artefaktami, a przy okazji identyfikujemy organizację, z którą go kojarzymy.
Gdy zabieg ten działa dłużej, z czasem zaciera się różnica między algorytmem i organizacją - myślimy wówczas "Facebook", ale kojarzymy tablicę albo po prosto zapośredniczony kontakt ze znajomymi - przy okazji zaś zanikają granice między postrzeganą władzą organizacji a jej możliwościami i użytecznościami oraz obietnicą marki. Wówczas w społecznej świadomości metafora "algorytmy rządzą światem" wydaje się całkiem dobrze oddawać relacje w środowisku platform matematycznych abstraktów i ludzi.
W wąskiej, technologicznej interpretacji współczesne algorytmy pozostają tymczasem dalekie od takiej omnipotencji i rzadko są tak zaprojektowane, aby uzyskiwały pojedynczą jednoznaczną odpowiedź. Ich projektanci dążą do osiągnięcia pewnego progu zadowolenia operatora lub użytkownika, na przykład satysfakcjonującego odsetka prawidłowo dopasowanych kontaktów, reklam do profilu użytkownika czy zidentyfikowanych twarzy ludzkich59.
Aby osiągnąć aprobowany próg, algorytmy są "szkolone" na korpusie danych weryfikowanym przez projektantów lub przez dotychczasowe praktyki użytkowników - w ten sposób potwierdza się, że konkretne zdjęcie jest zdjęciem ludzkiej twarzy, że dany wynik wyszukiwania został wybrany przez wielu użytkowników w odpowiedzi na to konkretne pytanie, a ten nie. Taki algorytm ma "nauczyć się" parowania zapytań i wyników uznanych w przeszłości za zadowalające. Wartości i założenia, które wchodzą w zakres wyboru i przygotowania tych danych dotyczących szkolenia, mogą mieć o wiele większe znaczenie niż algorytm.
W pracach z dziedziny informatyki główny nacisk kładzie się na to, jak zaprojektować i udowodnić optymalność z czysto technicznej perspektywy. Jeśli zatem istnieje dyskusja na temat pracy algorytmów, to koncentruje się ona na tym, jak algorytmy wykonują konkretne zadanie. Innymi słowy: algorytmy są rozumiane jako ściśle racjonalne, godzące w sobie pewność matematyki z obiektywnością technologii60 - jako esencja rozsądku61 w oświeceniowym duchu empiryzmu.
Taka techniczna interpretacja rzadko jednak występuje w szerszym dyskursie publicznym. Gdy mowa o znaczeniu Google czy Instagrama, to "algorytm" jest skrótem myślowym: algorytmu, danych, modelu, celu, danych, aplikacji i sprzętu. Sporadycznie dotyczy ludzi zaangażowanych na każdym etapie projektowania platformy, podobnie jak nieczęsto jest mowa o wartościach zaszytych w algorytmach, o "mgle software'u".
Dlatego warto porzucić wąskie, technologiczne interpretacje, przekroczyć umowne granice dyscyplin i zyskać szerszy pogląd, osadzający cyfrowy konstrukt w kulturowym, społecznym, politycznym i ekonomicznym środowisku. Oznacza to przy okazji, że badacz nie musi legitymować się fachową wiedzą informatyczną, choć staje w obliczu zagrożenia stosowaniem uproszczeń. Aby ich uniknąć, konieczna jest próba doprecyzowania tego, czym w istocie jest algorytm (a więc i platforma).
Ku etnografii algorytmu platform
Pamiętając więc o kanonicznej interpretacji technologicznej, należy zwrócić uwagę na wizję "algorytmów, które stają się kulturą".
W istocie algorytmy wolno przedstawiać jako "kulturę" - rozumianą jako coś, co ludzie czynią, jako wynik działań, a nie jako zapis cyfrowy. Jeśli jednak przyjmie się tę interpretację, to miejsce ujednoliconej "kultury" zajmie szereg luźno skoordynowanych praktyk, które konkurują i współpracują ze sobą, czasami dla celów "kulturowych", a czasami dla innych celów - na przykład "technicznych" czy ekonomicznych. Algorytm jest skutkiem wielu ludzkich i nie-ludzkich działań. Dobrym przykładem jest algorytm Facebooka, który programiści korygują na potrzeby użytkowników i reklamodawców, a jednocześnie uczestnicy rynku reklamowego, zwłaszcza firmy marketingowe, starają się "grać z nim", przewidując jego korekty i dostosowując się do nich. Zmiany te bywają dewastujące dla uczestników rynku, na przykład gazet "The Washington Post" i "The Guardian", które zainwestowały znaczne środki, by paść ofiarą zmian pozbawiających je większego ruchu62.
Algorytm platform jest zatem "z natury" niestabilny, nigdy nie jest ukończonym projektem, jest procesem, nieskończonym produktem (nieskończoną kulturą). Jest nieustannie poprawiany i udostępniany, zawsze tymczasowy, "płynny z natury" co do rezultatów63.
Algorytmy nie są więc - posługując się metaforami Seavera - "skałami w potoku kulturowym", ale raczej większą "masą wody"64. Nie są również pojedynczymi obiektami technicznymi, które wchodzą w wiele różnych interakcji kulturowych, ale są raczej obiektami niestabilnymi, wprowadzanymi przez praktyki stosowane przez ludzi w celu nawiązania z nimi kontaktu.
Taka wizja algorytmów jako kultury różni się od pojęcia "kultury algorytmicznej" autorstwa Teda Striphasa, który z etnograficznej perspektywy organizacji określa je jako siłę transformacyjną, egzogeniczną dla kultury65. W tym ujęciu na przykład film jest "kulturowy", ponieważ kształtuje przepływy materiału kulturowego, a nie dlatego, że jego algorytmiczna logika jest sama w sobie kulturowa. Wyjaśnić to można na przykładzie. Gdy użytkownik rekomenduje jakieś produkty kulturowe, które można zobaczyć (wysłuchać, kupić), to jego aktywności towarzyszy wykorzystywanie "mądrości tłumu", wskazującego na Filmwebie, Netflixie albo na Spotify, co jest ważne/ciekawe w sieci. Podobny mechanizm dotyczy algorytmu PageRank Google, analizującego zachowania milionów użytkowników dostarczających dane.
"Kultura algorytmiczna" oznacza zatem, że każdy użytkownik i każdy nie-ludzki aktor odgrywa własną rolę w "tworzeniu algorytmu". Niesie to, jak podkreśla Striphas, ważne konsekwencje metodologiczne. Podczas gdy informatyk może zajmować się sprawami efektywności lub tym, jak algorytm współpracuje ze strukturami danych, to antropolog może przejmować się tym, jak taki "kulturowy" algorytm kształtuje wartości i znaczenia kulturowe66.
Etnograficzne interpretacje pozwalają więc dostrzec w algorytmach nie tylko racjonalne procedury, ale także instytucje i ludzi. Różni się to od uznania algorytmów za matematyczne, obiecuje zaś - a to ważny czynnik przemawiający za jego uwzględnieniem - przynajmniej częściowe odsłonięcie tego, co istotne w środowisku nowych mediów, czyli kurtyny tajemnic algorytmicznych. Można się bowiem doszukiwać źródeł tajemniczości algorytmu w jego złożoności, jednak głównym czynnikiem ukrywania algorytmicznych mechanizmów i ich wpływu jest jego traktowanie przez organizacje medialne jako cennego zasobu pozwalającego na uzyskiwanie przewagi konkurencyjnej, a zatem takiego, który należy chronić przed wścibskim i zazdrosnym wzrokiem konkurentów i użytkowników. Jeśli bowiem pozna się kulturę platformy, to można także wnioskować o jej kulturowych produktach.
Dzięki tajemnicy handlowej oraz klauzulom o zakazie konkurencji nikt nie ma się dowiedzieć, co - metaforycznie ujmując - jest "pod maską" w Amazonie, Google i innych67. Ostateczna wartość tego, co współdecyduje o tak rozumianej "kulturze algorytmicznej", jest zatem definiowana przez zarządzanie organizacją.
Kontynuując myśl Striphasa, traktowanie algorytmu jako kultury pozwala "podnieść maskę". Ułatwia także - zachowując sceptycyzm i świadomość ograniczeń dostępu do pola badań - okiełznanie determinizmu korporacyjnego, łatwego ekonomizmu i tyranii racjonalizmu.
Nie należy przy tym zapominać, że z perspektywy antropologicznej algorytm jest częścią architektury językowej, przez którą programiści czy inżynierowie oprogramowania rozumieją świat i swoją pracę. Etnograficzna odpowiedzialność sugeruje ponadto używanie takich samych terminów, jakie stosują osoby, które zajmują się algorytmami w swojej pracy zawodowej68. Programista platformy, który twierdzi, że na przykład jego algorytm rozpoznawania twarzy nie ma "wbudowanego" kontekstu kulturowego organizacji, w której powstaje, czyli choćby uprzedzeń, musi zmierzyć się z wnioskami płynącymi z takich badań. Poza tym "ludzie technologii" nie są jedynymi osobami zaangażowanymi w tworzenie galimatiasu "socjo-materiałów", które nazywamy "algorytmami". Zróżnicowane środowisko używające licznych technik i zrozumień, wytwarza algorytm "zanurzony w kulturze" w luźno skoordynowanym środowisku. Niedostrzeganie tej złożoności byłoby szczególnie trudne do obrony w wypadku algorytmów, na których skupia się opinia publiczna: algorytmów wielkich korporacji medialno-technologicznych, skomplikowanych, nieustannie korygowanych, probabilistycznych69.
Algorytm opresji
Pamiętając zatem, w jak różnych miejscach i okresach powstają algorytmy, stwierdzić należy, że nie tylko nie ma jednej, ogólnej, stabilnej i precyzyjnej definicji algorytmu, ale także nie możemy z góry znać definicji, które powstaną w przyszłości, i przyjmować, że będą one takie jak współczesne. Może się ponadto okazać, że nie da się znaleźć pojedynczego sensu algorytmu, ten bowiem może mieć niejasne "nietechniczne" znaczenie70.
W przyjętej dalej interpretacji algorytmy są zatem kulturowe dlatego, że składają się ze zbiorowych praktyk ludzkich i nie-ludzkich aktorów oraz są zróżnicowane - tak jak różna jest kultura, ponieważ same są kulturą. Nie istnieje również coś takiego, jak algorytmiczna decyzja - istnieją jedynie sposoby postrzegania decyzji jako algorytmiczne. Innymi słowy: algorytmy nie są autonomicznymi obiektami technicznymi, ale - jak wspomniano - złożonymi systemami socjotechnicznymi.
Codzienna praktyka największych korporacji platform dostarcza wielu informacji o niedoskonałości ich działania. Do znanych przykładów rasistowskiego wyniku funkcjonowania współczesnych systemów algorytmicznych należy - to nawiązanie do wspomnianej konieczności parowania zapytań i trafnych odpowiedzi - oznaczenie zdjęć czarnoskórych osób jako goryli. Ofiarą tej wysoce ambarasującej praktyki na Google Photos padł w 2015 roku afroamerykański programista Jacky Alcine. Po jego interwencji u menedżera Google bulwersująca etykieta zniknęła, ale problem nie został rozwiązany, ponieważ trzy lata później, gdy magazyn "Wired" przeprowadził test sztucznej inteligencji Google Photos, uznał, że serwis imponująco radzi sobie z odnalezieniem wielu stworzeń, w tym pand i pudli, ale nadal zgłaszał "brak wyników" dla wyszukiwania "goryla", "szympansa" i "małpy", co dobrze ilustruje problemy z rozwojem technologii rozpoznawania obrazów71.
Korzystanie z oprogramowania wymaga więc nie tylko dobrej woli, ale także większej kontroli tego, jakie wartości są w nim traktowane priorytetowo. Dyskryminacja przejawia się bowiem nie tylko w kodzie, lecz również w technologiach sztucznej inteligencji, która może wzmocnić wiele uprzedzeń występujących w społeczeństwie.
Jednym z ważnych wyzwań związanych z "algorytmicznym uciskiem" jest zrozumienie, że - co jeszcze raz warto wspomnieć - to ludzie formułują matematyczne metody automatycznych decyzji. Chociaż często myślimy o algorytmach albo dużych zbiorach danych (big data) jako neutralnych i obiektywnych, to ich działania nie są pozbawione uprzedzeń i wolne od stygmatyzacji oraz stereotypizacji72.
Nie przeszkadza to jednak instytucjom publicznym, jak organizacje rządowe i pozarządowe, edukacyjne i religijne czy na przykład uniwersytety, polegać na wiedzy algorytmicznej, tymczasem, jak sugeruje Safiya Noble, opresja algorytmiczna występuje tak często, że nie jest usterką w systemie, ale raczej regułą mającą bezpośredni wpływ na użytkowników internetu i na życie offline. Nie oznacza to, że stronniczość algorytmiczna jest z założenia celowa, rzecz w tym, że potencjał stronniczości wynika z tego, że algorytmiczne wyniki są lustrzanym odbiciem nierówności oraz dyskryminacji społecznych między ludźmi, a zatem wszyscy, którym brakuje "siły przebicia" społecznego i politycznego oraz ekonomicznego, wpadają w "ślepe zaułki" uprzedzeń73.
Stan ten prowokuje do refleksji, czym jest autonomia algorytmu. Winę za jej brak przypisuje się zwykle niezróżnicowaniu danych, na których algorytm został przeszkolony, i zbyt małemu zróżnicowaniu w programowaniu i testowaniu zespołów, które dały taki wynik. Jednak bez trudu można wskazać, że postawy i uprzedzenia ludzi pracujących w systemach algorytmicznych wpływają (przenoszą się) na te systemy, zatem różnorodność nie jest jedynie kwestią sprawiedliwej reprezentacji danych, ale konsekwencją przekonań twórców i administratorów systemu74.
Algorytm jest więc kulturą z dobrymi i ze złymi tej interpretacji konsekwencjami oraz nieco skrzywionym odbiciem zbioru ludzkich wyborów, praktyk i postaw75, dlatego należy go traktować jako niestabilny obiekt - reprezentację różnych ludzkich praktyk.
18 J. van Dijck, Seeing the forest for the trees: Visualizing platformization and its governance, "New Media & Society" 2020, 23(9), s. 1-19.
19 J. van Dijck, T. Poell, M. De Waal, The platform society: Public values in a connective world, Oxford University Press, Oxford 2018.
20 B. Czarniawska-Joerges, Culture is the Medium of Life, [w:] A. Sjögren, L. Janson (red.), Culture and Management in the Field of Ethnology and Business Administration, Invandrarministeriet, Stockholm 1992, s. 15-29.
21 J. van Dijck, T. Poell, M. De Waal, The platform..., s. 4.
22 T. Parsons, N.J. Smelser, Funkcjonalne zróżnicowanie społeczeństwa, [w:] A. Jasińska-Kania, L.M. Nijanowski, J. Szacki, M. Ziółkowski (red.), Współczesne teorie socjologiczne, Wydawnictwo Naukowe Scholar, Warszawa 2006.
23 S. Leukes, Power: A radical view, Macmillan International Higher Education, London 2004 s. 25.
24 Koncepcja "obiektywnego interesu" jest przedmiotem wielu analiz, także krytycznych.
25 Choć argumenty te nie należą do głównego wątku, to za Michelem Foucaultem można dodać, że nie sposób uwolnić się od władzy współczesnego człowieka. Można jej uniknąć, wchodząc w rolę tzw. konkretnego intelektualisty, działającego w konkretnych dziedzinach i miejscach, ponieważ tylko w konkretnych sytuacjach człowiek może być świadom zagrożeń i własnych interesów. Zob. M. Foucault, Nadzorować i karać. Narodziny więzienia, przeł. T. Komendant, Fundacja Aletheia, Warszawa 1993.
26 P. Bachrach, M. Baratz, Power and Powerty. Theory and Practice, Oxford University Press, Oxford 1970.
27 P. Bourdieu, Medytacje pascaliańskie, przeł. K. Wakar, Oficyna Naukowa, Warszawa 2006.
28 P. Bourdieu, J.L. Wacquant, Zaproszenie do socjologii refleksyjnej, przeł. A. Sawisz, Oficyna Naukowa, Warszawa 2001.
29 E. Brynjolfsson, A. McAfee, Drugi wiek maszyny. Praca, postęp i dobrobyt w czasach genialnych technologii, MT Biznes, Warszawa 2015.
31 T. Gillespie, Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media, Yale University Press, New Haven 2018.
32 G. Elmer, G. Langlois, Networked campaigns: Traffic tags and cross platform analysis on the web, "Information Polity" 2013, 18(1), s. 43-56.
33 K. Abriszewski, Poznanie, zbiorowość, polityka. Analiza teorii aktora-sieci Bruno Latoura, Universitas, Kraków 2008.
34 K. Krzysztofek, W stronę maszyn społecznych. Jaka będzie socjologia, której nie znamy?, "Studia Socjologiczne" 2011, 2, s. 123-145.
35 A. Mager, Algorithmic Ideology: How Capitalist Society Shapes Search Engines, "Information, Communication & Society" 2012, 15(5), s. 769-787.
36 J. Cheney-Lippold, A New Algorithmic Identity: Soft Biopolitics and the Modulation of Control, "Theory, Culture & Society" 2011, 28(6), s. 164-181.
37 T. Gillespie, The relevance of algorithms, [w:] T. Gillespie, P.J. Boczkowski, K.A. Foot (red.), Media technologies: Essays on communication, materiality, and society, MIT Press, Cambridge 2014, s. 167-193.
38 T. Bucher, "Want to be on the top?". Algorithmic power and the threat of invisibility on Facebook, "New Media and Society" 2012, 14(7), s. 1164-1180.
39 M. Mahnke, E. Uprichard, Algorithming the algorithm, [w:] R. König, M. Rasch (red.), Society of the query reader: Reflections on web search, Institute of Network Cultures, Amsterdam 2014, s. 256-270.
40 Szerzej między innymi w: R. Kitchin, Thinking critically about and researching algorithms, "Information, Communication & Society" 2017, 20(1), s. 14-29; M. Ziewitz, Governing algorithms: Myth, mess, and methods, "Science, Technology, & Human Values" 2016, 41(1), s. 3-16; J. Danaher, The threat of algocracy: Reality, resistance and accommodation, "Philosophy & Technology" 2016, 29(3), s. 245-268.
41 S. Kushner, The freelance translation machine: Algorithmic culture and the invisible industry, "New Media & Society" 2013, 15(8), s. 1241-1258.
42 C. Shirky, A speculative post on the idea of algorithmic authority, Shirky.com, 2009, pobrano z: http://www.shirky.com/weblog/2009/11/a-speculative-post-on-the-ideaof-algorithmic-authority.
44 R.D. Lankes, Credibility on the Internet: Shifting from Authority to Reliability, "Journal of Documentation" 2008, 64(5), s. 667-686.
45 N. Diakopoulos, Algorithmic Accountability Reporting: On the Investigation of Black Boxes, "Digital Journalism" 2013, 3(3), s. 398-415.
46 T.C. Lin, The New Investor, "UCLA Law Review" 2012, 60, s. 678.
47 E. Goldman, Search Engine Bias and the Demise of Search Engine Utopianism, "Yale Journal of Law & Technology" 2005, 8, s. 121-133.
49 M. Ananny, Toward an ethics of algorithms: Convening, observation, probability, and timeliness, "Science, Technology, & Human Values" 2016, 41(1), s. 93-117.
50 C. Ingraham, Toward an algorithmic rhetoric, [w:] G. Verhulsdonck, M. Limbu (red.), Digital rhetoric and global literacies: Communication modes and digital practices in the networked world, Information Science Reference, Hershey 2015, s. 62-79.
51 Z. Bauman, Retrotopia..., s. 118.
52 Ch.W. Clifton, D.K. Mulligan, R. Ramakrishnan, Data Mining and Privacy: An Overview, [w:] K.J. Strandburg, D.S. Raicu, Privacy and Technologies of Identity: A Cross-Disciplinary Conversation, Springer, New York 2006.
53 O. Gandy, Engaging Rational Discrimination: Exploring Reasons for Placing Regulatory Constraints on Decision Support Systems, "Ethics and Information Technology" 2010, 12(1), s. 29-42.
54 S. Barocas, S. Hood, M. Ziewitz, Governing algorithms: A provocation piece, SSRN Electronic Journal, marzec 2013 roku.
55 N. Seaver, Algorithms as culture: Some tactics for the ethnography of algorithmic systems, "Big Data & Society" 2017, 4(2).
57 P. Dourish, Algorithms and their others: Algorithmic culture in context, "Big Data & Society" 2016, 3(2), s. 3-5.
58 N. Seaver, Knowing Algorithms, "Media in Transition" 2013, 8, s. 2, pobrano z: http://nickseaver.net/papers/seaverMiT8.pdf.
59 T. Gillespie, Algorithm, [w:] B. Peters (red.), Digital Keywords: A Vocabulary of Information Society and Culture, Princeton University Press, Princeton 2016, s. 18-30.
60 N. Seaver, Knowing Algorithms...
61 A. Goffey, Algorithm, [w:] M. Fuller (red.), Software studies - A lexicon, MIT Press, Cambridge 2008, s. 15-20.
62 M. Hindman, Stickier News. What Newspapers Don't Know about Web Traffic Has Hurt Them Badly - But There is a Better Way, Shorenstein Center on Media, Politics and Public Policy, Harvard Kennedy School, Cambridge 2015.
63 D. Neyland, On organizing algorithms, "Theory, Culture & Society" 2015, 32(1), s. 119-132.
64 N. Seaver, Knowing Algorithms...
65 T. Striphas, Algorithmic culture, "European Journal of Cultural Studies" 2015, 18(4-5), s. 395-412.
66 N. Seaver, Algorithms...
67 S. Levy, In the plex. How Google's algorithm rules the web, Wired, 2010, pobrano z: http//www.wired.com/magazine/2010/02/ff_google_algorithm.
68 P. Dourish, Algorithms...
70 N. Seaver, Knowing Algorithms...
71 T. Simonite, When It Comes to Gorillas, Google Photos Remains Blind, Wired, 1 listopada 2018 roku, pobrano z: https://www.wired.com/story/when-it-comes-to-gorillas-google-photos-remains-blind/.
72 S.U. Noble, Algorithms of oppression: How search engines reinforce racism, NYU Press, New York 2018.
75 N. Seaver, What should an anthropology of algorithms do?, "Cultural Anthropology" 2018, 33(3), s. 375-385.
