Algoritmer og mennesker, makt og filosofi

Algoritmene er overalt i hverdagen, demonstrerer Taina Bucher i åpningen av sin nye bok. Vi antar de har makt, men hvilken makt, og hvordan manifesterer den seg? Dette er temaet for If…then: Algorithmic power and politics, en grundig gjennomarbeidelse av temaer Bucher har beskjeftiget seg med helt siden doktorgradsavhandlingen fra 2012.

Buchers bok baserer seg mer på kontinental filosofi enn på norsk eller angloamerikansk medievitenskap. Perspektivet hun anlegger foretrekker hun å kalle relasjonell ontologi, en posisjon som har mye til felles med aktør-nettverk-teori, men også med social construction of technology-tradisjonen og Deleuzes filosofi. Det betyr at verken teknologier generelt eller algoritmer spesielt kan forstås alene, men må sees i sammenheng med menneskene som har konstruert dem og menneskene som bruker dem, og med sammenhengene de er konstruert og tatt i bruk i. Dette tar hun så i bruk i en analyse av algoritmers makt, basert særlig på Foucaults maktforståelse. Likevel sier hun svært lite om hvilken makt algoritmer har, men mest om hvordan de kan tenkes å ha makt. Det interessante er ikke hva algoritmer er eller gjør, skriver hun flere ganger, men hvor og når.

Etter å ha presentert temaet algoritmer og makt analyserer Bucher bruken av begrepet black box om algoritmer i kapittel tre. Analysen er ikke bare smart og innsiktsfull, men utgangspunktet er svært snedig: Hvorfor finner mange det tjenlig å si at det er umulig å få vite hvordan algoritmer virker? Hvilke posisjoner tjener på å hevde dette? Her demonstrer hun tydelig hvordan algoritmer kan brukes i et spill om makt bare ved å nevnes og beskrives som svarte bokser, som noen ganger er nøytrale, andre ganger onde, alt etter situasjonen og hensikten. Til slutt i kapitlet presenterer hun tre mulige metoder for å undersøke algoritmer selv om ikke man får tilgang til kildekoden, tre metoder som hun så benytter i kapitlene som følger. «Teknografi», er en slags forenklet reverse engineering som innebærer å observere hva et datasystem gjør, og å lese teknisk dokumentasjon, patentpapirer og andre dokumenter. Dette bruker hun i en analyse av Facebooks News Feed i kapittel fire. Den andre tilgangen er å intervjue brukere om hvordan de forstår og forholder seg til algoritmer, noe hun kaller en fenomenologisk tilnærming. Dette gjennomfører hun i kapittel fem i en studie av brukere av Facebook og Twitter. Kapittel seks er en intervjustudie om algoritmer i nordiske nyhetsredaksjoner ved hjelp av den tredje metoden, eller kanskje vi må kalle det tilnærmingen. Metoden er nemlig den samme, intervjuer, men her analyserer hun hvordan algoritmer blir omdreiningspunktet for en diskusjon om hva journalistikk er og skal være i en tid hvor nyhetsorganisasjoner blir utfordret av Facebook.

Igjen og igjen viser Bucher at hun har evnen til å ta en nokså dagligdags observasjon og løfte den opp til et høyere teoretisk nivå. Hennes data er aldeles vanlige. Undersøkelsene hennes gir påfallende forutsigelige resultater, men analysene hennes er virkelig sjeldent gode. Hun trekker på en omfattende lesning av moderne medievitenskap, teknologiteori og filosofi, og evner å bruke filosofien til svært interessante betraktninger.

Som i så mange tilfeller kan en styrke også bli en svakhet. Boka er ujevn i stilen. Bucher kan skrive riktig fengende og lett, som i åpningen der hun beskriver algoritmene som er overalt i hverdagen, eller i delen om hvordan man kan undersøke algoritmer, og ikke minst i kapitlet med brukerstudier, som er nesten forførerisk i stilen. Andre steder er språket holdt i et karakteristisk filosofisk register, med lange kompliserte setninger og innfløkte argumenter. Partier i boka har mange althusserske «always already», som om det ikke er helt godt nok å bare skrive «always», og det er mange karakteristikker som består av rekker med adjektiver skilt av komma. Algoritmer er «fluid, adaptable, and mutable» skriver Bucher (s. 78), men jeg er usikker på hva som utgjør forskjellen mellom de tre adjektivene i denne sammenhengen. I noen av disse filosofiske partiene lurte jeg på om det kunne vært gjort enklere. En lang og vanskelig innføring i nettverks-ontologi munner ut i å påpeke at algoritmer alltid (allerede) er designet av mennesker som har med seg sine mål, verdensanskuelser og fordommer. Det er et poeng som lar seg gripe uten moderne filosofi i bagasjen.

For dem som kjenner Buchers arbeid fra tidligere er mye av stoffet i boka kjent. De tre analysekapitlene er omarbeidede artikler. Kjernen er beholdt, men kapitlene er likevel omarbeidet ganske mye. Vi kjenner også igjen andre deler, som den instruktive oversikten over hvordan man kan studere algoritmer. Analysen av nordiske nyhetsredaksjoner er også godt kjent på den måten at det etterhvert er kommet mange slike undersøkelser, og de finner stort sett det samme. (Jeg tar meg i å tenke at utviklerne i VG snart må bli lei av medieforskere.) Men i denne boka er trådene som løper mellom de ulike undersøkelsene strammet opp, slik at det henger tettere sammen teoretisk. Det er mye å lære om moderne teknolgiteori fra denne boka, for Bucher har lest mye og oppsummerer godt.

Om man må kunne programmere for å studere algoritmer er et stadig tilbakevendende spørsmål. Bucher svarer «nei» på det spørsmålet noen steder i boka, andre steder mener hun det er greit å ha en viss kjennskap til det. Spørsmålet er hvor mye man bør kunne. Både omtalene hennes av hvordan maskinlæring fungerer og beskrivelsen av Facebooks «EdgeRank»-algoritme er svært omtrentlige, om ikke rett ut gale. (Når hun på s. 78 gjengir en bloggpost om EdgeRank (Kincaid 2010) forveksler hun for eksempel noder og kanter.) Slik kan det fort bli når en medieviter skal forklare andre fagfelt. Diskvalifiserer det Buchers analyse? Nei, det gjør det egentlig ikke, for hun er mest opptatt av menneskene rundt algoritmene, som vi har sett. Men om masterstudenter i medievitenskap baserer sin forståelse av maskinlæring eller grafteori på Buchers utlegning kan de havne ganske langt fra virkeligheten. Her skulle jeg gjerne sett hun hadde hatt en informatiker som medforfatter.

Egentlig kunne hun godt hatt med en økonom også, for økonomi er merkelig fraværende i denne boka. Økonomien er en så åpenbar drivkraft både for Facebook og for nyhetsredaksjonene, at det blir et stort hull, en bit i puslespillet som mangler. Jeg tror det er en av grunnene til at ingen av kapitlene munner ut i en konklusjon av hvem som utøver makt over hvem i algoritmiske medier, kun i diskusjoner om hvordan makt kan utøves.

Kanskje kan det gi en pekepinn på hvordan vi må studere algoritmenes plass i maktens nettverk. Bucher skriver at slike aktørnettverk er så komplekse at de, i likhet med Universitetet i København (!), er nærmest umulige å skaffe seg oversikt over. Da virker det overmodig å la enkeltforskere studere dem alene. Den åpenbare konsekvensen av Buchers analyser må være at vi studerer plattform-mediene i tverrfaglige team, med både samfunnsvitere, medievitere, antropologer, informatikere og økonomer, slik avansert medisinsk forskning gjerne samler mange ulike disipliner i en studie.