Hannah Fry er blitt et fenomen i den engelskspråklige verden etter at hun utga «Hallo, verden» for to år siden. Den er noe så sjeldent som en fengende, informativ og skarp bok om hvordan matematikk og programmering, algoritmer og kunstig intelligens på dramatisk vis har forandret våre liv.
Gjør verden mer forståelig
Med konkrete eksempler viser hun at dataprogrammer har endret alt fra biler og fly til rettsvesenet og politiske beslutninger.
«Hallo, verden» er rett og slett ei bok som setter ord på mange av de erfaringene vi som enkeltmennesker og samfunn har gjort oss de siste tiåra.
Også hennes «TED Talks» om kunstig intelligens er uhyre populære. I tillegg lager hun tankevekkende podkaster for BBC og Googles selskap DeepMind. Som den første kvinnelige matematikeren holdt hun den prestisjefylte juleforelesningen på Royal Institution i London i fjor.
Etter å ha lest boka har ikke bare verden blitt mer forståelig. Men den kan også kaste lys over høyaktuelle norske forhold.
Allerede på side 34 noterte jeg i margen: «Kan dette ha noe med NAV-skandalen å gjøre?» I forlagets presentasjon av boka heter det da også: «Du blir beskyldt for en forbrytelse. Hvem vil du helst skal bestemme skjebnen din – et menneske eller en algoritme?» Jeg kommer tilbake til spørsmålet. Men først noen ord om boka.
Algoritmenes autoritet
Undertittelen er «Hvordan være menneske i en verden styrt av datamaskiner». Etter å ha fortalt om hvordan hun selv ble opptatt av matematikk og dataprogrammering, gir hun oss noen slående eksempler på bruk av kunstig intelligens.
Med all tydelighet får hun fram at vi har satt vår sunne fornuft til side og i stedet stoler blindt på algoritmer selv ikke spesialistene alltid vet hvordan fungerer.
Det morsomste eksemplet er historien om engelskmannen som holdt på å kjøre utfor et stup fordi Google Maps fortalte ham at veien fortsatte. Det alvorligste er historien om Air France-flyet som i 2009 styrtet på vei fra Rio de Janeiro til Paris da autopiloten plutselig ble satt ut av funksjon. Fordi piloten var så vant til å bruke autopiloten, manglet han trening og gjorde en skjebnesvanger feil.
På veien viser hun at kunstig intelligens også har effektivisert og forbedret helsevesenet, rettsapparatet og politietterforskning. Men til forskjell fra alle teknologientusiastene, har hun et skarpt blikk for prisen vi betaler.
Selv om boka er fengende, blir den innimellom litt monoton. Det er åpenbart at Fry har bestrebet seg på både å trekke fram de positive og uheldige konsekvensene av at vi har overlatt stadig mer makt til datamaskinene.
Gråt da jeg leste denne
Først i den korte avslutningen tar hun bladet fra munnen og advarer mot «å tenke på algoritmer som en slags autoritet».
Hennes tidvis detaljerte beskrivelser av deres makt, hadde blitt enda mer tankevekkende om hennes kritiske perspektiv ikke bare hadde ligget mellom linjene på de foregående 240 sidene. Likevel, som leser merker man tendensen i boka og når forfatterens samfunnsengasjement øker.
Trygdeskandaler
Det er kanskje bra at Frys engasjement ikke er så framtredende i den pedagogiske forklaringen av hva algoritmer er og hvilke oppgaver de kan utføre.
Den er imidlertid opplysende for amatører som undertegnede. Den mer datakyndige vil helt sikkert finne hennes mer faglige nyanseringer i notene interessante.
Heldigvis stiger Frys engasjement betraktelig da hun for eksempel i kapitlet «Makt» tar for seg en trygdeskandale i Idaho. I 2012 fikk en rekke funksjonshemmede i Idaho beskjed om at de ville få reduserte utbetalingene fra det amerikanske helsevesenet.
Uten forvarsel ble støtten kuttet nådeløst og vilkårlig med det resultat at mange ikke hadde råd til å betale for omsorg og hjelp. Det skulle ta fire år med saksøking og rettssaker før Medicaid ble tvunget til å avsløre hvilken algoritme de brukte i saksbehandlingen.
Det var da jeg noterte i margen: «Kan dette ha noe med NAV-skandalen å gjøre?» For kanskje kan denne boka bidra til kaste nytt lys over skandalen?
Selv om NAVs storsatsing på ny elektronisk behandling av trygdesaker ikke er et sentralt tema i deres interne granskingsrapport, viste det seg likevel at svaret på spørsmålet, så langt jeg kan forstå, peker i retning av et ja.
Hva skjedde med Lien?
I forbindelse med at NAV avdekket det de mente var «svindel for mer enn 302 millioner kroner» i 2015, skriver Teknologirådet og Datatilsynet i rapporten «Personvern 2017» følgende: «Ved mer data og avanserte analyseteknikker, kan feil og svindel avdekkes med større presisjon.»
Særlig framhever forfatterne av rapporten at bruk av «maskinlæring […] egner seg godt for å avdekke svindel. […] I offentlig sektor kan Skatteetaten og NAV ha nytte av å bruke samme verktøy.»
I hvilken grad NAV tok i bruk maskinlæringsalgoritmer og kunstig intelligens i saksbehandlingen av sakene som til fengselsstraff og tilbakebetaling, vil forhåpentlig komme fram av kontrollkomiteens høringer og den bebudede rapporten.
I mellomtida anbefaler jeg alle som vil forstå hvordan algoritmer har forandret hva det vil si å være menneske i verden og i den norske velferdsstaten, å lese Hannah Frys «Hello, verden».
Det er boka som bør sparke i gang en offentlig debatt om et presserende samfunnsspørsmål som til nå i stor grad har vært forbeholdt fagfolk og spesialister.
