Kunstig intelligens

Storebror ser deg - og rangerer deg som god eller dårlig

George Orwells «1984» er i ferd med å bli virkelighet.

Kommentar

Internett er fri meningsutveksling, en gave til alle demokratiforkjempere. Å forsøke å kontrollere internett er som å prøve å spikre gelé opp på veggen, heter det.

Nå er verdens største internettsamfunn – Kina som har mer enn 730 millioner brukere – i ferd med å få geleen til å henge. Kinesisk datateknologi ligger i fremste rekke både når det gjelder utvikling og metoder for kontroll. Et politisk system med en stadig sterkere hang til å kontrollere borgerne i minste detalj, har tatt imot innovasjon med åpne armer – og i mange tilfeller utfordret operatørene til nye oppfinnelser.

I 2015 bidro Kinas Departement for offentlig sikkerhet til lanseringen av et system som skal kunne identifisere hvert eneste individ blant landets 1,3 milliarder innbyggere i løpet av tre sekunder. Metoden er ansiktsgjenkjennelse. Systemet skal kunne kobles til overvåkingskameraer, portrettene skal lagres i skyen og gjøres umiddelbart tilgjengelig hvor som helst i landet. Det Shanghai-baserte selskapet Isivision jobber med utviklingen av verktøyet. Formatet er gigantisk, og det er usikkert når en helt ferdig versjon kan tas i bruk.

Isivision har utviklet systemet til bruk i mindre skala. Allerede i 2003 ble det utplassert for å overvåke ansiktene i folkemengden på Tiananmen-plassen i Beijing. Tilsvarende teknologi er i bruk av politimyndighetene i regionene Tibet og Xinjiang som regelmessig hjemsøkes av etnisk uro.

Artikkelen fortsetter under annonsen

Gjenkjennelse av ansikter er en teknologi med stort kommersiell potensial. Det er tvilsomt om andre enn det kinesiske statsapparatet vil få tilgang på det landsdekkende «arkivet». Men kinesiske selskaper bruker varianter av metoden på stadig nye felter. Reisende kan sjekke inn på fly uten ombordstigningskort og gjester kan betale for seg på restauranter med et smil. Ifølge South China Morning Post har enkelte restauranter til og med begynt å belønne kunder som ser bra ut. Jo vakrere ansiktstrekk, jo lavere regning.

Et liknende system for å gjenkjenne stemmer skal være under utvikling av iFlytech, et firma som spesialiserer seg på kunstig intelligens. Også dette skjer på oppdrag fra Departementet for offentlig sikkerhet. I et pilotprosjekt i en kinesisk provins skal det være samlet inn 70000 «stemmemønstre». Folk i Xinjiang-regionen som har søkt om nytt pass i løpet av det siste året, er blitt bedt om å avlegge stemmeprøve.

Det mest spektakulære er likevel planen om å innføre et såkalt «sosialt kredittsystem», slik det ble gjort rede for i et dokument fra den kinesiske regjeringen i 2014. Hele åtte selskaper er i ferd med å utvikle systemet. Et av de mest kjente er Sesame Credit som er knyttet til velrenommerte Alibaba. Her skal big data samkjøres for å avgjøre både kreditt- og troverdigheten til Kinas 1,3 milliarder borgere. Systemet er i bruk på forsøksbasis, men det skal etter planen rulles ut på landsbasis i 2020. Hvert eneste individ og firma i Kina skal etter planen rangeres og tildeles poeng etter visse kriterier.

Den svenske Kina-forskeren Johan Lagerkvist beskriver det som «et digitalt panoptikon for å kontrollere individer, foretak og det statlige byråkratiet – og for å minske uærligheten i det kinesiske samfunnet og øke tilliten». Programmet lagrer i en personlig mappe alt som den enkelte har gjort eller sagt på nettet – innkjøp, uttalelser, innlegg, oppførsel – alt som myndighetene definerer som nyttig informasjon. Det kobles til det personlige ID-kortet.

Her dreier det seg ikke bare om økonomisk kredittinformasjon. Det sosiale kredittsystemet skal også vurdere folks karakter. Sesame Credit skal rangere folk på en skala fra 350 til 950 poeng, etter spesielle algoritmer. Ifølge tidsskriftet Wired, som har studert systemet, utdeles poengene etter fem kriterier: Kreditthistorie, evnen til å oppfylle en kontrakt, personlige opplysninger som adresse og mobilnummer, oppførsel og preferanser og forhold til andre personer.

I Kina vil det selvsagt være slik at utsagn som ikke samsvarer med Kommunistpartiets ideologi, kritikk av systemet o.l., vil gi fratrekk i poengsummen. Hva ens venner eller familie ytrer seg om, vil også kunne trekke ned på den personlige scoren. Slik opprettholdes det kinesiske angiveriet i en mer subtil form.

Folk med lav poengsum vil angivelig straffes med lavere bredbåndshastighet, begrenset adgang til restauranter, reiserestriksjoner og alvorligere ting som yrkesforbud og mangel på sosiale ytelser. Motsatt vil folk med høy score få VIP-service på flyplasser og hoteller, hurtigbehandling av visumsøknader osv.

Framtida for 1,3 milliarder kinesere ser ut som en finurlig kombinasjon av et kapitalistisk bonusprogram og et kommunistisk overvåkingsregime. Storebror har alt under kontroll.