TRAILER: I dokumentaren «Do You Trust This Computer?» kommer en rekke eksperter, blant dem Tesla- og SpaceX-gründer Elon Musk, med dystre spådommer for hvordan kunstig intelligens kommer til å påvirke menneskeheten i framtida. Video: Cinetic Media / Papercut Films Vis mer

Elon Musk:

- En udødelig diktator som vi aldri kan rømme fra

Tesla- og SpaceX-gründeren med kraftig advarsel mot kunstig intelligens.

(Dagbladet): I dokumentaren «Do You Trust This Computer?», oversatt til «Stoler du på denne datamaskinen?», kommer Elon Musk med en klar advarsel mot hvordan superintelligente maskiner kan dominere verden:

«Vi er med stor fart på vei til digital superintelligens som overgår ethvert menneske. Det er veldig åpenbart. De kan bli en udødelig diktator som vi aldri kan rømme fra».

Dystre spådommer

Dokumentaren, regissert av Chris Paine, hadde premiere i Los Angeles 5. mars, og er i disse dager tilgjengelig på nettsteder som «Vimeo» og «Youtube».

Ifølge nettstedet Mashable er det Musks iver etter å spre sine advarsler mot kunstig intelligens som gjorde at han selv betalte for den gratis strømmemuligheten utover helga.

Nettstedet skriver også at han skal ha sagt følgende under premieren i Los Angeles:

«Dette er et veldig viktig tema, som kommer til å påvirke livene våre på måter vi ikke engang kan forestille oss».

- Ukontrollerbar og ustoppelig

I tillegg til Musk medvirker blant andre eksperter som for eksempel «Google Brain»-gründer Andrew Ng, i dokumentaren, som også advarer om hvordan framtiden kan se ut med den teknologiske utviklingen. De argumenter med at menneskene allerede gir teknologien makt og evner som menneskeheten aldri kan ta tilbake.

«Mønsteret er at kunstig intelligens kanskje bruker litt tid på å legge sine tentakler rundt en ny ferdighet. Men når den først gjør det, er den ustoppelig», sier en av filmens medvirkende i traileren.

Jonathan Nolan, en av regissørene til TV-serien «Westworld» sier følgende: «Vi har frigjort krefter som vi ikke kan kontrollere eller stoppe».

I dokumentaren nevner Musk også muligheten for at kunstig intelligens laget av autoritære myndigheter kan utspille individuelle ledere eller partier, og dermed skape en permanent undertrykkelse i et samfunn.

Dette ved å gjøre ting som å starte en krig gjennom falske nyheter, overta e-postadresser eller manipulere informasjon.

MENNESKELIKNENDE: CNBC-journalist Andrew Ross Sorkin «intervjuet» roboten Sophia på Future Investment Initiative. Sophia er den første roboten som har fått statsborgerskap. En del av svarene hennes var programmert på forhånd, ifølge Sorkin. Video: Future Investment Initiative Les hele saken her: https://goo.gl/T6wXwb Vis mer

Norsk ekspert om farene ved kunstig intelligens

Jim Tørresen er leder for forskningsgruppen Robotikk og intelligente systemer (ROBIN) ved Universitetet i Oslo. Han mener også at kunstig intelligens kan føre til visse farer for menneskeheten.

- Systemene vi lager vil ikke være perfekte, og vil følgelig kunne gjøre feil. De kan også bli påvirket, eller angrepet, av personer som gjør innbrudd i elektroniske systemer, og dermed får endret oppførselen deres. Dette er et langt mer sannsynlig scenario i dag enn at datasystemene på eget initiativ endrer oppførsel.

Tørresen forklarer videre at det er en fare for at «ulike samvirkende automatiserte systemer sammen kan ta valg som fører til skadevirkninger som ikke hadde skjedd hvis et menneske hadde vært involvert.»

- For eksempel om vi har datasystemer med kunstig intelligens som styrer kjøp og salg av aksjer, energi, vareproduksjon, og lignende. Det er ikke så vanskelig å tenke seg at det da kan føre til rovdrift på ressurser og miljø hvis viktigste kriterium er inntjening.

Allerede «underlegne»

Jim Tørresen, leder for forskningsgruppen Robotikk og intelligente systemer (ROBIN) ved Universitetet i Oslo. Foto: Stine Moen
Jim Tørresen, leder for forskningsgruppen Robotikk og intelligente systemer (ROBIN) ved Universitetet i Oslo. Foto: Stine Moen Vis mer

Tørresen påpeker at vi i dag lever med en rekke datasystemer og datamaskiner som er smartere enn oss på mange områder, som å regne tall, og å lagre og søke i data, «uten at vi føler frykt eller underlegenhet av den grunn».

- Disse systemene er normalt spesialister på én ting, mens en forventer imidlertid at vi klarer å utvikle mer generelle systemer i framtida. Det de [dem som spår en dyster framtid som følge av kunstig intelligens, red.anm] er redde for at kommer ut av kontroll i denne sammenhengen, er datasystemer som har stor grad av selvstendighet, og som kan gjøre ting de ikke har gjort før, noe som potensielt kan være ødeleggende for oss mennesker.

- Teknologi er et gode

For dem som i likhet med Musk er bekymret for hvordan teknologien kan påvirke menneskeheten i framtida, påpeker Tørresen at selv om automatisering av samfunnet gjør oss mer sårbare, så gir den oss mange fordeler.

- Vi har fått det mye bedre og lettere som følge av teknologien, og det er noe som vil fortsette i framtida. Vi lager teknologi for at den skal hjelpe oss og for at den skal gjøre gode ting for menneskeheten. Men all teknologi kan også misbrukes. Det som er viktig da er sikkerheten rundt teknologien, at den må bli laget for å fungere på en trygg måte.

Han legger til at teknologi «ikke er noe som kommer valsende mot og over oss», men at vi vil ha mulighet til å påvirke omfanget av den.

- Det vil ligge ganske mange menneskelige valg til grunn. Om den ikke gir oss nok fordeler, vil vi nok ikke ta den imot med åpne armer.

PÅ LANGTUR: Elon Musks Tesla Roadster er på vei ut i evigheten. Men eksperter tviler på at bilen vil motstå kreftene den møter i verdensrommet. Video: SpaceX Vis mer

Har spådd tredje verdenskrig

Dokumentaren er ikke første og eneste eksempelet på at mannen, som for et par måneder siden sendte en bil ut i verdensrommet, sammen med verdens kraftigste rakett, kommer med dystre spådommer om framtiden.

I fjor sommer var Musk og Facebook-gründer Mark Zuckerberg i full krangel om smarte maskiner.

Dette etter Musks uttalelse om at «kunstig intelligens er den største faren sivilisasjonen vår står overfor». Zuckerberg uttalte på sin side at han ikke forstår seg «på folk som er negative, og som framfører et dommedagsbudskap.»

Optimismen fra Zuckerberg springer ut fra et syn på framtiden og dens teknologiske utvikling som et gode for menneskeheten. Det står i sterk kontrast til Musks «største frykt» om at kunstig intelligens skal danne et nettverk, og få et motiv for å skade mennesker.

Dette ved å gjøre ting som å starte en krig gjennom falske nyheter, overta e-postadresser eller manipulere informasjon.

I fjor høst gikk han så langt som å spå at kunstig intelligens ville forårsake den neste verdenskrigen:

Også den nylig avdøde fysikeren Stephen Hawking har kommet med bekymringsfulle uttalelser om hvordan kunstig intelligens vil påvirke menneskeheten.

- Å suksessfullt skape kunstig intelligens kan være den største hendelsen i vår sivilisasjons historie. Eller den verste. Vi vet ikke. Så vi kan ikke vite om kunstig intelligens vil gi oss uendelig hjelp, eller om vi blir ignorert av det, eller muligens ødelagt av det, sa Hawking under åpningen av teknologikonferansen Web Summit i Portugal i november i fjor.

Jim Tørresen mener vi ser en endring i det offentlige ordskifte når det gjelder kunstig intelligens.

- Hvis vi ser tilbake, så har det ved flere tilfeller vært folk innen vitenskapen som har fått mye oppmerksomhet rundt det å ha store positive vyer om det som snart kommer, uten at det har slått til. Elon Musk er forretningsmann, men ikke ukjent for å komme med uttalelser som vekker oppsikt.

- Det som har endret seg de siste åra er at det ikke bare er filmskapere som kommer med bekymringer, men også folk fra næringslivet og fra vitenskapen.