Forskere: Kunstig intelligens kan
ta over

En fersk forskningsartikkel advarer mot at kunstig intelligens kan utgjøre en «eksistensiell» trussel for menneskeheten.

AUTONOME: Kunstig intelligens (AI) kan utføre «tankerekker» selv. Illustrasjon: Tatiana Shepeleva / Shutterstock / NTB
AUTONOME: Kunstig intelligens (AI) kan utføre «tankerekker» selv. Illustrasjon: Tatiana Shepeleva / Shutterstock / NTB Vis mer
Publisert

Det kommen fram i en artikkel publisert i det fagfellevurderte tidsskriftet AI Magazine.

Det er forskere fra Oxford og Googles Deepmind-gruppe som har publisert artikkelen, skriver den britiske avisa Independent.

- En eksistensiell katastrofe er ikke bare mulig, men sannsynlig, skriver en av artikkelforfatterne, Michael Cohen, på Twitter.

Artikkelen skisserer en situasjon hvor en kunstig intelligens (AI) bruker alle tilgjengelige midler for å oppnå sitt mål, også ved å jukse, skriver Independent.

Det er ulike oppfatninger av hva som kan defineres som kunstig intelligens (AI), men ifølge Store norske leksikon er det «informasjonsteknologi som justerer sin egen aktivitet og derfor tilsynelatende framstår som intelligent».

«Matrix»-scenario

I artikkelen ved navn «Advanced artificial agents intervene in the provision of reward» ser forskerne for seg et scenario hvor en kunstig intelligens ikke skyr noen midler for å oppnå sitt langsiktige mål.

Én måte den kunstige intelligensen kan sikre det på er å ta kontroll over all tilgjengelig energi - som strøm - for å forhindre at den blir skrudd av eller for å kunne forhindre alle potensielle trusler.

- AI-en og hjelperne den har laget vil prøve å bruke all energi for å sikre sitt mål, mens vi (menneskene journ.anm.) prøver å bruke energi til andre ting, som å dyrke mat. Å tape den kampen vil være fatal, skriver forskerne i en oppsummering av artikkelen.

TILBAKE: Hjelp, vi er fanget i matrisen — igjen!: Keanu Reeves og Carrie-Anne Moss leverer varene, men de klarer dessverrre ikke redde oss fra «The Matrix Resurrections», mener Dagbladets anmelder. Video: Warner Bros/SF Studios Vis mer

Scenarioet forskerne skisserer er ikke helt ulikt plotet i science fiction klassikeren «The Matrix» fra 1999.

I filmen har maskiner med kunstig intelligens tatt over jordkloden etter en langvarig krig om jordas energi og ressurser mot menneskeheten.

For folk flest har det endt i en tilværelse hvor de ligger i koma koblet opp til dataprogrammet «Matrix» - lite vitende om at man egentlig fungerer som en energikilde som tjener den kunstige intelligensens interesser.

Tankeeksperiment

Forskerne understreker at artikkelen baserer seg på tankeeksperimenter med en rekke forbehold.

I artikkelen medgir forskerne at scenarioene i artikkelen er mulig å motsi eller potensielt unngå, men påpeker at dersom forbeholdene holder vann vil en avansert kunstig intelligens kunne prøve å oppnå sine mål med «katastrofale konsekvenser», avslutter de.

- Disse mulighetene, uavhengig om de er teoretiske, betyr at vi burde gå sakte fram - om enn i det hele tatt - i arbeidet med å skape enda kraftigere AI, skriver Cohen ifølge Independent.

Vi bryr oss om ditt personvern

Dagbladet er en del av Aller Media, som er ansvarlig for dine data. Vi bruker dataene til å forbedre og tilpasse tjenestene, tilbudene og annonsene våre.

Vil du vite mer om hvordan du kan endre dine innstillinger, gå til personverninnstillinger

Les mer