ADVARER: Professor Stephen Hawking advarer om utviklingen av kunstig intelligens. Foto: PA Photo/Philip Toscano/NTB Scanpix
ADVARER: Professor Stephen Hawking advarer om utviklingen av kunstig intelligens. Foto: PA Photo/Philip Toscano/NTB ScanpixVis mer

Stephen Hawking om kunstig intelligens: Frykter den verste hendelsen i vår sivilisasjons historie

- Vi må være oppmerksomme på farene.

(Dagbladet): Stephen Hawking mener at kunstig intelligens kan være «den verste hendelsen i vår sivilisasjons historie, med mindre samfunnet finner en måte å kontrollere utviklingen på», skriver CNBC.

Under åpningen av teknologikonferansen Web Summit i Portugal mandag, kom han med illevarslende spådommer om utviklingen av kunstig intelligens.

- Datamaskiner kan, i teorien, etterlikne menneskelig intelligens, og overgå det, sa Hawking.

Største eller verste
- Å suksessfullt skape kunstig intelligens kan være den største hendelsen i vår sivilisasjons historie. Eller den verste. Vi vet ikke. Så vi kan ikke vite om kunstig intelligens vil gi oss uendelig hjelp, eller om vi blir ignorert av det, eller muligens ødelagt av det, sa den berømte fysikeren.

Med mindre vi lærer hvordan vi skal forberede oss på, og unngå, de potensielle risikoene, mener Hawking at kunstig intelligens kan være farlig. Hawking nevner også at dette kan skade økonomien.

Hawking pratet også om at kunstig intelligens potensielt kan bidra til å hindre store skader i naturen - og dens mulige evne til å fjerne fattigdom og sykdommer - og dermed bidra til å forandre verden radikalt.

- Jeg er en optimist, og jeg tror at vi kan skape kunstig intelligens for verdens beste. At det kan fungere i harmoni med oss. Vi må bare være oppmerksomme på farene, identifisere dem, og benytte best mulig praksis og ledelse, og forberede oss for konsekvensene god tid i forveien, sa han under konferansen.

PORTUGAL: Den berømte fysikeren Stephen Hawking var med på å åpne konferansen i Portugal 6. november 2017. Konferansen skal være det største teknologikonferansen i Europa. Foto: AFP PHOTO / PATRICIA DE MELO MOREIRA / NTB Scanpix
PORTUGAL: Den berømte fysikeren Stephen Hawking var med på å åpne konferansen i Portugal 6. november 2017. Konferansen skal være det største teknologikonferansen i Europa. Foto: AFP PHOTO / PATRICIA DE MELO MOREIRA / NTB Scanpix Vis mer

- Umulig å konkludere nå
Bjørn Magnus Mathisen, stipendiat innenfor kunstig intelligens og maskinlæring ved NTNU, er ikke uenig med Hawking – men presiserer at dette er vanskelig å forutse.

- Hawking prøver å fortelle at det er usikkert om kunstig intelligens er bra eller dårlig for oss på lang sikt. Om for eksempel hundre år kan dette gå mange veier, sier han til Dagbladet.

Mathisen sier at det er umulig å konkludere om utviklingen av kunstig intelligens er fullstendig trygg for oss.

- På kort sikt vil jeg si at det er høy sannsynlighet for at kunstig intelligens er en god ting og løser problemer for oss. Nå er det et kappløp for mange selskaper, som for eksempel Microsoft, å være først ute med gode resultater for kreftbehandling ved bruk av kunstig intelligens. Dette er en god konsekvens av teknologien her og nå.

- I mine øyne er kunstig intelligens en teknologi som kan løse problemer vi har slitt med lenge, legger han til.

Grunnlaget må legges nå
Hvis man ser litt lenger framover, tror Mathisen at utviklingen av kunstig intelligens kan gi problemer med arbeidsledighet og økende ulikhet i samfunnet. Dette kan dermed også forstyrre økonomien vår, som Hawking nevner.

- Hawking og flere andre eksperter prøver å formidle at grunnlaget for trygg kunstig intelligens i fjern framtid, må legges nå. Selskaper som utvikler denne teknologien må ta initiativer for å drive etisk riktig forskning. Man må ha etikken i bakhodet imens man forsker og utvikler, sier han.

Uenighet blant ekspertene
Stephen Hawking er ikke alene om sine bekymringer. Tesla- og SpaceX-gründeren Elon Musk er også blant dem som advarer.

- Kunstig intelligens er den største faren sivilisasjonen vår står overfor, sa Musk overfor Fortune i sommer.

I intervjuet advarte Tesla- og SpaceX-gründeren mot en utvikling der konkurranseutsatte selskaper satser på risikabel kunstig intelligens, og ba politikerne komme på banen.

Det ble starten på en offentlig diskusjon mellom ham og Facebook-sjef Mark Zuckerberg. Sistnevnte deler ikke Tesla-sjefens bekymringer for hva den teknologiske utviklingen kan føre til.

- Jeg forstår meg ikke på folk som er negative, og som framfører et dommedagsbudskap, sa Zuckerberg, ifølge CNBC.